The COVID-19 pandemic has affected societies and human health and well-being in various ways. In this study, we collected Reddit data from 2019 (pre-pandemic) and 2020 (pandemic) from the subreddits communities associated with 8 universities, applied natural language processing (NLP) techniques, and trained graphical neural networks with social media data, to study how the pandemic has affected people's emotions and psychological states compared to the pre-pandemic era. Specifically, we first applied a pre-trained Robustly Optimized BERT pre-training approach (RoBERTa) to learn embedding from the semantic information of Reddit messages and trained a graph attention network (GAT) for sentiment classification. The usage of GAT allows us to leverage the relational information among the messages during training. We then applied subgroup-adaptive model stacking to combine the prediction probabilities from RoBERTa and GAT to yield the final classification on sentiment. With the manually labeled and model-predicted sentiment labels on the collected data, we applied a generalized linear mixed-effects model to estimate the effects of pandemic and online teaching on people's sentiment in a statistically significant manner. The results suggest the odds of negative sentiments in 2020 is $14.6\%$ higher than the odds in 2019 ($p$-value $<0.001$), and the odds of negative sentiments are $41.6\%$ higher with in-person teaching than with online teaching in 2020 ($p$-value $=0.037$) in the studied population.


翻译:在这项研究中,我们从与8所大学有关的分编辑社区收集了2019年(广度前)和2020年(广度后)的Reddidi数据,采用了自然语言处理(NLP)技术,并用社交媒体数据收集了经过培训的图形神经网络,以研究该流行病与人口大规模前时代相比如何影响人们的情感和心理状态。具体地说,我们首先采用了预先培训的Robustly优化BERT预培训方法(ROBERTA)学习Redit讯息的语义价值信息,并培训了用于情绪分类的图形关注网络(GAT)。GAT的使用使我们能够在培训期间利用信息之间的关联信息。我们随后采用了分组适应模型,将RoBERTA和GAT的预测概率结合起来,对情绪进行最后分类。在所收集的数据中,用人工标签和模型预测的BERTERT(ROBTA),我们用更高的线性价值信息关注网络上值($0.00美元),在2020年的数学模型中,用高水平的教学混合效应模型估算了20美元。

0
下载
关闭预览

相关内容

图注意力网络(Graph Attention Network,GAT),它通过注意力机制(Attention Mechanism)来对邻居节点做聚合操作,实现了对不同邻居权重的自适应分配,从而大大提高了图神经网络模型的表达能力。
因果推断,Causal Inference:The Mixtape
专知会员服务
105+阅读 · 2021年8月27日
COVID-19文献知识图谱构建,UIUC-哥伦比亚大学
专知会员服务
42+阅读 · 2020年7月2日
因果图,Causal Graphs,52页ppt
专知会员服务
246+阅读 · 2020年4月19日
【Facebook AI】低资源机器翻译,74页ppt
专知会员服务
29+阅读 · 2020年4月8日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
151+阅读 · 2019年10月12日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
AAAI2020 图相关论文集
图与推荐
10+阅读 · 2020年7月15日
已删除
将门创投
4+阅读 · 2020年6月12日
【TED】生命中的每一年的智慧
英语演讲视频每日一推
9+阅读 · 2019年1月29日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
笔记 | Sentiment Analysis
黑龙江大学自然语言处理实验室
10+阅读 · 2018年5月6日
【数据集】新的YELP数据集官方下载
机器学习研究会
16+阅读 · 2017年8月31日
Arxiv
5+阅读 · 2015年9月14日
VIP会员
Top
微信扫码咨询专知VIP会员