4 个月前

BERT 后训练在评论阅读理解及基于方面的情感分析中的应用

BERT 后训练在评论阅读理解及基于方面的情感分析中的应用

摘要

问答在电子商务中发挥着重要作用,因为它允许潜在客户积极获取有关产品或服务的关键信息,以帮助他们做出购买决策。受到机器阅读理解(MRC)在正式文档上取得的最新成功的启发,本文探讨了将客户评论转化为可利用的知识来源以回答用户问题的潜力。我们称这一问题为评论阅读理解(Review Reading Comprehension, RRC)。据我们所知,目前尚无关于RRC的研究工作。在这项研究中,我们首先基于一个流行的面向方面的情感分析基准构建了一个RRC数据集,称为ReviewRC。由于ReviewRC在RRC任务(以及面向方面的情感分析任务)上的训练样本有限,我们随后探索了一种新颖的BERT语言模型后训练方法,以增强BERT在RRC任务上的微调性能。为了展示该方法的通用性,所提出的后训练方法还被应用于其他一些基于评论的任务,例如面向方面的情感分析中的方面提取和方面情感分类。实验结果表明,所提出的后训练方法非常有效。数据集和代码可在https://www.cs.uic.edu/~hxu/ 获取。

代码仓库

howardhsu/BERT-for-RRC-ABSA
pytorch
GitHub 中提及

基准测试

基准方法指标
aspect-based-sentiment-analysis-on-semevalBERT-PT
Laptop (Acc): 78.07
Mean Acc (Restaurant + Laptop): 81.51
Restaurant (Acc): 84.95
aspect-based-sentiment-analysis-on-semeval-7BERT-PT
Laptop (F1): 84.26
Restaurant (F1): 77.97

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
BERT 后训练在评论阅读理解及基于方面的情感分析中的应用 | 论文 | HyperAI超神经