4 个月前

适应或被淘汰:通过BERT语言模型微调实现领域适应的方面目标情感分类

适应或被淘汰:通过BERT语言模型微调实现领域适应的方面目标情感分类

摘要

方面目标情感分类(ATSC)是基于方面的 sentiment 分析(ABSA)的一个子任务,它在电子商务等领域有着广泛的应用,例如通过利用评论中的数据和见解为企业和客户创造价值。近年来,深度迁移学习方法已成功应用于众多自然语言处理(NLP)任务,包括 ATSC。基于著名的 BERT 语言模型,我们采用两步程序来处理 ATSC:首先进行自监督的领域特定 BERT 语言模型微调,然后进行有监督的任务特定微调。我们的研究发现关于如何最佳利用领域特定语言模型微调的方法使我们在 SemEval 2014 第 4 项任务的餐厅数据集上取得了新的最先进性能。此外,为了探索我们模型在现实世界中的鲁棒性,我们进行了跨域评估。结果显示,经过跨域适应的 BERT 语言模型显著优于像原始 BERT-base 和 XLNet-base 这样的强大基线模型。最后,我们进行了一项案例研究以解释模型预测错误。

代码仓库

deepopinion/domain-adapted-atsc
官方
pytorch
GitHub 中提及
ardyh/bert-ada
pytorch
GitHub 中提及
yangheng95/LC-ABSA
pytorch
GitHub 中提及

基准测试

基准方法指标
aspect-based-sentiment-analysis-on-semevalBERT-ADA
Laptop (Acc): 80.23
Mean Acc (Restaurant + Laptop): 84.06
Restaurant (Acc): 87.89

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
适应或被淘汰:通过BERT语言模型微调实现领域适应的方面目标情感分类 | 论文 | HyperAI超神经