4 个月前

高级基于Transformer的语言模型演变分析:情感挖掘实验

高级基于Transformer的语言模型演变分析:情感挖掘实验

摘要

情感挖掘,也称为情感分析,是自然语言处理(NLP)的一个子领域,专注于识别和提取文本材料中的主观信息。这包括确定文本的整体情感倾向(例如,正面或负面),以及识别文本中表达的具体情绪或观点,涉及使用先进的机器学习和深度学习技术。近年来,基于变压器的语言模型使得人类情感分析任务更加直观,这得益于注意力机制和平行计算的优势。这些优势使得此类模型在语言任务上非常强大,而循环神经网络由于在顺序处理上花费大量时间,处理长文本时容易失败。本文的研究范围旨在探讨最前沿的基于变压器的语言模型在情感挖掘中的表现,并对它们进行高层次的比较以突出其关键特性。此外,我们的比较研究为生产工程师指明了方向,并为研究人员提供了未来研究课题的指导。

基准测试

基准方法指标
opinion-mining-on-imdb-movie-reviewsBERT
Accuracy: 94.0
F1: 94.1
opinion-mining-on-imdb-movie-reviewsConvBERT
Accuracy: 94.5
F1: 94.6
opinion-mining-on-imdb-movie-reviewsGPT
Accuracy: 53.2
F1: 66.4
opinion-mining-on-imdb-movie-reviewsT5
Accuracy: 93.9
F1: 94.0
opinion-mining-on-imdb-movie-reviewsXLNet
Accuracy: 94.8
F1: 94.9
opinion-mining-on-imdb-movie-reviewsDeBERTa
Accuracy: 95.1
F1: 95.1
opinion-mining-on-imdb-movie-reviewsXLM-RoBERTA
Accuracy: 75.2
F1: 77.0
opinion-mining-on-imdb-movie-reviewsDistilBERT
Accuracy: 93.4
F1: 93.5
opinion-mining-on-imdb-movie-reviewsALBERT
Accuracy: 93.0
F1: 93.0
opinion-mining-on-imdb-movie-reviewsGPT-2
Accuracy: 54.5
F1: 52.9
opinion-mining-on-imdb-movie-reviewsRoBERTa
Accuracy: 95.3
F1: 95.3
opinion-mining-on-imdb-movie-reviewsLongformer
Accuracy: 95.0
opinion-mining-on-imdb-movie-reviewsELECTRA
Accuracy: 95.6
F1: 95.6
opinion-mining-on-imdb-movie-reviewsBART
Accuracy: 94.6
opinion-mining-on-imdb-movie-reviewsReformer
Accuracy: 52.2
F1: 53.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
高级基于Transformer的语言模型演变分析:情感挖掘实验 | 论文 | HyperAI超神经