4 个月前

基于注意力机制的无依赖手写验证

基于注意力机制的无依赖手写验证

摘要

作家验证的任务是为查询的手写图像样本和已知的手写图像样本是否属于同一作者提供一个可能性评分。这一任务要求神经网络使其输出结果具有可解释性,即提供对网络决策过程的洞察。我们实现了交叉注意力(cross-attention)和软注意力(soft-attention)机制,以捕捉二维输入在特征空间中的高度相关和显著点。注意力图作为网络输出可能性评分的解释基础。注意力机制还使网络能够更加关注输入的相关区域,从而提高分类性能。我们在CEDAR连笔“AND”数据集中,提出的 方法在检测同作者案例时达到了86%的精确度。此外,我们通过从网络的多个层次提取注意力图生成了有意义的解释,以支持所提供的决策。

代码仓库

基准测试

基准方法指标
handwriting-verification-on-and-datasetSiamese_MHCA_SA
Average F1: 0.81
handwriting-verification-on-cedar-signatureSiamese_MultiHeadCrossAttention_SoftAttention (Siamese_MHCA_SA)
FAR: 5.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于注意力机制的无依赖手写验证 | 论文 | HyperAI超神经