4 个月前

BERT:用于语言理解的深度双向变压器预训练

BERT:用于语言理解的深度双向变压器预训练

摘要

请提供需要翻译的英文内容。

代码仓库

Holldean/BERT-Pruning
tf
GitHub 中提及
Zehui127/SQUAD_BERT
tf
GitHub 中提及
crx934080895/Bert-CRF_New2
tf
GitHub 中提及
liuqiangict/lamb_optimizer
tf
GitHub 中提及
pengshuyuan/Bert
tf
GitHub 中提及
stefan-it/europeana-bert
tf
GitHub 中提及
dzqjorking/transpose
tf
GitHub 中提及
tdd-ai/data-collection
GitHub 中提及
cybertronai/megatron-lm
pytorch
GitHub 中提及
airsplay/vimpac
pytorch
GitHub 中提及
gouwenrui/cpe-pro-main
pytorch
GitHub 中提及
thanhlong1997/bert_quora
tf
GitHub 中提及
zhang-huihui/git-repository
tf
GitHub 中提及
Zeeshan75/Bert_Telugu_Ner
tf
GitHub 中提及
debnsuma/AmazonSageMaker101
pytorch
GitHub 中提及
Satan012/BERT
tf
GitHub 中提及
yifding/hetseq
pytorch
GitHub 中提及
tugstugi/mongolian-bert
tf
GitHub 中提及
maxudong1993/mybert
tf
GitHub 中提及
RonRaifer/BERT-Ghazali
pytorch
GitHub 中提及
MansMeg/IntroML
GitHub 中提及
awslabs/mlm-scoring
mxnet
GitHub 中提及
guzhang480/Google_BERT
tf
GitHub 中提及
tmalbonph/tcbert
tf
GitHub 中提及
algharak/BERTenhance
tf
GitHub 中提及
fanchenyou/transformer-study
pytorch
GitHub 中提及
MarcosGrzeca/drunktweets
GitHub 中提及
Kosuke-Szk/BERT-NER-ja
tf
GitHub 中提及
kiko441500/google_bert
tf
GitHub 中提及
Kerram/Deephol-Bert-Zpp
tf
GitHub 中提及
vanpersie32/Multigpu-Bert
tf
GitHub 中提及
zapplea/bert
tf
GitHub 中提及
common-english/bert-all
pytorch
GitHub 中提及
TonyX19/bert_hyperpartisan
tf
GitHub 中提及
DeligientSloth/QQsim
tf
GitHub 中提及
YYGXjpg/BERT_WL
tf
GitHub 中提及
LeoWood/bert-horovod
tf
GitHub 中提及
benywon/ReCO
pytorch
GitHub 中提及
amauriciorr/AubreyBot
pytorch
GitHub 中提及
semal/bert
tf
GitHub 中提及
kpe/bert-for-tf2
tf
GitHub 中提及
ganeshjawahar/interpret_bert
pytorch
GitHub 中提及
siramatu/brigade-visualizer
tf
GitHub 中提及
khalidsaifullaah/bertify
pytorch
GitHub 中提及
google-deepmind/xquad
GitHub 中提及
sagorbrur/codeswitch
pytorch
GitHub 中提及
yangyucheng000/ascend_albert
mindspore
GitHub 中提及
ymcui/LAMB_Optimizer_TF
tf
GitHub 中提及
TSLNIHAOGIT/bert
tf
GitHub 中提及
habibullah-araphat/BERT-GPU
tf
GitHub 中提及
YuehChuan/bert-Agus
tf
GitHub 中提及
LoveYang/bert_test
tf
GitHub 中提及
sberbank-ai/ner-bert
pytorch
GitHub 中提及
louis-udm/ner-bert-crf
pytorch
GitHub 中提及
sunyilgdx/prompts4keras
tf
GitHub 中提及
GauthierDmn/question_answering
pytorch
GitHub 中提及
enod/arxiv-nlp-notes
GitHub 中提及
KeithGalli/pycon2020
GitHub 中提及
phohenecker/pytorch-transformer
pytorch
GitHub 中提及
lcs2-iiitd/emotion-flip-reasoning
pytorch
GitHub 中提及
uygarkurt/BERT-PyTorch
pytorch
GitHub 中提及
noelkelias/multitok
pytorch
GitHub 中提及
JohannLee1996/bert
tf
GitHub 中提及
Y1ran/NLP-BERT--ChineseVersion
pytorch
GitHub 中提及
coco60/bert-test
tf
GitHub 中提及
yiyc-kor/bert-study
tf
GitHub 中提及
dhlee347/pytorchic-bert
pytorch
GitHub 中提及
UnknownGenie/altered-BERT-KPE
pytorch
GitHub 中提及
davidbellamy/labrador
tf
GitHub 中提及
kelly2016/multi-label-bert
tf
GitHub 中提及
socc-io/piqaboo
tf
GitHub 中提及
autobotasia/vibert
tf
GitHub 中提及
hoichunlaw/COVID-BERT
GitHub 中提及
a414351664/Bert_MRC
tf
GitHub 中提及
cospplay/bert-master
tf
GitHub 中提及
mayurnewase/Quora-Bert
tf
GitHub 中提及
lukemelas/PyTorch-Pretrained-ViT
pytorch
GitHub 中提及
RxstydnR/Stock_BERT
GitHub 中提及
deepmipt/Slavic-BERT-NER
tf
GitHub 中提及
why2000/DuReader-bert
tf
GitHub 中提及
kyzhouhzau/BERT-NER
tf
GitHub 中提及
pfecht/bert-exploration
pytorch
GitHub 中提及
rickyHong/Google-BERT-repl
tf
GitHub 中提及
paolanu/BERT_epitope
tf
GitHub 中提及
knuddj1/op_text
pytorch
GitHub 中提及
SpikeKing/My-Bert
tf
GitHub 中提及
flyliu2017/bert_modularized
tf
GitHub 中提及
vijay120/bert
tf
GitHub 中提及
goodluck4s/bert-
tf
GitHub 中提及
jangjoongkeon/JK
GitHub 中提及
MaZhiyuanBUAA/bert-tf1.4.0
tf
GitHub 中提及
IBM/MAX-Question-Answering
tf
GitHub 中提及
YuanEric88/bert-nlu
tf
GitHub 中提及
1wy/bert
tf
GitHub 中提及
Arthurizijar/Bert_Airport
tf
GitHub 中提及
karta282950/bert-multiclass
tf
GitHub 中提及
IBM/MAX-Toxic-Comment-Classifier
pytorch
GitHub 中提及
Shinya-Kouda/kgc
tf
GitHub 中提及
diabhaque/Sixth-Sense
tf
GitHub 中提及
babelscape/wikineural
pytorch
GitHub 中提及
Nstats/bert_MRC
tf
GitHub 中提及
qbxlvnf11/BERT
pytorch
GitHub 中提及
google-research/bigbird
tf
GitHub 中提及
haydlite/sparse-bert-ner
tf
GitHub 中提及
volcengine/vegiantmodel
pytorch
GitHub 中提及
joongbo/tta
tf
GitHub 中提及
mirbostani/QA-KD-AL
pytorch
GitHub 中提及
KnightZhang625/BERT_TF
tf
GitHub 中提及
PaddlePaddle/models
paddle
GitHub 中提及
Jackma3/NER-Bert-BiLstm
pytorch
GitHub 中提及
johnr0/TaleBrush-backend
pytorch
GitHub 中提及
hate-alert/indicabusive
pytorch
GitHub 中提及
tobyatgithub/bert_tutorial
pytorch
GitHub 中提及
flyliu2017/bert
tf
GitHub 中提及
StoneGH/bert
tf
GitHub 中提及
gbcolborne/lang_id
pytorch
GitHub 中提及
weidafeng/NLU2019
pytorch
GitHub 中提及
longbowking/bert
tf
GitHub 中提及
musixmatchresearch/umberto
pytorch
GitHub 中提及
cmunnis/BERT_vs_Transformer-XL
pytorch
GitHub 中提及
SAP-samples/acl2019-commonsense
pytorch
GitHub 中提及
ambityga/memsem
tf
GitHub 中提及
BirgerMoell/bertcastle
pytorch
GitHub 中提及
Colanim/BERT_STS-B
tf
GitHub 中提及
facebookresearch/anli
pytorch
GitHub 中提及
dreamgonfly/BERT-pytorch
pytorch
GitHub 中提及
Eeun-ju/NLP-study
pytorch
GitHub 中提及
anton-bushuiev/ppiformer
pytorch
GitHub 中提及
TSLNIHAOGIT/bert_run
tf
GitHub 中提及
bhavitvyamalik/bert
tf
GitHub 中提及
brightmart/bert_original
tf
GitHub 中提及
rohanshad/cmr_transformer
pytorch
GitHub 中提及
g-eklund/bert_tutorial
GitHub 中提及
sherinaseri/bert
tf
GitHub 中提及
noise-learning/selfmix
pytorch
GitHub 中提及
om00839/machine-suneung
pytorch
GitHub 中提及
Caesarzhang/bert-zh
tf
GitHub 中提及
xiangyue9607/CliniRC
tf
GitHub 中提及
cuber2460/bert
tf
GitHub 中提及
epcpu/deep-nlp-links
pytorch
GitHub 中提及
knuddy/op_text
pytorch
GitHub 中提及
Unbabel/COMET
pytorch
GitHub 中提及
luckynozomi/PPI_Bert
tf
GitHub 中提及
wzzzd/LM_NER
pytorch
GitHub 中提及
re-search/DocProduct
tf
GitHub 中提及
faizansuhail89/bert
tf
GitHub 中提及
Katsumata420/bert_mlm
tf
GitHub 中提及
MichaelZhouwang/LMlexsub
tf
GitHub 中提及
Microsoft/AzureML-BERT
pytorch
GitHub 中提及
zaaztt/bert_chinese_example
tf
GitHub 中提及
dispink/xpt
pytorch
GitHub 中提及
chen-xiong-yi/OwnBERT
tf
GitHub 中提及
chandu7077/mybert
tf
GitHub 中提及
halo090770/bert
tf
GitHub 中提及
karenacorn99/explore-bert
tf
GitHub 中提及
nachiketaa/bert
tf
GitHub 中提及
af-ai-center/bert
pytorch
GitHub 中提及
Sanyuan-Chen/RecAdam
pytorch
GitHub 中提及
brightmart/bert_customized
tf
GitHub 中提及
broccolik/BERT-NER
tf
GitHub 中提及
RenXiangyuan/tf_bert
tf
GitHub 中提及
zhengcj1/ChID-Dataset
tf
GitHub 中提及
stefan-it/historic-ner
GitHub 中提及
Tencent/TurboTransformers
pytorch
GitHub 中提及
lvyufeng/mindspore-nlp-tutorial
mindspore
GitHub 中提及
luozhilin99/bert
mindspore
GitHub 中提及
icewing1996/bert_dep
tf
GitHub 中提及
ManasRMohanty/DS5500-capstone
pytorch
GitHub 中提及
h4ste/oscar
tf
GitHub 中提及
derronxu/sparsebert
pytorch
GitHub 中提及
piegu/language-models
pytorch
GitHub 中提及
thecodemasterk/BERT
tf
GitHub 中提及
writerai/fitbert
pytorch
GitHub 中提及
scotthlee/injury_autocoding
tf
GitHub 中提及
llx666/git_demo
tf
GitHub 中提及
ufal/wembedding_service
tf
GitHub 中提及
kpot/keras-transformer
tf
GitHub 中提及
linlei1214/SITS-BERT
pytorch
GitHub 中提及
huggingface/transformers
pytorch
GitHub 中提及
meizi1114/bert
tf
GitHub 中提及
lennonzurich/lalala
tf
GitHub 中提及
bino282/bert4news
pytorch
GitHub 中提及
sajjjadayobi/ParsBigBird
GitHub 中提及
athms/learning-from-brains
pytorch
GitHub 中提及
helboukkouri/character-bert
pytorch
GitHub 中提及
jsantoso2/yelp-clone-ml-project
pytorch
GitHub 中提及
jageshmaharjan/BERT_Service
tf
GitHub 中提及
saravanakumarjsk/BERT-collection
pytorch
GitHub 中提及
HuihuiChyan/BJTUNLP_Practice2021
pytorch
GitHub 中提及
somiltg/bert
tf
GitHub 中提及
flxst/nerblackbox
GitHub 中提及
graykode/nlp-tutorial
pytorch
GitHub 中提及
FaskyCC/TextClassification
tf
GitHub 中提及
Misoknisky/Bert-MultiGpu
tf
GitHub 中提及
AtmaHou/MetaDialog
pytorch
GitHub 中提及
owainwest/uniprot_bert
tf
GitHub 中提及
yangyucheng000/bert_Ascend
mindspore
GitHub 中提及
chujiezheng/ChID-Dataset
tf
GitHub 中提及
kingcheng2000/bert
tf
GitHub 中提及
fancyerii/bert
tf
GitHub 中提及
rajlm10/Chandler
tf
GitHub 中提及
shaikhzhas/bert
tf
GitHub 中提及
kobowon/cs470_project_version2
pytorch
GitHub 中提及
gggggeun/DeepLearning_Architecture
pytorch
GitHub 中提及
scut-bds/example_repo_from_scutbds
pytorch
GitHub 中提及
wenhuchen/HDSA-Dialog
pytorch
GitHub 中提及
JNUpython/bert
tf
GitHub 中提及
zsweet/BERT_zsw
tf
GitHub 中提及
saurabhnlp/bert
tf
GitHub 中提及
reppy4620/Dialog
pytorch
GitHub 中提及
FengJiaChunFromSYSU/Bert
tf
GitHub 中提及
polzinben/TensorFlow_NLP
tf
GitHub 中提及
jiyuan/ainote
tf
GitHub 中提及
svakulenk0/response_eval
tf
GitHub 中提及
Sikun/dlam_project
tf
GitHub 中提及
arkel23/PyTorch-Pretrained-ViT
pytorch
GitHub 中提及
Chonwai/Learning_BERT
tf
GitHub 中提及
jungomi/swiss-language-model
pytorch
GitHub 中提及
ProsusAI/finBERT
pytorch
GitHub 中提及
Coda-s/BJTU_NLP_Practice
pytorch
GitHub 中提及
JA-Bar/nlp-depression
tf
GitHub 中提及
junhahyung/bert_finetune
tf
GitHub 中提及
pytorch/text
pytorch
GitHub 中提及
thu-keg/omnievent
pytorch
GitHub 中提及
af-ai-center/nerblackbox
GitHub 中提及
abhiagg92/bert_sentiment
tf
GitHub 中提及
xiaopp123/bert_explain
tf
GitHub 中提及
heraclex12/vietpunc
jax
GitHub 中提及
CyberZHG/keras-bert
tf
GitHub 中提及
Qordobacode/fitbert
pytorch
GitHub 中提及
octanove/grammartagger
pytorch
GitHub 中提及
yydai/bert_test
tf
GitHub 中提及
coronazap/bert_client
tf
GitHub 中提及
HuihuiChyan/BJTUNLP_Practice2020
pytorch
GitHub 中提及
ArvinZhuang/BiTAG
pytorch
GitHub 中提及
evtaktasheva/dependency_extraction
pytorch
GitHub 中提及
EuphoriaYan/bert_component
tf
GitHub 中提及
huanghonggit/Mask-Language-Model
pytorch
GitHub 中提及
epfml/collaborative-attention
pytorch
GitHub 中提及
ricardordb/bert
tf
GitHub 中提及
imgarylai/bert-embedding
mxnet
GitHub 中提及
DimasDMM/nlp-completer
pytorch
GitHub 中提及
mtzcorporations/nlp_teamjodka
pytorch
GitHub 中提及
uva-dsa/ems-pipeline
tf
GitHub 中提及
fciannel/bert_fciannel
tf
GitHub 中提及
eagle705/bert
tf
GitHub 中提及
2023-MindSpore-1/ms-code-56
mindspore
GitHub 中提及
bcaitech1/p2-klue-Heeseok-Jeong
pytorch
GitHub 中提及
gcunhase/embracebert
pytorch
GitHub 中提及
Osobarako/alduswarrensewell
tf
GitHub 中提及
pisalore/roberta_results
pytorch
GitHub 中提及
tyxr/bert
tf
GitHub 中提及
frankcgq105/BERTCHEN
tf
GitHub 中提及
davidsvaughn/dts-tf
tf
GitHub 中提及
xuzhezhaozhao/bert_reading
tf
GitHub 中提及
salesforce/GeDi
pytorch
GitHub 中提及
charles9n/bert-sklearn
pytorch
GitHub 中提及
BinWang28/BERT_Sentence_Embedding
pytorch
GitHub 中提及
Guowei-Yan/Data
pytorch
GitHub 中提及
mkavim/finetune_bert
tf
GitHub 中提及
joytianya/google_bert
tf
GitHub 中提及
EssayKillerBrain/NLP-BERT-Chinese
pytorch
GitHub 中提及
avichaychriqui/HeBERT
pytorch
GitHub 中提及
nmfisher/bert-modified
tf
GitHub 中提及
kyubyong/bert_ner
pytorch
GitHub 中提及
tree-park/bert-pretrainer
pytorch
GitHub 中提及
LorenzoAgnolucci/BERT_for_ABSA
pytorch
GitHub 中提及
okanvk/ENELPI---Soru-Cevap-Sistemi
pytorch
GitHub 中提及
nerdimite/bert-finetuning-webinar
pytorch
GitHub 中提及
lemonhu/ner-bert-pytorch
pytorch
GitHub 中提及
2023-MindSpore-1/ms-code-11
mindspore
GitHub 中提及
Linar23/Research_work
pytorch
GitHub 中提及
mhaseeb123/DeepMSim
tf
GitHub 中提及
xesdiny/test-bert-master
tf
GitHub 中提及
benywon/ChiQA
pytorch
GitHub 中提及
DimasDMM/transformers
pytorch
GitHub 中提及
glassroom/heinsen_routing
pytorch
GitHub 中提及
guoyaohua/BERT-Classifier
tf
GitHub 中提及
yuhangT/tf_bert
tf
GitHub 中提及
yanzhitech/bert
GitHub 中提及
Kyubyong/bert-token-embeddings
pytorch
GitHub 中提及
darr/nlp_work
GitHub 中提及
nachiketaa/BERT-pytorch
pytorch
GitHub 中提及
chiayewken/bert-qa
tf
GitHub 中提及
mocherson/aki_bert
pytorch
GitHub 中提及
benywon/ComQA
pytorch
GitHub 中提及
deepmind/xquad
GitHub 中提及
kaushaltrivedi/fast-bert
pytorch
GitHub 中提及
Charliesgithub20221030/BERT
tf
GitHub 中提及
madhawav/MML
pytorch
GitHub 中提及
haidershaour/bert
tf
GitHub 中提及
codertimo/BERT-pytorch
pytorch
GitHub 中提及
meelfy/pytorch_pretrained_bert
pytorch
GitHub 中提及
benywon/ChineseBert
pytorch
GitHub 中提及
hegebharat/SelfDiscovery
pytorch
GitHub 中提及
qywu/Chinese-GPT
pytorch
GitHub 中提及
wchh127/yykf
tf
GitHub 中提及
ABaldrati/MT-BERT
pytorch
GitHub 中提及
rpuiggari/bert2
tf
GitHub 中提及
rohan400/PepperQA
tf
GitHub 中提及
Nstats/my_bert
tf
GitHub 中提及
zaradana/Fast_BERT
pytorch
GitHub 中提及
goldenbili/Bert_Test2
tf
GitHub 中提及
thunlp/ReInfoSelect
pytorch
GitHub 中提及
utterworks/fast-bert
pytorch
GitHub 中提及
StuartCHAN/KARL
pytorch
GitHub 中提及
Nimesh-Patel/BERT
tf
GitHub 中提及
goldenbili/Bert_Test3
tf
GitHub 中提及
wzzzd/Pretrain_Bert_with_MaskLM
pytorch
GitHub 中提及
han-shi/SparseBERT
pytorch
GitHub 中提及
myamamoto555/tf-bert
tf
GitHub 中提及
tcnguyen/bert
tf
GitHub 中提及
JMSaindon/NlpSquad
pytorch
GitHub 中提及
xitianxiaofeixue/BERT
tf
GitHub 中提及
somiltg/xquad
GitHub 中提及
wayalhruhi/gogle_bert
tf
GitHub 中提及
XINZXZHANG/Bert_repo
tf
GitHub 中提及
Maz101/pretrainingdataset
tf
GitHub 中提及
bit-ml/anoshift
pytorch
GitHub 中提及
tornermarton/bert-keras
tf
GitHub 中提及
SCismycat/bert_code_view
tf
GitHub 中提及
sagorbrur/bangla-bert
tf
GitHub 中提及
yuelinan/c3vg
pytorch
GitHub 中提及
brightmart/roberta_zh
tf
GitHub 中提及
TidalPaladin/neural-summarizer
pytorch
GitHub 中提及
wangcongcong123/ttt
pytorch
GitHub 中提及
Xinsen-Zhang/transformer
paddle
GitHub 中提及
TheNeuromancer/SentEmb
pytorch
GitHub 中提及
theQuert/inlpfun
tf
GitHub 中提及
Hibb-bb/ALLM
pytorch
GitHub 中提及
whqwill/seq2seq-keyphrase-bert
pytorch
GitHub 中提及
dbmdz/historic-ner
GitHub 中提及
keiyamashita111/aaproject
tf
GitHub 中提及
tvinith/bert
tf
GitHub 中提及
2023-MindSpore-1/ms-code-12
mindspore
GitHub 中提及
kingcong/gpu_albert
mindspore
GitHub 中提及
the-Quert/iNLPfun
tf
GitHub 中提及
google-research/bert
官方
tf
GitHub 中提及
nageshsinghc4/deepwrap
tf
GitHub 中提及
MINGG2333/bert_ms
mindspore
GitHub 中提及
binhetech/bert-application
tf
GitHub 中提及
kinimod23/NMT_Project
GitHub 中提及
lkfo415579/MT-Readling-List
tf
GitHub 中提及
aleksac99/SQuAD-SR
GitHub 中提及
eaishwa/quora-ques-pair-similarity
pytorch
GitHub 中提及
Farahn/AES
tf
GitHub 中提及
darr/nerbert
pytorch
GitHub 中提及
Walter-B/bert-20-classes
tf
GitHub 中提及
junhahyung/bert_transfer
tf
GitHub 中提及
jinzhenfan/BERT
tf
GitHub 中提及
vanslerry/long_text
tf
GitHub 中提及
skoltech-nlp/rudetoxifier
pytorch
GitHub 中提及
Impavidity/relogic
pytorch
GitHub 中提及
abhilashreddys/Fake-News-Article
pytorch
GitHub 中提及
chalothon/BERT_Practice
tf
GitHub 中提及
mindspore-courses/ABSA-MindSpore
mindspore
GitHub 中提及
google/seqio
tf
GitHub 中提及
Maz101/Bert
tf
GitHub 中提及
pingheng001/Cnn-Bert
tf
GitHub 中提及
teghub/TurkishNER-BERT
tf
GitHub 中提及
MalteHB/-l-ctra
tf
GitHub 中提及
deepset-ai/FARM
pytorch
GitHub 中提及
appcoreopc/berty
tf
GitHub 中提及
debnsuma/Intro-Transformer-BERT
pytorch
GitHub 中提及
nicholasbao/nlp_job
tf
GitHub 中提及
geondopark/ckd
pytorch
GitHub 中提及

基准测试

基准方法指标
common-sense-reasoning-on-recordBERT-Base (single model)
EM: 54.040
F1: 56.065
common-sense-reasoning-on-swagBERT-LARGE
Dev: 86.6
Test: 86.3
coreference-resolution-on-winograd-schemaBERT-large 340M
Accuracy: 62.0
cross-lingual-natural-language-inference-on-1BERT
Accuracy: 74.3%
cross-lingual-natural-language-inference-on-3BERT
Accuracy: 70.5%
emotion-recognition-in-conversation-on-cpedBERT_{utt}
Accuracy of Sentiment: 48.96
Macro-F1 of Sentiment: 45.18
linguistic-acceptability-on-colaBERT-LARGE
Accuracy: 60.5%
multimodal-intent-recognition-on-photochatBERT
F1: 53.2
Precision: 56.1
Recall: 50.6
natural-language-inference-on-multinliBERT-LARGE
Matched: 86.7
Mismatched: 85.9
natural-language-inference-on-qnliBERT-LARGE
Accuracy: 92.7%
natural-language-inference-on-rteBERT-large 340M
Accuracy: 70.1%
natural-language-inference-on-wnliBERT-large 340M
Accuracy: 65.1
natural-language-understanding-on-glueBERT-LARGE
Average: 82.1
natural-language-understanding-on-pdp60BERT-large 340M
Accuracy: 78.3
paraphrase-identification-on-quora-questionBERT-LARGE
F1: 72.1
question-answering-on-coqaBERT Large Augmented (single model)
In-domain: 82.5
Out-of-domain: 77.6
Overall: 81.1
question-answering-on-coqaBERT-base finetune (single model)
In-domain: 79.8
Out-of-domain: 74.1
Overall: 78.1
question-answering-on-mrqa-2019BERT (large)
Average F1: 78.5
question-answering-on-multircBERT-large(single model)
EM: 24.1
F1: 70.0
question-answering-on-multitqBERT
Hits@1: 8.3
Hits@10: 48.2
question-answering-on-piqaBERT-Large 340M
Accuracy: 66.7
question-answering-on-squad11BERT-LARGE (Ensemble+TriviaQA)
EM: 87.4
F1: 93.2
question-answering-on-squad11BERT (ensemble)
EM: 87.433
F1: 93.160
question-answering-on-squad11BERT (single model)
EM: 85.083
F1: 91.835
question-answering-on-squad11BERT-LARGE (Single+TriviaQA)
F1: 91.8
question-answering-on-squad11-devBERT-LARGE (Ensemble+TriviaQA)
EM: 86.2
F1: 92.2
question-answering-on-squad11-devBERT-LARGE (Single+TriviaQA)
EM: 84.2
F1: 91.1
semantic-textual-similarity-on-mrpcBERT-LARGE
F1: 89.3
semantic-textual-similarity-on-sts-benchmarkBERT-LARGE
Spearman Correlation: 0.865
sentiment-analysis-on-sst-2-binaryBERT-LARGE
Accuracy: 94.9
stock-market-prediction-on-astockBert Chinese
Accuray: 59.11
F1-score: 58.99
Precision: 59.07
Recall: 59.20
text-classification-on-dbpediaBidirectional Encoder Representations from Transformers
Error: 0.64
type-prediction-on-manytypes4typescriptBERT
Average Accuracy: 57.52
Average F1: 54.10
Average Precision: 54.18
Average Recall: 54.02

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
BERT:用于语言理解的深度双向变压器预训练 | 论文 | HyperAI超神经