软件搜索-zbMATH Open

判决-BERT

swMATH ID:	45148
软件作者：	尼尔斯·雷默斯（Nils Reimers）、艾丽娜·古列维奇（Iryna Gurevych）
描述：	句子-BERT：使用暹罗BERT-Networks进行句子嵌入。BERT（Devlin等人，2018年）和RoBERTa（Liu等人，2019年）在语义文本相似性（STS）等句子对回归任务上建立了最新的性能。然而，它需要将两个句子都输入网络，这会导致巨大的计算开销：在10000个句子集合中找到最相似的一对需要大约5000万次BERT推理计算（65小时）。BERT的构造使其不适合于语义相似性搜索以及聚类等无监督任务。在本出版物中，我们提出了句子BERT（SBERT），对预处理BERT网络进行了修改，使用连词和三元组网络结构导出语义有意义的句子嵌入，可以使用余弦相似性进行比较。这样，在保持BERT精度的同时，从BERT/RoBERTa的65小时到SBERT的约5秒，可以减少查找最相似对的工作量。我们在常见的STS任务和转移学习任务中评估了SBERT和SRoBERTa，其中它优于其他最先进的句子嵌入方法。
主页：	https://arxiv.org/abs/1908.10084
源代码：	https://github.com/UKPAb/sentence-transformers网站
相关软件：	SBERT公司;BERT（误码率）;罗伯塔;单词2vec;手套;张紧器2传感器;亚当;捷运局;BLEU公司;变压器;AlexNet公司;SimCLR（模拟清除）;图像网络;GitHub公司;艾伯特;LSTM公司;迪蒂尔伯特;蟒蛇;BERTS核心;胭脂
引用于：	15文件

2	人工智能研究杂志
2	计算机科学评论
1	人工智能
1	统计年鉴
1	信息科学
1	排队系统
1	AI通信
1	机器学习
1	洛巴切夫斯基数学杂志
1	Prikladnaya Diskretnaya Matematika公司