TURL公司 swMATH ID: 45124 软件作者： 邓翔、孙欢、李丽莎、吴优、余聪 描述： TURL：通过表征学习了解表格。Web上的关系表存储了大量的知识。由于这些表格的丰富，在表格理解领域的各种任务上取得了巨大进展。然而，现有的工作通常依赖于高度工程化的特定于任务的特性和模型体系结构。在本文中，我们提出了TURL，这是一个新的框架，它将预训练/微调范式引入到关系Web表中。在预培训期间，我们的框架以无监督的方式学习关系表上的深层上下文化表示。其带有预训练表示的通用模型设计可以应用于范围广泛的任务，并且具有最小的特定任务微调。具体来说，我们提出了一种结构软件Transformer编码器来建模关系表的行-列结构，并提出了一个新的屏蔽实体恢复（Masked Entity Recovery，MER）目标，用于预训练以捕获大规模未标记数据中的语义和知识。我们系统地评估了TURL，基准包括6项不同的表理解任务（例如，关系提取、单元格填充）。我们表明，TURL可以很好地推广到所有任务，并且在几乎所有情况下都大大优于现有方法。 主页： https://arxiv.org/abs/2006.14806 源代码： https://github.com/sunlab-osu/TURL 相关软件： 夏洛克;罗宁;奥图斯 引用于： 1文件 3位作者引用 1 谢尔尼舍夫，G.A。 1 费多罗夫，体育。 1 A.V.米罗诺夫。 连载1篇 1 洛巴切夫斯基数学杂志 在2个字段中引用 1 统计学（62-XX） 1 计算机科学（68至XX） 按年份列出的引文