瓶装水 swMATH ID: 42119 软件作者: Peter West、Ari Holtzman、Jan Buys、Yejin Choi 描述: BottleSum:利用信息瓶颈原理进行无监督和自我监督的句子总结。信息瓶颈的原理(Tishby等人,1999年)是对信息X进行总结,优化信息X以预测其他相关信息Y。在本文中,通过将信息瓶颈原理映射到条件语言建模目标,我们提出了一种新的无监督句子摘要方法:给定一个句子,我们的方法寻求一个能够最佳预测下一个句子的压缩句子。我们在信息瓶颈目标下的迭代算法搜索给定句子的逐渐缩短的子序列,同时最大化以摘要为条件的下一个句子的概率。只使用预训练的语言模型,而不直接监督,我们的方法可以在大型语料库上有效地执行提取句子摘要。在我们的无监督提取摘要(BottleSumEx)的基础上,我们提出了一种新的自监督抽象摘要方法(Bottle SumSelf),其中基于变换器的语言模型是在我们的非监督方法的输出摘要上训练的。实验结果表明,我们的提取方法在多个自动度量方面优于其他无监督模型。此外,通过人类对多个属性的评估,我们发现我们的自监督抽象模型优于无监督基线(包括我们自己的基线)。 主页: https://arxiv.org/abs/1909.07405 源代码: https://github.com/peterwestuw/Bettle总和 相关软件: 胭脂;判决-BERT;捷运局;移动分数;希伯特;佩加斯;BiSET系列;Opinion文摘;MLSUM公司;高RES;SUPERT(超级);FEQA公司;带宽总和;SummaEval总结;FFCI公司;BLEU公司;SBERT公司;BERTS核心;罗贝尔塔;XLNet公司 引用于: 1文件 3位作者引用 1 蒂莫西·鲍德温 1 法伊里·库托 1 刘杰翰 连载1篇 1 人工智能研究杂志 在1个字段中引用 1 计算机科学(68至XX) 按年份列出的引文