×

瓶装水

swMATH ID: 42119
软件作者: Peter West、Ari Holtzman、Jan Buys、Yejin Choi
描述: BottleSum:利用信息瓶颈原理进行无监督和自我监督的句子总结。信息瓶颈的原理(Tishby等人,1999年)是对信息X进行总结,优化信息X以预测其他相关信息Y。在本文中,通过将信息瓶颈原理映射到条件语言建模目标,我们提出了一种新的无监督句子摘要方法:给定一个句子,我们的方法寻求一个能够最佳预测下一个句子的压缩句子。我们在信息瓶颈目标下的迭代算法搜索给定句子的逐渐缩短的子序列,同时最大化以摘要为条件的下一个句子的概率。只使用预训练的语言模型,而不直接监督,我们的方法可以在大型语料库上有效地执行提取句子摘要。在我们的无监督提取摘要(BottleSumEx)的基础上,我们提出了一种新的自监督抽象摘要方法(Bottle SumSelf),其中基于变换器的语言模型是在我们的非监督方法的输出摘要上训练的。实验结果表明,我们的提取方法在多个自动度量方面优于其他无监督模型。此外,通过人类对多个属性的评估,我们发现我们的自监督抽象模型优于无监督基线(包括我们自己的基线)。
主页: https://arxiv.org/abs/1909.07405
源代码:  https://github.com/peterwestuw/Bettle总和
相关软件: 胭脂判决-BERT捷运局移动分数希伯特佩加斯BiSET系列Opinion文摘MLSUM公司高RESSUPERT(超级)FEQA公司带宽总和SummaEval总结FFCI公司BLEU公司SBERT公司BERTS核心罗贝尔塔XLNet公司
引用于: 1文件

在1个字段中引用

1 计算机科学(68至XX)

按年份列出的引文