语言可解释性工具：可扩展的交互式可视化和分析NLP公司型号

伊恩·坦尼,詹姆斯·韦克斯勒,贾斯米恩·巴斯廷斯,托尔加·博卢巴西,安迪·科宁,塞巴斯蒂安·盖尔曼,江爱伦（Ellen Jiang）,马希玛·普什卡纳,凯里·拉德堡,艾米丽·雷夫,袁安（Ann Yuan）

摘要
我们介绍了语言解释工具（LIT），这是一个用于可视化和理解NLP模型的开源平台。我们关注模型行为的核心问题：为什么我的模型会做出这种预测？什么时候表现不佳？在输入的受控更改下会发生什么？LIT将本地解释、聚合分析和反事实生成集成到一个基于浏览器的简化界面中，以实现快速探索和错误分析。我们包括一系列不同工作流的案例研究，包括探索情绪分析的反事实，测量共指系统中的性别偏见，以及探索文本生成中的局部行为。LIT支持广泛的模型，包括分类、seq2seq和结构化预测，并且可以通过声明性的、与框架无关的API进行高度扩展。LIT正在积极开发中，代码和完整文档可在https://github.com/pair-code/lit。
选集ID：
2020.emnlp演示15
体积：
2020年自然语言处理实证方法会议记录：系统演示
月份：
十月
年份：
2020
地址：
在线的
编辑：
刘群,大卫·施兰根
地点：
EMNLP公司
SIG公司：
出版商：
计算语言学协会
注：
页：
107–118
语言：
网址：
https://aclantology.org/2020.emnlp-demos.15
内政部：
10.18653/v1/2020.emnlp-demos.15
比比键：
引用（ACL）：
伊恩·坦尼（Ian Tenney）、詹姆斯·韦克斯勒（James Wexler）、贾斯米恩·巴斯廷斯（Jasmijn Bastings）、托尔加·博鲁巴西（Tolga Bolukbasi）、安迪·科宁（Andy Coenen）、塞巴斯蒂安·盖尔曼（Sebastian Gehrmann）、江爱伦（Ellen Jiang）、马。2020语言可解释性工具：NLP模型的可扩展交互式可视化和分析.英寸2020年自然语言处理实证方法会议记录：系统演示，第107–118页，在线。计算语言学协会。
引用（非正式）：
语言可解释性工具：NLP模型的可扩展交互式可视化和分析（Tenney等人，EMNLP 2020）
复制引文：
PDF格式：
https://aclantology.org/2020.emnlp-demos.15.pdf
代码
对码/灯
PDF格式 引用 搜索 代码