扁平件快速选择提高了精确度和采样效率

沈玲凤，魏廷丹，郑伯元，丹尼尔·卡沙比

摘要
随着大型语言模型功能的增长，促使它们成为访问它们的主要方式。这促使了自动选择有效语言提示的策略的发展。在本文中，我们引入了**pFlat**（prompt-platform），这是一种新的度量标准，用于量化语言提示符的预期效用。该度量受到统计学习中的“平坦度”正则化的启发，该正则化量化了模型对参数扰动的鲁棒性。我们为该度量及其与其他即时选择度量的关系提供了理论基础，从而全面了解现有方法。从经验上看，我们表明，将**pFlat**与现有指标相结合可以提高性能和采样效率。我们的指标优于之前的即时选择指标，在6个分类基准中，皮尔逊相关性平均增加了10%，并且我们的指标选择的提示比之前的基准中的指标提高了5%的准确性。
选集ID：
2023.结果-emnlp.523
音量：
计算语言学协会的发现：EMNLP 2023
月份：
十二月
年份：
2023
地址：
新加坡
编辑：
Houda Bouamor公司，胡安·皮诺，卡利卡-巴厘岛
地点：
调查结果
SIG公司：
发布者：
计算语言学协会
注：
页：
7795–7817
语言：
网址：
https://acl选集.org/2023.findings-emnlp.523
内政部：
10.18653/v1/2023.查找-emnlp.523
比比键：
引用（ACL）：
沈凌峰、谭伟霆、郑博元和丹尼尔·哈沙比。2023。扁平件快速选择提高了精确度和采样效率.英寸计算语言学协会的研究结果：EMNLP 2023，第7795–7817页，新加坡。计算语言学协会。
引用（非正式）：
扁平件快速选择提高了精确度和采样效率（Shen等人，发现2023）
复制引文：
PDF格式：
https://aclantology.org/2023.findings-emnlp.523.pdf
PDF格式 引用 搜索