计算机科学>计算与语言
标题: 扁平件快速选择提高了精确度和采样效率
摘要: 随着大型语言模型的功能不断增强,提示它们已成为访问它们的主要方式。 这促使了自动选择有效语言提示的策略的发展。 在本文中,我们引入了提示平坦度,这是一种量化语言提示预期效用的新度量。 该度量受到统计学习中的平坦度正则化的启发,该正则化量化了模型对参数扰动的鲁棒性。 我们为该度量及其与其他即时选择度量的关系提供了理论基础,从而全面了解现有方法。 经验表明,将快速平坦度与现有度量相结合可以提高性能和采样效率。 我们的指标优于之前的即时选择指标,在6个分类基准中,准确度平均提高5%,皮尔逊相关性平均提高10%。