CURI:不确定性下生产性概念学习的基准
Ramakrishna Vedantam、Arthur Szlam、Maximillian Nickel、Ari Morcos、Brenden M Lake
第38届机器学习国际会议论文集,电话:139:10519-105292021。
摘要
人类可以在一个由无数组成的、富有成果的概念组成的空间中,在巨大的不确定性下学习和推理。例如,如果一个有两个蓝色球体的场景符合“daxy”的条件,则可以推断基本概念可能要求场景“只有蓝色球体”、“只有球体”或“只有两个对象”。相比之下,合成推理的标准基准并没有明确捕获不确定性下的推理概念,也没有评估合成概念的获取。我们引入了一个新的基准——不确定性下的合成推理(CURI),该基准在生产性概念空间中实例化了一系列少量元学习任务,以评估不确定性下系统泛化的不同方面,包括测试解纠缠抽象理解、生产性泛化、,学习布尔运算、变量绑定等。重要的是,我们还贡献了一个独立于模型的“组合性缺口”来评估沿这些轴中的每个轴进行分布外泛化的难度,从而可以客观比较每个组合拆分的难度。对一系列建模选择和分割的评估表明,在建议的基准上有很大的改进空间。
引用本文
相关材料