摘要
我们提供了在一般可分度量空间上,在大类非身份证实例序列下,具有对抗性响应的回归算法可证明最小值假设。我们还给出了在这种回归背景下可学习性的特征。我们认为普遍一致性这要求学习者在不受价值观反应限制的情况下保持高度的一致性。我们的分析表明,对于比平稳过程大得多的一类实例序列,这样的目标是可以实现的,并且揭示了值空间之间的基本二分法:有限时域平均估计是否可以实现。我们进一步提供乐观地普遍学习规则,也就是说,如果它们不能实现通用一致性,任何其他算法也会失败。对于无界损失,我们提出了一个温和的可积条件,在该条件下,在大类非身份证实例序列下存在对抗回归算法。此外,我们的分析还为一般度量空间中的平均值估计提供了一个学习规则,该规则在对抗响应下是一致的,序列上没有任何矩条件,这是独立兴趣的结果。
资金筹措表
这项工作的部分资金由ONR赠款N00014-18-2122提供。
致谢
Patrick Jaillet隶属于麻省理工学院信息与决策系统实验室和运营研究中心。
引用
下载引文
莫伊塞·布兰查德。
帕特里克·贾利特(Patrick Jaillet)。
“具有对抗性反应的普遍回归。”
安。统计师。
51
(3)
1401 - 1426,
2023年6月。
https://doi.org/10.1214/23-AOS2299
问询处
收到日期:2022年9月1日;修订日期:2023年3月1日;发布日期:2023年6月
欧几里德项目首次推出:2023年8月20日
数字对象标识符:10.1214/23-AOS2299
学科:
主要用户:6020万,62C05型,62J02型,97K80美元
次要:54E70型
关键词:一致性,一般化,度量空间,非参数估计,在线学习,统计学习理论,随机过程
版权所有©2023数学统计研究所