呈现六个主题演讲和一个小组的十一位发言人
由Amir Globerson、Kate Saenko、Moritz Hardt、Sergey Levine和Comms主席,萨赫拉·加勒比凯萨比
NeurIPS计划主席很高兴宣布今年的主题演讲人和日程安排——所有列出的时间都在CST中,所有受邀演讲都将在F厅举行。在主节目的每天都有两次受邀演讲,一次在周一的会议开幕式上。所有的主旨都将被录制,并将于1月底向公众开放。
一览表:
- 星期一–比约恩·奥默12月11日下午5:25–6:15
- 星期二–洛拉·阿罗约在上午8:30–9:2012月12日
- 星期二–琳达·史密斯在下午2:15–3:0512月12日
- 星期三–杰拉尼·纳尔逊在上午8:30–9:2012月13日
- 星期三–超出缩放面板12月13日下午2:15–3:15
- 星期四–克里斯托弗·雷在上午8:30–9:2012月14日
- 星期四–苏珊 墨菲在下午2:15-3:0512月14日
亚历山大·拉什将主持周三下午的小组讨论“超越规模”Aakanksha Chowdhery、Angela Fan、Percy Liang和杰唐。有关谁在演讲以及不同的受邀演讲内容的更多信息,请继续阅读会议摘要和演讲者简介。
受邀演讲人
星期一–比约恩·奥默12月11日下午5:25–6:15
周一下午5点25分,邀请对话轨道将在Björn Ommer主持的开幕全体会议上开始,他将讨论“下一代人工智能:规模化的错觉与生成性人工智能的未来.”
摘要计算机视觉和学习的最终目标是能够理解我们(视觉)世界的模型。最近,深层生成模型彻底改变了对我们周围环境的这种表征。随着这种范式成为各种新颖方法和实际应用的核心基础,它正在深刻地改变我们与计算机交互、编程和解决问题的方式。然而,大多数进展都来自于评估模型——到了必要的资源开始对未来(学术)研究、行业和社会造成严重损害的程度。
本次演讲将对比迄今为止最常用的生成模型,并强调尽管它们具有巨大的潜力,但它们仍存在非常具体的局限性。然后,我们将研究缓解策略,如稳定扩散和最近显著提高AI民主化效率的后续工作。随后,演讲将讨论通过模型空间从这场冒险中吸取的教训,以及对生成建模未来的有趣观点,及其对社会的影响。
生物Björn Ommer是慕尼黑大学的全职教授,他领导着计算机视觉与学习小组。此前,他是海德堡大学数学和计算机科学系的全职教授,也是该校科学计算跨学科中心的联合主任。他获得了波恩大学的计算机科学文凭,苏黎世理工学院的博士学位,并且是加州大学伯克利分校的博士后。
比约恩是IEEE T-PAMI的副编辑。他的研究兴趣包括语义场景理解和检索、生成人工智能和视觉合成、自我监督的度量和表征学习以及可解释的人工智能。此外,他正在将这项基础研究应用于神经科学和数字人文学科的跨学科项目。他的团队发布了一系列生成方法,包括“VQGAN”和“稳定扩散”,这些方法现在正在使视觉内容的创作民主化,并在研究、工业、媒体等领域开辟了大量新方向。
星期二–洛拉·阿罗约在上午8:30–9:2012月12日
美国中部标准时间周二上午8:30,洛拉·阿罗约将出席”负责任人工智能的多方面.”
摘要:传统的机器学习范式通常依赖于正面和负面示例之间的二元区别,忽视了渗透在现实世界任务和内容中的微妙的主观性。到目前为止,这种简单的二分法对我们很有帮助,但因为它掩盖了人类视角和观点的固有多样性,以及内容和任务的固有模糊性,所以它对与现实期望相符的模型性能造成了限制。当我们研究与跨不同文化和地理区域采用新兴生成性人工智能能力相关的影响和潜在多方面风险时,这变得更加重要。为了解决这一问题,我们认为,为了实现稳健和负责任的人工智能系统,我们需要将注意力从单一的事实点转移到人工智能系统使用的数据中,并在数据中编织出多样的视角,以确保模型输出的信任、安全和可靠性。
在本次演讲中,我介绍了一些以数据为中心的用例,这些用例说明了内容的固有模糊性和人类视角的自然多样性,这些模糊性导致了不可避免的分歧,需要将其视为信号而非噪声。这就要求采取行动,建立以文化软件和社会为中心的数据质量和数据多样性影响研究,以培训和评估ML模型,并在不同的社会文化背景下培养负责任的AI部署。
生物:我是纽约谷歌研究中心的研究科学家,在那里我从事人工智能数据卓越。我的团队DEER(数据卓越评估响应性)是负责人工智能(RAI)组织的一部分。我们的工作重点是开发度量标准和方法,以衡量人工标记或机器生成数据的质量。本工作的具体范围是收集和评估用于生成性人工智能系统安全评估的对抗数据。我获得了计算机科学硕士学位保加利亚索非亚大学,博士荷兰特温特大学.
我目前担任AAAI HCOMP会议系列我是DataPerf工作组在MLCommons(MLCommons)对以数据为中心的人工智能进行基准测试。查看我们的以数据为核心的挑战对手型Nibbler由支持卡格尔,拥抱的脸和MLCommons(MLCommons). 加入谷歌之前,我是一名计算机科学教授,负责以用户为中心的数据科学研究小组在阿姆斯特丹VU大学。我们的团队发明了群组真相众包方法与IBM的Watson团队合作。该方法已应用于数字人文、医学和在线多媒体等多个领域。作为纽约一家初创公司的首席科学家,我还指导了以人为本的战略塔加萨乌里. 我之前的一些社区贡献包括用户建模协会,项目联合主席2023年网络会议,的成员ACM SIGCHI会议委员会. 有关我的出版物列表,请参阅我的个人资料谷歌学者.
星期二–琳达·史密斯在下午2:15–3:0512月12日
CST周二下午2:15,琳达·史密斯将出现,“一致性统计数据、自我生成的经验以及为什么年轻人比当前的人工智能聪明得多.”
摘要:世界提供了大量的学习数据。无论这些数据中有多少是潜在的,只有通过物理世界中的物理行为才能显现出来。这些行动和揭示的数据的结构受到时间和空间连续性的严格约束。在本次演讲中,我将提供证据,证明婴儿和儿童日常生活经历在多个时间尺度上的统计数据具有自然的连贯性结构,能够从稀疏数据和一次性经历中快速学习和创新概括。人工智能中一个常见的简化假设是,数据的数量才是最重要的:如果收集和聚合了足够的数据,它将包含优化性能所必需的潜在结构。人类以自我为中心经验的统计结果表明,这种假设可能严重偏离了目标
生物:琳达·B·史密斯,印第安纳大学布卢明顿分校杰出教授,是一个i国际公认的认知科学和认知发展领导者。她从复杂系统的角度出发,试图了解出生后前三年内感知、运动和认知发展之间的相互依赖关系。她使用包括头戴式相机和运动传感器在内的可穿戴传感器,研究年轻学习者自己的行为如何创建学习环境的统计结构,目前的重点是日常生活中不断变化的视觉统计数据及其在运动、知觉和语言发展中的作用。这项工作通过人工智能和教育领域的合作带来了新的见解。这项工作还激发了她目前在定义和促进精确(或个性化)发展科学方面的努力,这门科学可以确定创造儿童个体发展道路的多种原因和相互作用的因素。史密斯于1977年获得宾夕法尼亚大学博士学位,并立即加入印第安纳大学。自1978年以来,她的工作一直得到国家科学基金会和/或国家卫生研究院的资助。她获得了David E.Rumelhart认知科学理论贡献奖、美国心理学会杰出科学贡献奖、William James Fellow美国心理学会奖、Norman Anderson终身成就奖和Koffka奖章。她是美国国家科学院和美国艺术与科学院的当选成员。
星期三–杰拉尼·纳尔逊在上午8:30–9:2012月13日
美国中部标准时间星期三上午8:30,杰拉尼·纳尔逊将出现“素描:核心工具、学习增强和自适应稳健性.”
摘要:数据的“草图”是经过内存压缩的摘要,仍然可以回答有用的查询,并且作为一种工具,它在算法设计、优化、机器学习等方面得到了应用。本讲座将概述一些核心草图绘制工具及其工作原理,包括最新进展。我们还讨论了两个新的活跃研究领域,例如使用学习过的神谕增强草图算法,以提供可证明的增强性能保证,以及设计健壮草图,即使面对自适应对手也能保持正确性。
生物:杰拉尼·纳尔逊于2019年从哈佛大学来到伯克利。他是电气工程与计算机科学系的教授。他是Alfred P.Sloan研究员,并获得2017年总统科学与工程师早期职业奖。 “我发现解决算法问题很有意义,而且在数学上也很漂亮。”
研究重点:大数据的素描和流算法,高维数据的降维技术。
星期三–超出缩放面板12月13日下午2:15–3:15
周三下午2:15加入我们超出缩放面板主持人亚历山大·拉什在那里与Aakanksha Chowdhery、Angela Fan、Percy Liang和Jie Tang将在F厅举行.
星期四–克里斯托弗·雷在上午8:30–9:2012月14日
美国中部标准时间周四上午8:30,克里斯托弗(克里斯)·雷 将讨论“基础模型的系统和系统的基础模型。”
摘要:我是一个简单的人。我爱上了基础模型(FM),因为它们从根本上改进了我十年来一直在尝试构建的数据系统——它们太棒了!本次演讲以我对FM如何改变我们构建的系统的观点开始,重点讨论我所称的“千刀之死”问题。大致来说,这些问题中的每一项任务看起来都很容易,但任务的多样性和广度让它们变得很难。
演讲的主要内容是了解如何高效地构建基础模型。我们从一个可能意想不到的角度描述了硬件加速器的发展趋势:数据库系统研究。自80年代以来,数据库一直担心优化IO(内存层次结构中的读写)。事实上,优化IO导致了对变压器的快速关注。
但是,是否有比Transformer更有效的基础模型架构?也许 吧!我将描述一类基于经典信号处理的新体系结构,以S4为例。这些新的架构:对于长序列来说,比变形金刚的效率更高,在远程竞技场等基准测试中达到了最先进的质量,并已应用于图像、文本、DNA、音频和视频。S4将允许我们在数学上精确连接到RNN和CNN。我还将介绍一些新的转折点,例如长滤波器、数据相关卷积和选通,它们为RWKV、S5、Mega、Hyena和RetNet等许多令人惊叹的最新架构提供了动力,以及了解其基本局限性的最新工作,以期制作出更棒的基础模型! 包含来自的材料的github正在构建中https://github.com/HazyResearch/aisys-building-blocks。请随时添加!
生物:Christopher(Chris)Re是斯坦福大学计算机科学系的副教授。他在斯坦福人工智能实验室工作,隶属于机器学习小组和基础模型研究中心。他最近的工作是了解软件和硬件系统将如何因机器学习以及对数学问题的持续、任性努力而改变。他的团队的研究已被纳入科学和人道主义工作,例如打击人口贩运,以及来自科技和公司的产品,包括苹果、谷歌、YouTube等。他还联合创办了多家公司,包括Snorkel、SambaNova和Together,以及一家名为Factory的风险投资公司。
他的家人仍然吹嘘他获得了麦克阿瑟基金会奖学金,但他最亲密的朋友相信这是一个错误。他的研究贡献涵盖了数据库理论、数据库系统和机器学习,他的工作分别在2012年PODS、2014年SIGMOD和2016年ICML上获得了各个领域的最佳论文。由于出色的合作,他获得了NeurIPS 2020时间测试奖和PODS 2022时间测试奖。由于优秀的学生,他在2022年MIDL考试中获得了最佳论文,在ICLR22和ICML22考试中获得最佳论文亚军,在UAI22考试中取得最佳学生论文亚军。
星期四–苏珊·穆尔夫y位于下午2:15-3:0512月14日
周四下午2:15,苏珊·墨菲将讨论“数字健康干预中的在线强化学习.”
摘要:在本次演讲中,我将讨论我们在开发在线RL算法以用于数字健康干预中所面临的一些挑战的初步解决方案,这些算法针对的是与健康问题(如药物滥用、高血压和骨髓移植)作斗争的患者。数字健康给RL社区带来了许多挑战,包括不同的行动集,每一组旨在在不同的时间范围内影响患者;需要学习RL算法的一个实现内部和实现之间的知识;嘈杂的环境和缺乏机械模型。在所有这些设置中,在线算法必须是稳定和自主的。尽管存在这些挑战,RL只要仔细初始化,仔细管理偏差/方差权衡,并与卫生科学家密切合作,就能取得成功。我们可以产生影响!
生物苏珊·墨菲(Susan A.Murphy)是哈佛大学坎普纳学院(Kempner Institute,Harvard University)马林克罗德(Mallinckrodt)统计学和计算机科学教授兼副教授。她的研究重点是改进卫生领域的顺序决策,目前是用于个性化数字卫生干预的在线实时学习算法。她是美国国家科学院和美国国家医学院的成员。2013年,她被授予麦克阿瑟奖学金,以表彰她在实验设计方面的工作,为后续决策提供信息。她是药物依赖问题学院院士、数理统计研究所牧师、《统计年鉴》的前编辑。