终身学习和持续学习
没有这种能力的人工智能系统永远不会智能化
第二版："终身机器学习”作者：Z.Chen和B.Liu，Morgan&Claypool，2018年8月（2016年第1版）。
新增三章：（4）持续学习与灾难性遗忘, (5)开放式学习, (8)聊天机器人中的持续知识学习
引入了在工作中学习或边工作边学习.
更新和/或重新组织其他章节。
下载第一版，终身机器学习2016年11月。
采访在里面自然《展望》，2022年7月20日。
持续或终身学习
传统的机器学习范式是孤立运行的，其中将学习算法应用于数据集以生成无需考虑到以前获得的知识。然而，这种范式缺乏持续学习或增量学习、积累知识的能力随着时间的推移，并使用以前学到的知识来帮助当前或学习。现在大家都知道连铸机学习或者简单地持续学习（又名终身学习)对于通用人工智能(AGI公司). 两个关键挑战是：
- 灾难性遗忘（CF）：虽然以前是一个重大挑战，但现在借助大型预训练模型（参见.
- 知识转移（KT）：许多现有技术已证明具有良好的知识转移能力。然而，我们应该注意到，知识转移具有无限的潜力，可以不断改进。
NSF项目-巡航-基于终身机器学习的自主无线网络跨系统架构设计。
教程、短期课程和调查
- 新调查:自然语言处理任务的持续学习：一项调查.arXiv:2211.12701, 11/23/2022.
- 持续学习对话系统-对话中的学习.教程@SIGIR-2022，马德里| 2022年7月11日至15日。（萨希斯努·马祖姆德和刘冰）
- 终身学习和持续学习.短期博士课程（8小时），奥尔堡大学，2022年6月14日和16日。（刘冰、柯子轩）
- 持续学习对话系统-模型部署后的在职学习.教程（8月20日）@IJCAI-2021年8月21日至26日，加拿大蒙特利尔。（萨希斯努·马祖姆德和刘冰）
- 终身机器学习教程标题：终身机器学习和计算机阅读网络，KDD-2016，2016年8月13日至17日，美国旧金山。
- 终身机器学习教程2015年7月25日至31日，IJCAI-2015，阿根廷布宜诺斯艾利斯。
主题演讲和特邀演讲
- 《自主学习代理：理论框架》（即将出版）主题演讲@人工智能与机器学习国际会议（AIM-2024）2024年6月10日至12日，美国加利福尼亚州旧金山，两篇相关论文：纸张1和纸张2.
- 开放世界中的持续学习.主题演讲@第一届机器学习算法国际会议。2月23日至24日，印度。
- 统一持续学习、OOD检测和开放世界学习.主题演讲@第二届终身学习代理会议（CoLLAs-2023）2023年8月22日至25日，蒙特利尔。
- 持续学习：理论与算法.受邀演讲@国际基础科学大会，北京，2023年7月21日。
- 统一持续学习、OOD检测和开放世界学习。受邀演讲@自动化研究所和计算机技术研究所2023年7月19日，北京。
- 人工智能自主：开放世界持续学习.邀请的谈话@JSAI 2023“开放世界持续学习的最新趋势”特别会议日本，2023年6月6日。
- 自主人工智能：开放世界学习与适应.受邀演讲@北京大学2023年5月26日。
- 连续学习理论与算法受邀演讲@北京大学，2023年5月24日。
- 统一连续学习和OOD检测.受邀演讲@Grab科技公司新加坡，2023年2月22日。
- 统一连续学习和OOD检测.受邀演讲@科学、技术和研究机构（A*STAR）新加坡，2023年2月21日。
- 将持续学习与OOD检测相结合尊敬的发言人-受邀演讲@新加坡国立大学数据科学研究所2023年2月16日。
- 开放世界连续学习的理论与算法.主题演讲@关于“社交媒体和社交网络数据挖掘（SMSNDM）”的安乐教师发展计划.印度。2023年1月7日。
- 持续学习：理论与算法2022年12月16日，受邀在深圳大学演讲。
- 开放世界连续学习的理论与算法.主题演讲@IEEE国际。云计算与智能系统大会（CCIS-2022）2022年11月27日。
- 持续学习：从理论到算法2022年11月18日至20日，CCF BigBdata 2022邀请演讲。
- 自然语言处理任务的持续学习2022年11月1日，在CDSC-WEST-2022受邀演讲。
- 自主人工智能：开放世界中的自主持续学习2022年9月18日，受邀在CIIS开放世界学习论坛上发表演讲。
- 自主机器学习：开放世界中的持续学习2022年7月25日在英特尔实验室受邀演讲。
- 人工智能自主：部署前后的持续学习2022年6月30日，在PyData芝加哥受邀演讲。
- 部署后持续学习受邀演讲@CVPR研讨会-CLVision：计算机视觉中的持续学习研讨会（第三版），2022年6月20日。
- 部署前后的持续学习2022年6月10日，在Megagon实验室受邀演讲。
- 批量和在线持续学习及其他。2022年5月26日，受邀在镇江实验室演讲。
- 人工智能自主：在工作中不断学习2022年3月4日，亚马逊Alexa的杰出研究演讲。
- 自我激励和自我监督的开放世界持续学习2022年2月16日至17日，在加州大学旧金山分校举行的思维与机器智能峰会上受邀演讲。
- 自主智能体的自主持续学习2021年11月27日，第16届智能系统与知识工程国际会议（ISKE 2021）主题演讲。
- 自主代理的自主开放世界学习。在DARPA“开航计划”会议上发言。2021年10月29日。
- 自我激励的持续学习促进知识积累2021年10月25日，在NeSy-2021持续学习课程上受邀演讲。
- 持续和在职学习2021年8月19日至20日，IJCAI-2021持续半监督学习研讨会受邀演讲。
- 模型部署后的持续交互式学习2021年7月27日，受邀在百度研究中心发表演讲。
- 模型部署后的持续互动学习2021年7月10日，数据智能和知识服务国际会议上的主题演讲。
- 模型部署后的持续交互式学习2021年6月18日，在艾伦人工智能研究所（AI2）受邀演讲。
- 持续学习对话系统-模型部署后的学习2021年5月7日，在ICLR-21神经对话人工智能研讨会上受邀演讲。
- 开放世界中的在职学习2020年9月11日，受邀在南加州大学信息科学研究所演讲。
- 开放世界中的在职学习。受邀演讲@ICML-2020持续学习研讨会，2020年7月17日。
播客：“像人类一样学习的机器“由我以前的学生陈志远和Francesco Gadaleta（主持人）主持。
相关学习范式：转移学习、多任务学习和终身学习
- 终身学习的特点：（1）不断学习（理想情况下是在开放的世界中），（2）积累以前学到的知识，使其变得越来越有知识，（3）利用这些知识学习更多的知识，并将其用于解决问题，（4）发现要学习的新问题/任务，并逐步学习，（5）工作中学习或工作中学习，在测试或模型应用中改进模型。
- 转移学习与终身学习：转移学习使用源域标记的数据帮助目标域学习。与终身学习不同，迁移学习不是持续的无知识保留（因为它使用源标记数据，而不是学习数据知识）。源必须与目标相似（通常由用户选择）。它也是单向的：源帮助目标，但不是相反，因为目标没有或标记数据很少。
- 多任务学习与终身学习：多任务学习联合优化多项任务的学习。尽管有可能它持续的多任务学习不会保留任何明确的知识除数据外，当任务数量非常大时，很难面对新任务时，重新学习所有内容。
出版物
书：Sahisnu Mazumder和Bing Liu。终身学习和持续学习对话系统斯普林格，2024年2月。
书：陈志远和刘冰。终身机器学习摩根克莱普尔出版社，2018年（第2版），2016年（第1版）。
- 林浩伟、邵一嘉、钱渭南、潘宁馨、郭一多、刘冰。基于似然比的任务预测的班级增量学习.学习表现国际会议记录（ICLR-2024）2024年5月7日至11日，奥地利维也纳。
- Gyuhak Kim、Changnan Xiao、Tatsuya Konishi、Bing Liu。连续学习的可学习性和算法.第四十届国际机器学习会议论文集（ICML-2023）2023年7月23日至29日，美国夏威夷。
- 小野达也、森黑川千郎、小野千郎、柯子轩、金久浩、刘兵。用于持续学习的参数级软掩模.第四十届国际机器学习会议论文集（ICML-2023）2023年7月23日至29日，美国夏威夷。
- 邵一嘉、郭一多、赵东燕和刘冰。基于标签生成的类增量学习.计算语言学协会年会论文集（ACL-2023，短文）2023年7月9日至14日，加拿大多伦多。
- Gyuhak Kim、Changan Xiao、Tatsuya Konishi、Zixuan Ke、Bing Liu。开放式持续学习：新奇性检测与持续学习的统一.arXiv:2304.10038[cs.LG]。
- 郭一斗、刘冰和赵东燕。在线持续学习中跨任务班级歧视的处理.2023年IEEE/CVF计算机视觉和模式识别会议记录（CVPR-2023）2023年6月18日至22日，加拿大温哥华，2023年。
- 柯子轩、邵一嘉、林浩伟、科尼西、金久浩、刘兵。语言模型的持续预训练.第十一届学习代表国际会议记录（ICLR-2023），卢旺达基加利，2023年5月1日星期一至5月5日星期五。
- 刘冰（Bing Liu）、萨希斯努·马祖姆德（Sahisnu Mazumder）、埃里克·罗伯逊（Eric Robertson）和斯科特·格里格斯比（Scott Grigsby）。人工智能自主：自我启动的开放世界——持续学习和适应.人工智能杂志2023年5月21日。
- 柯子轩和刘冰。自然语言处理任务的持续学习：一项调查.加拿大最高法院判例：2211.12701[加拿大最高法院判例]2022年11月23日。
- 金久浩（Gyuhak Kim）、肖昌南（Changnan Xiao）、小石达也（Tatsuya Konishi）、柯子轩（Zixun Ke）和刘冰（Bing Liu）。解决持续学习的理论研究.第三十六届神经信息处理系统会议记录（NeurIPS-2022）2022年11月28日至12月9日。
- 柯子轩、林浩伟、邵宜佳、胡旭、雷舒和刘冰。持续培训语言模型，以实现快速学习.2022年自然语言处理实证方法会议记录（EMNLP-2022）2022年12月7日至11日。
- 金久浩、柯子轩和刘冰。通过分发外重播实现连续学习的多头部模型.终身学习代理会议记录（CoLLAs 2022）2022年8月22日至24日。
- 郭一多、刘冰和赵冬燕。通过相互信息最大化实现在线持续学习.第39届国际机器学习会议（ICML-2022）会议记录2022年7月17日至23日，美国马里兰州巴尔的摩。
- Gyuhak Kim、Sepideh Esmaeilpour、Changan Xiao、Bing Liu。基于OOD检测和任务屏蔽的连续学习.计算机视觉持续学习CVPR-2022研讨会论文集，2022年。
- 刘冰（Bing Liu）、萨希斯努·马祖姆德（Sahisnu Mazumder）、埃里克·罗伯逊（Eric Robertson）和斯科特·格里格斯比（Scott Grigsby）。人工智能自主：自我启动、适应和持续学习.arXiv:2203.08994[cs.AI]2022年3月17日。
- 刘冰（Bing Liu）、埃里克·罗伯逊（Eric Robertson）、斯科特·格里格斯比（Scott Grigsby）和萨希斯努·马祖德（Sahisnu Mazumder）。自主AI Agent的自主开放世界学习.AAAI“为开放世界设计人工智能”研讨会论文集2022年3月21日至23日。
- 小野达也、森黑川千郎、小野千郎、柯子轩、金久浩、刘兵。连续无遗忘知识转移的部分松弛掩码\学习.第26届亚太知识发现和数据挖掘会议记录（PAKDD-22）。2022年5月16日至19日，中国成都。
- 郭一多、胡文鹏、赵东燕、刘冰。用于批量和在线连续学习的自适应正交投影.AAAI-2022会议记录（虚拟），2022年2月21日至28日。
- 刘冰（Bing Liu）、埃里克·罗伯逊（Eric Robertson）、斯科特·格里格斯比（Scott Grigsby）和萨希斯努·马祖德（Sahisnu Mazumder）。自主AI Agent的自主开放世界学习.arXiv:2110.11385[cs.AI], 2021.
- 柯子轩，刘冰，马念祖，胡旭，雷曙。在持续学习中实现遗忘预防和知识转移.第三十五届神经信息处理系统会议记录（NeurIPS-2021），2021年12月6日至14日。
- 齐秦、胡文鹏、韩鹏、赵东燕、刘冰。BNS：动态构建持续学习的网络结构.第三十五届神经信息处理系统会议记录（NeurIPS-2021），2021年12月6日至14日。
- 柯子轩、刘冰、胡旭和雷书。CLASSIC：方面情绪分类任务的持续和对比学习.2021年自然语言处理实证方法会议记录（EMNLP-2021）2021年11月7日至11日，多米尼加共和国卡纳角。
- 柯子轩、胡旭和刘冰。采用BERT持续学习一系列体感分类任务.计算语言学协会北美分会年会论文集（NAACL-2021）2021年6月6日至11日，墨西哥墨西哥城。
- 胡文鹏、齐秦、王梦雨、马金文和刘冰。整体利用每节课的信息进行持续学习.AAAI-2021会议记录. 2021.
- Bing Liu和Sahisnu Mazumder。终身和持续学习对话系统：对话中的学习.AAAI-2021会议记录. 2021.
- 柯子轩、刘冰和黄兴昌。相似和不同任务混合序列的连续学习.第34届神经信息处理系统会议记录（NeurIPS 2020）2020年12月6日至12日，加拿大温哥华。
- Sahisnu Mazumder、Bing Liu、Shuai Wang和Sepideh Esmaeilpour。使用交互式连续学习构建面向任务的聊天机器人的独立于应用程序的方法.NeurIPS-2020人在回路对话系统研讨会（HLDS-2020）. 2020.
- Sahisnu Mazumder、Bing Liu、Nianzu Ma、Shuai Wang。验证对话中持续互动的事实知识学习.NeurIPS-2020人与机器在环评估和学习策略研讨会（HAMLETS-2020）. 2020.
- Bing Liu和Sahisnu Mazumder。终身学习对话系统：在工作中自我学习的聊天机器人.arXiv:2009.10750[cs.CL]，2020年9月22日。
- 柯子轩、刘冰、王皓和舒蕾。情绪分类的知识转移持续学习。 欧洲机器学习与数据库知识发现原理与实践会议论文集（ECML-PKDD-2020）2020年9月14日至18日，比利时根特。
- 刘兵。在职学习：在线终身和持续学习.第34届AAAI人工智能会议记录（AAAI-2020）2020年2月7日至12日，纽约市。（这项工作是我在北京大学休假期间完成的）。
- Sahisnu Mazumder、Bing Liu、Shuai Wang、Nianzu Ma。对话中事实知识的终身互动学习.话语与对话特别利益小组年度会议记录（SIGDIAL-2019）2019年9月11日至13日，瑞典斯德哥尔摩。
- 王浩、刘冰、王帅、马念祖和杨燕。情绪分类的前向和后向知识转移.第十一届亚洲机器学习会议论文集（ACML-2019），PMLR 101:457-4722019年。
- 胡旭、刘冰、雷书和P.Yu。开放世界学习及其在产品分类中的应用.网络会议记录（原名WWW会议），旧金山，2019年5月13日至17日。
- 胡文鹏、周琳、刘冰、陶崇阳、陶正伟、马金文、赵东燕、芮燕。通过模型自适应克服持续学习中的灾难性遗忘.第七届学习代表国际会议记录（ICLR-2019）2019年5月6日至9日，路易斯安那州新奥尔良。
- 吕光毅、王帅、刘冰、陈恩红和张坤。利用领域序列中的共享知识进行情感分类。第24届高级应用数据库系统国际会议记录（DASFAA-2019）2019年4月22日至25日。
- 王帅、吕光毅、萨希斯努·马祖德尔、格利菲和刘冰。面向方面情感分类的终身学习记忆网络。2018年IEEE国际大数据会议记录（IEEE BigData 2018）2018年12月10日至13日，西雅图。
- 雷书、胡旭和刘冰。开放世界分类中的无形类发现.arXiv:1801.05609[cs.LG]，2018年1月18日。
- Sahisnu Mazumder、Nianzu Ma和Bing Liu。面向聊天机器人的持续知识学习引擎.arXiv:1802.06024[cs.CL]，2018年2月16日。上一个标题: "面向人机对话中终身交互式知识学习的引擎".
- 胡旭、刘冰、雷书和菲利普·S·余。通过元学习实现终身领域单词嵌入。国际人工智能会议记录（IJCAI-ECAI-2018）2018年7月13日至19日，瑞典斯德哥尔摩。
- 刘兵。终身机器学习：持续学习的范式.前沿计算机科学, 2017, 11(3): 359–361.
- 雷书，胡旭，刘冰。DOC：文本文档的深度开放分类.2017年自然语言处理实证方法会议论文集（EMNLP-2017，口头陈述短文）2017年9月7日至11日，丹麦哥本哈根。
- 雷书、胡旭和刘冰。用于监督方面提取的终身学习CRF.计算语言学协会年会论文集（ACL-2017，口头报告短文）2017年7月30日至8月4日，加拿大温哥华。
- 雷书、刘冰、胡旭和金安妮丝。终身RL：分离意见目标中实体和方面的终身放松标签.2016年自然语言处理实证方法会议论文集（EMNLP-2016）2016年11月1日至5日，美国德克萨斯州奥斯汀。
- 格利菲、王帅和刘冰。2016累积学习，变得更加知识化.SIGKDD知识发现和数据挖掘国际会议论文集（KDD-2016）8月13日至17日，美国旧金山。
- 格利菲和刘冰。2016打破文本分类中的封闭世界假设.NAACL-HLT会议记录20166月12-17日，美国圣地亚哥。
- 王帅、陈志远和刘冰。使用整体终身主题模型挖掘方面-特定意见.国际万维网会议记录（WWW-2016）2016年4月11日至15日，加拿大蒙特利尔。
- 刘谦、刘冰、张元林、金斗顺和高志强。使用语义相似度和方面关联改进意见方面提取.第三十届AAAI人工智能大会论文集（AAAI-2016）2016年2月12日至17日，美国亚利桑那州凤凰城。
- 陈志远、马念珠和刘冰。情感分类终身学习.计算语言学协会第53届年会论文集（ACL-2015，短文）2015年7月26日至31日，中国北京。
- 陈志远和刘冰。文档中的挖掘主题：站在大数据的肩膀上。.第20届ACM SIGKDD知识发现和数据挖掘会议论文集（KDD 2014）8月24日至27日，美国纽约[代码] [数据集]
- 陈志远和刘冰。使用多领域主题、终身学习和大数据进行主题建模.第31届机器学习国际会议（ICML 2014）会议记录6月21日至26日，中国北京。
- 陈志远（Zhiyuan Chen）、阿俊·穆克吉（Arjun Mukherjee）和刘冰（Bing Liu）。基于自动先验知识学习的方面提取.计算语言学协会第52届年会会议记录（ACL 2014）2014年6月22日至27日，美国巴尔的摩。
2014年9月24日创建人刘冰（Bing Liu）.