EC5:帕纳吉奥蒂斯·库瓦罗斯
伦敦帝国理工学院
神经符号多智能体系统的形式化验证
人工智能(AI)的重大进步使具有挑战性的任务实现了自动化,例如计算机视觉,这些任务传统上很难使用经典方法解决。这加速了将人工智能组件纳入具有高度社会影响的各种应用程序(如医疗和交通)的趋势。尽管如此,即使人们越来越认同人工智能对社会有益,其固有的脆弱性也阻碍了其在安全关键型应用中的应用。为了应对这些担忧,人工智能的正式验证领域在过去几年迅速发展,提供了自动验证人工智能系统是否按预期稳健运行的方法。本演讲将介绍我们在这一领域开发的一些关键方法,包括符号系统和连接系统。本课程将讨论基于逻辑的方法来验证无界多智能体系统(即由任意数量的同质智能体组成的系统,例如机器人群),建立神经网络模型鲁棒性的优化方法,以及分析神经符号多智能体系统特性的方法。