主题演讲

可信未来生活中的未来软件

摘要人类、其他物种、软件和硬件如何在未知的未来共存？在新兴技术支持人类价值和环境的情况下，我们如何努力实现可信和安全的未来？研究表明，人类价值观和日常生活优先事项、道德规范、日常生活和活动将塑造我们可能的未来。我将以人种学研究为基础，概述人们如何预测和想象家庭和社区中新兴技术的日常生活未来，以及技术工作者如何展望职业生活的未来。如果社会科学研究表明，技术不能解决人类和社会问题，那么它们在未来生活中应该扮演什么角色？对未来软件的影响是什么？什么样的价值观应该支持它的设计？应该在哪里开发？由谁合作？软件在创造可信未来的环境中扮演什么角色？

Sarah Pink教授（FASSA博士）是一位设计与未来人类学家和纪录片制片人。她是莫纳什大学新兴技术研究实验室的教授和主任。她的研究是跨学科的，将学术和行业参与结合在一起，提出新兴技术将如何参与可能的人类未来。她最近出版的作品包括纪录片《老年人智能家园》（2021年）和《数字能源未来》（2022年），以及书籍《新兴技术/未来边缘的生活》（2023年）、《设计民族志》（202二年）和“日常自动化”（2022）以及《能源未来》。

基于AI的可靠系统之路

摘要：随着深度学习的到来，人工智能组件在复杂的人类竞争任务上取得了前所未有的性能，例如图像、视频、文本和音频处理。因此，它们越来越多地集成到复杂的软件系统中，其中一些系统（如自动驾驶汽车）需要提供经过认证的可靠性保证。在本次演讲中，我将考虑基于AI的系统的独特特性以及可能影响它们的故障，以修订测试基础并重新定义测试的总体目标，对实际可交付的可靠性保证采取统计观点。然后，我将考虑基于人工智能系统的修订测试过程的关键要素，包括测试预言和测试输入生成问题。我还将介绍运行时监督的概念，以处理现场可能发生的意外错误情况。最后，我将确定关闭从测试到运行的循环所必需的未来步骤，并提出一个经验框架，将测试输出与其原始目标重新连接起来。

Paolo Tonella教授现任瑞士卢加诺斯维泽拉意大利大学（USI）信息学院和软件学院的全职教授。他是英国伦敦大学学院的名誉教授。Paolo Tonella作为PRECRIME项目的首席研究员获得了ERC高级资助。他撰写了150多篇同行评审的会议论文和50多篇期刊论文。2011年，他因其论文《Web应用程序的分析和测试》获得了ICSE 2001 MIP（最具影响力论文）奖。他的H指数（根据谷歌学者的说法）是60。他是TOSEM、TSE和EMSE的编辑委员会成员。他将担任ESEC/FSE 2023的项目负责人。他目前的研究兴趣是软件测试，尤其是确保基于机器学习的系统可靠性的方法，网络物理系统的自动化测试，以及测试预言推理和改进。

软件工程是负责任人工智能的关键

摘要从人类存在的风险到关键系统中的安全风险，再到道德风险，负责任的人工智能作为救世主，已经成为一个巨大的研究挑战，并带来了重大的现实后果。然而，尽管在算法保证方面有过多的高级道德原则、风险框架和进步，实现负责任的人工智能仍然是难以捉摸的。与此同时，人工智能正在颠覆软件工程（SE），努力构建系统级的质量，并与神秘的ML模型和自然语言提示生成的代码保持一致。颠覆为负责任地设计人工智能系统带来了新的挑战和机遇。本次演讲将分享我们通过发明新的SE方法帮助行业实现负责任AI系统的经验。它将深入研究行业挑战（如风险筒仓和原则算法差距）和研究挑战（如缺乏需求、新兴属性和神秘系统），并指出SE是负责任AI的关键。但SE也需要一些基本的重新思考——从构建功能转向AI系统，以发现和管理AI系统中的新兴功能。只有这样，SE才能承担起关键的新角色，从理解人类智能到建立繁荣的人机共生关系。

朱利明博士是CSIRO Data61的软件和计算系统部门的研究主管。Data61是联邦科学与工业研究组织（CSIRO）和澳大利亚数据/AI创新部门的一部分。该部门在AI/ML/大数据基础设施、计算和仿真科学平台、可信和负责任的AI、分布式系统、区块链、软件生态系统、软件工程/架构、DevOps、量子软件、隐私和网络安全等领域进行创新。他还是新南威尔士大学（UNSW）的联合全职教授。他毕业于澳大利亚公司董事协会。在获得新南威尔士大学软件工程博士学位之前，他曾在软件行业担任多个技术领导职位。他目前是澳大利亚标准协会区块链和分布式账本委员会以及AI可信度相关委员会的主席。他曾指导过20多名博士生，并在新南威尔士大学和悉尼大学教授软件架构课程。他发表了200多篇关于软件架构、安全系统和数据/ML基础设施、区块链、治理和负责任的AI的学术论文。