研究

【Society 5.0系统软件】融合基础理论和系统平台技术为Society5.0创建系统软件

通过正式验证和系统软件实现零信任物联网

首席研究员：TAKEFUSA，Atsuko，信息系统架构科学研究部教授

在Society 5.0中，来自安全摄像头、室内外环境传感器、工业机器人和各种其他物联网设备的传感器数据将被收集并存储在云中。这些数据还将由人工智能处理，人工智能有望创造新的价值，例如提高生活质量、监测自然、预防和减轻灾害，以及提高城市环境的效率。然而，此类物联网系统正面临各种网络安全威胁。据报道，在某些情况下，公共基础设施遭到了巨大破坏。本研究旨在通过理论研究和系统软件研究的融合，按照零信任（ZT-IoT）的概念实现一个安全的物联网系统。零信任是一种网络安全设计方法，在这种方法中，计算机和数据受到保护，而无需无条件依赖VPN、防火墙和其他安全措施，但可以通过持续监测、评估和改进安全措施进行保护。本研究通过融合正式验证和系统软件技术，实现了高度安全的基于零信任的物联网系统的开发。理论研究将为验证物联网系统的信任链提供数学证明，并建立一种新的形式化验证技术，该技术与动态验证技术协同工作，以对抗未发现的威胁。另一方面，系统软件研究将通过开发执行隔离、自动检测和自动对抗技术来实现ZT-IoT系统的安全性，以支持上述信任链，并结合理论研究结果。此外，将以负责任的方式确保ZT-IoT的安全，以促进物联网系统的社会接受，并为实现社会5.0做出贡献。

https://zt-iot.nii.ac.jp/

【可信质量人工智能系统】可信质量人工智系统的核心技术

研究负责人：艾泽瓦，赤子（NII副总干事；数字内容和媒体科学研究部教授）

说服人与人合作决策的信任交互设计及其社会渗透

首席研究员：YAMADA，Seiji，数字内容和媒体科学研究部教授

由于使用的算法、数据和知识的质量和数量以及偏差，人工智能系统经常会出错。然而，由于自身的先入为主观念和偏见，大多数最终用户无法正确评估人工智能的性能，因此他们倾向于直接相信或拒绝人工智能输出的解决方案。后一种现象，在认知科学中称为“算法厌恶”，是人机合作决策中的一个基本问题，而解决这一问题是实现可信人工智能的一大挑战。解决这个问题并优化人机协同决策的性能，不可能像过去那样仅仅通过提高人工智能本身的性能来实现。有必要优化信任，以便通过人与人工智能之间的交互准确评估人工智能性能。
有鉴于此，该项目旨在开发一种信任交互设计理论，在该理论中，人工智能基于认知偏见和价值观检测信任关系的破裂（过度信任或欠信任），并自适应地发布校准提示以提示信任校准，从而优化信任关系，增加信心。另一个目标是通过体检实现这种方法的社会传播。
在人机合作决策中，人类反复决定是自己做决定还是让人工智能做决定。信任校准人工智能基于信任模型计算人类和人工智能的信任，并将信任度关系确定的理性选择与实际人类选择进行比较，检测是否存在过度信任或不足信任。如果检测到信任崩溃，则会显示提示信任校准的校准提示。为了响应校准提示，人类主动执行信任校准。通过这种方式，人类可以建立具有信心的最佳信任。