该协议是在斯洛文尼亚克兰治举行的第二届联合国教科文组织人工智能全球论坛上签署的。它迫使公司在人工智能的设计、开发、购买、销售和使用中充分发挥其在保障人权方面的作用。这是公司首次在这一领域与联合国合作。
它指出,必须进行尽职调查,以符合安全标准,确定人工智能的不利影响,并根据国内立法及时采取措施预防、减轻或补救这些影响。协议还指出前安全员测试(在新的人工智能系统投放市场之前进行测试)至关重要。但考虑到市场上已经存在的人工智能系统的快速发展,它还需要开发事后(部署后)风险评估和缓解措施。
联合国教科文组织关于人工智能道德的建议是世界上第一个,也是唯一一个关于人工智能的规范性框架。在过去两年里,在实施这一框架方面取得了明显进展。今天,50多个国家正在积极参与实施,多边合作大幅增加。
自建议书通过以来,教科文组织还一直在推动与私营部门的合作,从而建立了一个AI道德商业委员会,由微软和西班牙电信共同主持。商业委员会致力于加强道德和人工智能方面的技术能力,设计和实施道德影响评估工具由《人工智能道德建议》授权,并为智能区域法规的发展做出贡献。