作者：Meeri Haataja
图像学分：沉积物照片
在一个越来越强大的自主和智能系统（A/IS）的时代，行业如何保持对客户的信任？
几乎没有任何方法可以让组织可靠地与客户（甚至可能是自己的员工）沟通其操作和A/IS使用的可信度。如果没有这种方法，对A/IS的不知情恐惧、不确定性和怀疑就会加剧。展望未来，对人工智能信息系统和缺乏信任可能会阻碍革命性技术的发展，这些技术具有巨大而深远的潜力，可以在各个应用领域造福人类，例如改进疾病预防和诊断、提高农业和制造效率、应对气候变化、，加强安全……甚至帮助解决全球新冠肺炎危机。
由一个独立的、全球公认的专家团体对共识标准进行认证，将成为一个关键的、有意义的工具。业界已经表示迫切需要通过一系列公开透明的标记，轻松直观地传达其A/IS是否被视为“安全”或“可信”，这就是IEEE创建的原因自主和智能系统道德认证计划（ECPAIS）2018年10月。
ECPAIS是世界上第一个致力于创建A/IS认证标准和由全球标准开发组织支持的标记程序的项目之一，ECPAIS围绕A/IS开发中的透明度、问责制和减少算法偏差创建了认证标准。该标准旨在使各垂直行业（医疗保健和医疗设备、金融服务、汽车、制造业、老年服务等）中的城市和公共及私营组织在开发和运营A/IS产品、服务、，和系统。
现在，ECPAIS正在向前迈进，邀请全球更多的推动者和创新者在其特定环境中使用ECPAIS标准，为应用于A/is的总体设计框架提供基础，并在企业对消费者、企业和政府环境中实现可信赖的部署系统。
聚集全球焦点
围绕算法如何塑造社会、影响人们以及改变权力行使方式的问题，全球范围内的注意力都在加强。反过来，A/IS的治理已成为日益关注的领域。
例如，2019年3月，IEEE自主和智能系统道德全球倡议（A/IS）发布了该出版物，符合道德规范的设计第一版（EAD），由600多名全球专家创建的一份全面深入的文件，概述了100多条具体建议，以指导a/IS的设计、开发、部署和使用。EAD还鼓励创建教育项目，多标准工作组IEEE是世界上最大的技术协会，致力于推进技术造福人类，ECPAIS本身也是IEEE的一部分。
2019年9月，世界经济论坛发布了AI公共采购指南，帮助各国政府维护公共利益和福祉。“人工智能有潜力极大地改善政府运作，并以新的方式满足公民的需求，从交通管理到医疗保健服务，再到处理税务表格，”AI采购指南. “然而，政府往往缺乏获取现代人工智能解决方案的经验，许多公共机构对利用这项强大的技术持谨慎态度。总的来说，该指南旨在指导参与采购生命周期的各方——政策官员、采购官员、数据科学家、技术提供商及其领导者——实现维护公共利益和福祉的首要目标。”
同样，欧洲委员会于2020年2月19日启动了人工智能咨询，并发布了一份白皮书，论人工智能——欧洲追求卓越和信任的方法白皮书写道：“鉴于人工智能对我们社会的重大影响以及建立信任的必要性，欧洲人工智能必须以我们的价值观和基本权利为基础，例如人类尊严和隐私保护。”
白皮书还指出，有必要“进行客观、事先的一致性评估……以验证和确保”符合高风险人工智能应用中训练数据、数据、透明度、稳健性和准确性以及人工监督的要求。“先前的合格评定可能包括测试、检查或认证程序。它可能包括对开发阶段使用的算法和数据集的检查。”
正是出于全球共同的需求IEEE于2018年10月启动了行业驱动的ECPAIS项目ECPAIS工作的第一年集中于确定认证标准：
- 解决问题的问责标准，例如组织对其所使用的A/IS的规定细节，包括跟踪系统或产品操作、风险参数以及人类代理人如何监督和控制A/IS；
- 解决以下问题的透明度标准：公众对整个组织和使用中的A/IS交互的认识，对A/IS系统行为的信心，维护道德操守和操作概念的清晰性，以及
- 与减少算法偏差评估产品或系统中算法偏差的可接受性，并提供减少或避免不可接受水平的见解。
今天，ECPAIS社区正在扩大，以鼓励感兴趣的实体采取下一个关键步骤，实现标准的实际应用。邀请全球的公司、政府和其他利益相关者联系IEEE通过支持ECPAIS行业垂直倡议、发起概念验证或帮助确定ECPAIS标准如何在全世界终端用户和利益相关者使用a/IS的背景下，特别尊重以人为本的价值观。
最终，公司和公共组织将能够利用ECPAIS向其客户、员工和公众展示其对独立第三方验证的A/IS-as建立信任的承诺。政府可以利用认证标准为政策提供信息，并提供一种公开的解释形式。教育工作者可以利用ECPAIS培养更注重道德的下一代工程师、领域专家和决策者。
培养信任，施加压力
“我们看到ECPAIS在自主智能系统伦理这一重要领域的发展具有巨大价值。我们认为该项目第一阶段的结果非常有希望，”维也纳市拥有的奥地利最大公共基础设施提供商Wiener Stadtwerke的数据科学家Dietmar Schabus博士说，在中说2020年2月26日IEEE标准协会新闻稿“……作为一个以人为中心、以数字为基础的城市，我们认为有关a/IS道德方面的工作，如ECPAIS，是这一战略的基础。”
对于那些已经在推进负责任的A/IS方面尽职尽责的组织来说，认证将为与利益相关者建立信任提供一个极为必要的工具。对于那些回避保护公民数据、保护隐私和尊严以及维护人权所必需的艰苦工作的组织来说，认证将加大市场压力，迫使它们认真对待算法时代最紧迫的挑战。
关于作者
除了担任自治和智能系统道德认证项目主席外，Meeri Haataja还是哈佛大学Berkman Klein互联网与社会中心Saidot&Affiliate的首席执行官和联合创始人。
