认证如何促进算法时代的负责任创新

在越来越强大的自治和智能系统（A / IS）时代，行业如何保持对客户的信任？

组织几乎没有任何方法可以可靠地与客户（甚至是自己的员工）进行沟通，以确保其操作和使用A / IS的可靠性。在没有这种方法的情况下，对A / IS的恐惧，不确定性和怀疑常常变得不知所措。展望未来，对人工智能和A / IS 的意外后果以及缺乏信任的担忧可能会阻碍革命性技术的发展，而革命性技术的发展具有巨大而深远的潜力，造福全人类，其应用领域包括改善疾病预防和诊断，农业和制造业效率，应对气候变化，增强安全性……甚至有助于解决全球COVID-19危机。  

由全球公认的独立专家组成的专家对共识标准的认证将是至关重要的，有意义的工具。业界迫切需要通过公开可用和透明的一系列标记轻松直观地传达其A / IS是否被视为“安全”或“受信任”的信息，这就是IEEE制定了《自主与智能道德认证计划》的原因。系统（ECPAIS）于2018年10月发布。

ECPAIS是全球首批致力于创建A / IS认证标准和标记计划的计划之一，并获得了全球标准制定组织的支持。ECPAIS已围绕A / IS开发中的透明度，问责制和减少算法偏差创建了认证标准是。该标准旨在使医疗保健和医疗设备，金融服务，汽车，制造业，老年服务等各种垂直行业中的城市以及公共和私人组织能够确定自己在A的开发和运营中是可信赖的并从中受益的。 / IS产品，服务和系统。

现在，ECPAIS正在向前发展，以邀请全球各地的其他推动者和创新者在其特定环境中使用ECPAIS标准，为在A / IS的总体设计框架中应用奠定基础，并在企业对消费者中建立可信赖的已部署系统，商业和政府环境。

聚焦全球

在全球范围内，人们对算法如何塑造社会，影响人们以及改变权力行使方式的问题越来越关注。反过来，A / IS的治理已成为越来越重要的领域。

例如，在2019年3月，IEEE自治和智能系统伦理全球倡议（A / IS）发行了出版物《伦理统一设计》第一版（EAD），这是由600多位全球专家概述的全面深入的文档超过100条具体建议可指导A / IS的设计，开发，部署和使用。EAD还启发了教育计划的创建，IEEE内的多个标准工作组，世界上最大的致力于为人类造福技术的技术协会以及ECPAIS本身。

2019年9月，世界经济论坛发布了AI的公共采购指南，以帮助政府维护公共利益和福祉。“人工智能具有以新的方式极大地改善政府运营和满足市民需求的潜力，从交通管理到医疗保健再到处理税收表格，” 人工智能采购指南写道。“但是，政府通常缺乏获取现代AI解决方案的经验，许多公共机构对利用这一强大技术持谨慎态度。总体而言，该指南旨在指导与采购生命周期有关的所有各方（政策官员，采购官员，数据科学家，技术提供商及其领导人）朝着维护公共利益和福祉的总体目标迈进。”

同样，欧洲委员会于2020年2月19日启动了人工智能咨询，发布了白皮书《人工智能-欧洲追求卓越和信任的方法》。白皮书写道：“鉴于AI可能对我们的社会产生重大影响以及建立信任的需求，欧洲AI必须以我们的价值观和基本权利（例如人的尊严和隐私保护）为基础至关重要。”

白皮书还指出，必须对高风险AI应用程序中的培训数据，数据，透明度，健壮性和准确性以及人工监督进行“客观，事先的合格评估……以验证并确保”是否符合要求。“先前的合格评定可能包括测试，检查或认证的程序。它可能包括检查在开发阶段使用的算法和数据集。”

出于这种全球共享的需求，IEEE在2018年10月启动了行业驱动的ECPAIS计划。ECPAIS工作的第一年集中于定义认证标准：

问责制标准，用于解决诸如组织在使用中的A / IS声明的细节之类的问题，包括跟踪系统或产品行动，风险参数以及人员如何监督和控制A / IS；

透明性标准，用于解决以下问题：公众对组织内的A / IS交互和使用中的A / IS的意识，对A / IS系统行为的信心以及对道德操守和运营概念的明确性的维护，以及

与减少算法偏差相关的标准，评估产品或系统中算法偏差的可接受性，并提供减少或避免不可接受水平的见解。

如今，ECPAIS社区正在扩展，以鼓励感兴趣的实体针对标准的实际应用采取下一步关键步骤。邀请全球的公司，政府和其他利益相关者与IEEE联系，以倡导ECPAIS行业垂直计划，发起概念验证或帮助塑造ECPAIS标准在A / IS使用中如何特别尊重以人为本的价值观。全球的最终用户和利益相关者。

最终，公司和公共组织将能够利用ECPAIS向其客户，员工和公众展示其建立对自己的A / IS的信任的承诺-经独立第三方的验证。政府可以使用认证标准来指导政策，并提供一种面向公众的解释性形式。教育工作者可以使用ECPAIS来培养更加注重道德的下一代工程师，领域专家和决策者。

建立信任，施加压力

“在ECPAIS在自主智能系统的重要伦理领域中正在发展的领域中，我们看到了巨大的价值。维也纳市拥有的奥地利最大的公共基础设施提供商Wiener Stadtwerke的数据科学家Dietmar Schabus博士在2020年2月26日的IEEE标准中说，我们认为该计划的第一阶段的结果非常有希望。协会新闻稿。“……作为一个高度以人为中心和数字化能力的城市，我们认为有关A / IS道德方面的工作（例如ECPAIS）是该策略的基础。”

对于那些已经在尽责尽责的A / IS方面进行尽职调查的组织，认证将为建立与利益相关者的信任提供了非常需要的工具。对于那些正在努力保护公民数据，保护隐私和尊严以及维护人权的组织而言，认证将加大市场压力，以认真应对算法时代最紧迫的挑战。