强大的AI如何治理？中科院研究员曾毅：企业要为长远愿景做准备

每经记者 刘春山    每经编辑 魏官红    

人工智能作为一项颠覆性技术，正如水电一般融入人类日常生活的方方面面，也开始引发部分人思考如何更好地将这项技术为人类所用。6月初，美国经历了一场大规模的反种族歧视示威，包括IBM、亚马逊和微软在内的科技公司，纷纷主动叫停了可能带有种族偏见的人脸识别，重新审视人工智能技术应用红线，引发外界广泛关注。

同样的，大洋彼岸，在突发的新冠肺炎疫情中，AI电话人群筛查、人脸身份识别在国内发挥了巨大作用，也引发人们对于新技术的隐私保护顾虑。如何对这项强大的新技术进行规范，成为学界、业界、监管层和公众共同关心的问题。

近日，《每日经济新闻》记者采访了中国科学院自动化所研究员、北京智源人工智能研究院AI伦理与可持续发展研究中心主任曾毅，他同时是科技部新一代人工智能治理专业委员会委员。“刚刚颁布的民法典，关于个人隐私、个人数据相关的保护已经得到加强。”曾毅向记者透露，从前沿研究的角度来讲，人工智能立法在科技部、若干省市等都有专门的研究计划部署，相关高校和产业都在协作制定可行的草案，北京市也在筹划推动与人工智能相关的立法工作。

中国科学院自动化所研究员曾毅  图片来源：受访者供图

迫切需要加强从业者伦理培训

美国近期的反种族歧视大游行，也引发了抵制人脸识别的算法偏见。大众再次意识到，前沿科技与群体权益之间的矛盾如此刺眼。

《每日经济新闻》记者曾参加过多次关于人工智能治理的研讨会，在讨论人工智能治理时，偏见、隐私这两个关键词被反复提及。

由于人类文化以及成长环境不同，每个人都有鲜明的个性，对于特定事物的判断，人类个体很难做到不偏不倚，人在训练机器模型时就会出现偏差，这就会导致AI的偏见。穿着红色衣服的面试者，在某些人看来是热情开朗，有些地区的个体却不这样认为。

另一方面，人工智能企业是数据的大户，要使用大量的数据训练模型，这就需要在可信的环境下进行。据曾毅介绍，几乎所有人工智能行业的从业者和技术专家在加入人工智能企业之前，没有经过任何的人工智能伦理培训或教育，这方面迫切需要加强。

国内领先人工智能企业旷视首席运营官、AI治理研究院院长徐云程认为，正是由于AI技术的普遍性与其对于社会影响的深刻性，促使社会各界在AI商业化比较早期的时候，就开始探索AI治理的这条道路。“人工智能行业一直有一个观点，不能先发展后治理，应该是边发展边治理。”

从全球来看，人工智能规范很难有统一的标准，人工智能的伦理和治理之间很难形成共识。曾毅介绍称，联合国有非常多的关于人工智能治理和伦理方面的努力，在不同国家的努力中寻求共识，与不同文化的基本哲学思想和价值观息息相关，这是根源。

联合国教科文组织牵头全球193个会员国推荐专家来构成一个全球的人工智能伦理的特设专家组，形成了全球人工智能伦理的草案，目前已经发布，并处于征求意见的阶段。曾毅作为中国的代表，担任三个工作组中伦理工作组的共同组长，努力推动全球AI技术普惠、缩小各国之间的差距。

AI企业需要发挥更积极的作用

人工智能企业作为以盈利为目的的商业机构，如何建立一套适宜企业自身发展需求的AI治理体系，既以负责任的态度承担企业社会责任，又不阻碍甚至是促进业务发展，这是摆在像曾毅这样的学者面前的重要研究课题，也是旷视这样的AI企业在进行AI治理落地时的重要考量。

图片来源：摄图网

曾毅一直在倡导人工智能企业关注可持续发展，建议相关企业要为长远愿景做准备。“当GDPR（通用数据保护条例）发布时，欧洲几乎没有人工智能企业欢迎，因为他们觉得这需要花费大量额外的工作，也看不到直接的收益。所以，几乎所有的人工智能大公司都反对，小公司也反对。”曾毅对《每日经济新闻》记者表示，在GDPR实施了以后，帮助企业符合规范，企业开始发现用户大量增长。在这个阶段，用户会选择更加相信符合标准的企业的互联网应用。

GDPR从隐私保护与安全角度出发，对违反者的罚款，最高可达其全球年营业额的4%或2000万欧元，取两者中较高值。

企业的AI治理一直都是各方关注的焦点。只有企业的落地和实践，才能让各种社会层面的监管或共识得到切实推进。在国际上，2016年，亚马逊、微软、谷歌、IBM和Facebook联合成立了一家非营利性的人工智能合作组织（Partnership on AI），苹果于2017年1月加入该组织。在科技巨头们的共识里，与其靠外界强加约束AI发展，不如先成立伦理委员会自主监督。

旷视则在2019年8月成立了“旷视人工智能道德委员会”，作为公司人工智能治理事项最高的决策机构，这也是中国首家成立该项组织的AI企业。

曾毅总结称，这两年的经验表明，人工智能伦理这件事情一定不是单单某一方就能推动的。它既不能完全由企业来推动，也不能完全由学界推动，它一定是共同的，包括媒体、公众、专家以及政府层面。它需要真正协同的机制，在这个机制里，企业需要发挥一个主观能动和更积极的角色。

“它不是就技术讲技术的问题，涉及伦理、经济学、法学等诸多领域，是真正的交叉学科的领域，而且需要海内外协同。”徐云程赞同曾毅的观点，她说：“我们并不会把人工智能技术的发展、商业应用和法律制定、标准制定对立起来，相反，越多的交流越能让这个产业良性化、健康化、可持续化发展。”

国内人工智能立法已有计划

6月15日，“中国人脸识别第一案”在浙江杭州市富阳区法院开庭审理，引发公众关注。对簿公堂的是浙江理工大学副教授郭兵和杭州野生动物世界。因动物园改装系统，明确若不注册人脸识别将无法入园，也无法办理退卡退费。因不愿意使用人脸识别，持有年卡的郭兵将其告上法庭。

郭兵的诉讼无前例可循。曾毅对《每日经济新闻》表示，之前已经有了《人工智能北京共识》和科技部《新一代人工智能治理原则》，中国提出的人工智能原则和西方的冲突并没有那么大。全球各个地区在讨论人工智能的伦理和治理形成共识时，联合国在其中发挥了重要作用。

曾毅介绍道：“世界卫生组织也成立了健康领域人工智能伦理治理的专家组，我代表中国参加了这个专家组，这个专家组的主要目标是针对广泛的健康领域，制定人工智能伦理和治理的WHO原则。”曾毅表示，在疫情期间，该组织的主要工作是制定关于密切追踪者应用，类似健康码系统相关的伦理原则，这在5月底发布了。

AI治理是个深刻的话题，之前并没有成熟的模式可以遵循。在曾毅看来，AI治理是多方利益相关方的责任和问责的问题，涉及每一个人工智能产品的全生命周期，涉及设计、研发、使用、部署各个层面。

在国内层面，曾毅向记者透露，从前沿研究的角度来讲，人工智能立法在科技部等机构都有专门的研究计划部署，相关的高校和产业都在协作制定，北京市也在推动和人工智能相关的立法工作。

从互联网时代开始，为了追赶风口，国内众多互联网应用似乎都经历过野蛮生长阶段，牺牲了用户众多权益，最后在监管层的管控下逐渐归于理性。现在人工智能行业的发展又站到了新起点，如何规范好前沿技术成为所有人工智能企业面对的命题。