东方网记者解敏7月10日报道：“如果算法是一个黑盒，只要输入数据，将试卷放进去就能算出成绩，那么这一成绩的计算依据是无从得知的。人工智能发展到今天，我们更需要的是找出一种方法，理解AI做出某项决策的原因。”在今天举行的2020世界人工智能大会治理论坛上，图灵奖获得者John Hopcroft表达了他对人工智能的社会责任的担忧。

John Hopcroft认为，AI程序的训练数据可能带有偏见，例如，如果当前大多高层职位都由男性担任的话，那么AI在执行高层职位人员选聘流程时往往会选择男性。AI算法出错，应该由谁买单？当无人驾驶汽车发生伤人事故，责任应该由谁承担？此外随着AI应用普及，许多技术含量较低的工作将实现自动化，这一过程将创造大量财富，但相应地如何分配这些财富？他表示，AI程序的应用将带来许多法律问题，必须随之调整法律体系，这些问题都需要人们深入理解、妥善解决。

论坛上，国家新一代人工智能治理专业委员会主任薛澜介绍了中国人工智能治理的进展和挑战。去年我国成立国家新一代人工智能治理专业委员会，推出了新一代人工智能的治理原则：“发展负责任的人工智能”，并提出了八项基本原则。首先是数据治理，现有的治理体系里对数据的权属和使用的规定不够清晰完善，数据和隐私保护问题突出；其次是算法争议的问题，对算法的监督能力薄弱是目前普遍存在的问题，企业滥用算法可能会导致公众利益受到损害；另外平台经济垄断产生了许多新现象，很多平台企业可以针对客户精准施策，消费者的搜寻行为受到很大的限制，现有市场治理体系已无法适用这些现象，需要重新去探讨。

他建议，中国人工智能治理首先要加强基础研究，降低技术风险，把社会影响因素纳入技术选择中，建立基本的伦理底线；同时要建立多元共治的人工智能伦理治理体系，社会各方面都要有渠道和平台发声；还要把数据和算法作为当前重点治理的对象把数据共享机制、数据的权属、隐私保护等方面加强规则制定。薛澜指出，要结合具体应用场景来规范人工智能的伦理，在讨论一般性规则的同时也要加强和应用场景有机地结合。更要积极参与国际人工智能伦理治理体系，推进人工智能全球治理的有效实施，贡献中国力量。

论坛上，“上海国家新一代人工智能创新发展试验区专家咨询委员会治理工作组”宣布成立，并发布“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动9条），这也是国内首次提出系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理工作提供参考。

本届人工智能治理论坛由上海市科学学研究所主办，以中英双语形式向全球放送，论坛提倡世界各国平等发声，邀请了近20位国际嘉宾进行交流，在国际论坛较少发声的巴西、阿根廷、墨西哥等国专家均表达了积极参与全球人工智能治理的期望，也介绍了本国在人工智能发展中的个性化问题。