东方网记者李欢、曹子琛7月10日报道：自人工智能诞生之日起，人们对它的态度总是期待中带着警惕。AI能多大程度地参与我们的生活？如果有一天这个世界完全建立了在数据之上，人类是否会遇到危机？在今年的世界人工智能大会上，这些问题又引起了专家学者的讨论。

在今天下午举行的”2020世界人工智能安全高端对话“上，原国家信息化专家咨询委员会常务副主任周宏仁以视频形式致辞。他说，人工智能带来的风险和机遇是并存的，要想利用好它，必须要做好安全风险的前瞻预判和部署。

“目前，我们现在的人工智能还处于初级阶段，正是研究其安全性的好时机。”周宏仁说，我们应尽早从数据和算法着手研究，对付未来可能碰到的安全问题。

数字经济浪潮全面来临，全球人工智能发展随之逐步从“探索期”向“成长期”过渡，在技术和产业上均进入重要的转型阶段。在此背景下，人工智能发展和数据安全问题日益深度交织融合，影响着用户隐私、公民权益、商业秘密、知识产权、社会公平、国家安全等各个方面。数据安全问题依然成为人工智能全面新发展的重要制约瓶颈和继续突破的关键挑战。

何积丰作主旨演讲

“人工智能越来越聪明，正向强人工智能、超强人工智能发展。人类社会希望利用人工智能技术来辅助我们，希望他们在智能制造、智能医疗、智慧城市、智能农业、智慧交通等领域很快应用。但同时，建立在数据之上的应用，也存在着明显的安全风险。”中国科学院院士、上海自主智能无人系统科学中心何积丰长期从事可信人工智能研究。在他看来，人工智能是一种“赋能”技术，对于其安全问题，应该从两个层面来讨论，一层是人工智能技术本身的安全问题，一层是人工智能与行业结合后的潜在风险。

人工智能和具体的行业结合后，又会有哪些潜在风险？何积丰以网络安全为例做了说明。他认为，人工智能将从设计、防护和认证三个方面推动网络安全技术的发展，但人工智能本身的算法、算力、网络体系和数据体系也存在安全需求。

在这场高端对话上，赛博研究院和上海观安信息技术股份有限公司共同发布了《人工智能数据安全治理报告》。《报告》指出，人工智能全面新发展面临着数据采集、处理、流通、实用阶段的多种安全挑战。如在数据流通阶段，多主体之间的数据交互存在泄露和滥用隐患，在实用阶段，智能化的深度挖掘将会威胁公民隐私、甚至是国家安全。

为此，《报告》提出了多条治理路径，加快完善人工智能数据安全治理的顶层设计，重点聚焦人工智能数据安全的标准体系建设，同时，也要不断提高人工智能企业自身的数据安全能力等。