专访丨朱禹涛：打造“安全可信”人工智能，须做好相应规则制定

(资料图)

6月25日至27日，世界互联网大会数字文明尼山对话在山东济宁曲阜举行。会议期间，光明网记者专访了金砖国家未来网络研究院中国分院院长朱禹涛。他表示，大家对人工智能无限期待，但也担心技术无限度发展会对给人类带来危害。如今，包括金砖国家一直在探讨人工智能发展带来的安全问题。

朱禹涛表示，对于未来打造人工智能核心安全问题，有以下几方面考虑：

首先，人工智能安全性的顾虑。未来，人工智能必须做到可信可靠，无论在任何时候、任何环境下都能提供稳定的服务，出现问题时自身程序也能自我修复。此外，在处理用户隐私数据时，能做好相应信息安全保护措施。

其次，人们对人工智能运作方式不理解的顾虑。人们不知道它们的运行逻辑与计算方式，以及理解人工智能如何利用所谓的“大模型”学习。所以，人工智能也应该具有高度的透明性与可解释性，才能让大众接受并充分利用。

最后，因为人工智能是一套程序或一台机器，究竟能不能像人类一样去理解人类社会的价值观和道德准则，这是一个很大的问题。如何就人工智能的可信性、安全性、可解释性等方面制定好相应的规则，让它按照人类社会准则服务人类社会，需要我们不断推进、长期努力。

（采访：李政葳 摄像：范子川 曾震宇 刘昊 制作：曾震宇 统筹：穆子叶 张哲）

标签：