中国网：人工智能在人们的工作与生活中日益普及，风险和问题也随之凸显。当下，人工智能治理正逐步从理念探讨走向实践探索，如何构建公平、包容的人工智能国际治理体系成为国际社会亟待解决的重要问题。未来如何加强国际共识，更好的让人工智能增益人类福祉？怎样统筹发展与治理之间的关系？人工智能对于国家发展具有怎样的战略意义？在2021人工智能合作与治理国际论坛上，中国网《中国访谈》就此专访清华大学人工智能国际治理研究院院长薛澜。

图为清华大学人工智能国际治理研究院院长薛澜 摄影/刘凯

中国网：薛院长您好！非常感谢您接受中国网《中国访谈》的专访。2019年时，国家成立了新一代人工智能治理专业委员会，随后发布了治理的原则。您怎么看待人工智能治理的重要性和前瞻性呢？

薛澜：的确，应该说中国政府对于人工智能的发展、治理都是非常重视的。2017年，国家发布了《新一代人工智能发展规划》，大家仔细看会注意到，这个规划里谈到了要高度关注人工智能的发展可能带来的一些风险和社会影响，采取有效措施来防范风险。《规划》更多会谈到怎么样发展，怎么样促进这方面的科学研究和应用。我认为，这和2017年当时的发展阶段密切相关，因为那个时候也是人工智能技术刚刚发展，进入到一个高潮，但我个人觉得更多的还是在科研、在研发这个层面。应用，应该说当时还是比较有限的。

但国家非常快速地在2019年就成立了（新一代）人工智能治理专业委员会，而且这个专业委员会，在大家共同努力支持下于2019年6月份，就发布了人工智能治理准则，提供指导。

当然，大家也知道，最近两年也有新的发展，今年发布了《新一代人工智能伦理规范》，其实全社会包括企业也开始出台了他们相关的、共同遵守的一些原则。

中国网：您作为委员会的主任，怎么看待从2019年到现在差不多快三年的时间，我国在治理准则上面一些有益的探索和尝试呢？

薛澜：我觉得，应该说中国在这方面和国际同行一起是走在前列的。首先，我们的治理准则不光是把它发布，而且现在也和很多企业包括行业一起探讨具体的实施。中国很多企业，刚才已经谈到，他们已经开始形成一些共同遵守的、相对自律性的准则。另外，头部企业成立了很多内部的人工智能治理委员会。 另一方面，其实中国的学术界以及研究机构在这方面也进行了大量的研究，同时与国际同行进行交流，希望推动全球这方面治理体系的进一步完善形成。

中国网：尽快达成国际认可的共识。

薛澜：对。

中国网：人工智能技术因为不确定性和颠覆性，我们面对的很多问题都是新出现的，每时每刻都在发生变化。您怎么看待人工智能所带来的风险和我们所面临的新的挑战？

薛澜：当然大家最担心的风险，而且科幻小说或科幻电影里面经常出现的，就是我们人类变成人工智能的奴隶，机器人和人工智能统治我们未来的这个社会。但很多科学家已经告诉我们，我们离这个还很远。所以，这一点大家不用太担心。

但更实际的，其实潜在的风险是在应用过程中。比如算法偏见，由于这种技术应用，可能会加剧我们人类社会已有的各种歧视、偏见等等。所以，这方面我们特别关注。另外一点就是对隐私的侵犯，这是我们担心的。

这些都是比较现实的，马上看得到的。我们更担心的是另外一类风险，这类风险是通过长时间的积累，最后对整个社会带来结构性的冲击和影响。

中国网：有一个从量变到质变的过程。

薛澜：量变到质变。好比说在就业方面，在个别的企业应用确实可能提高了效率，可以减少用工，但如果想在全社会大规模地应用，那就业替代的影响就是不可忽视了。所以，这方面就需要更前瞻地看到可能带来的影响，应该采取措施来去相应地应对。

中国网：人工智能国际合作与治理论坛今年是第二届，去年的时候您曾经说过，人工智能技术的发展是非常快的，日新月异，但治理体系作为一种社会体系它的发展是缓慢的，是渐进的。我们知道这种缓慢和渐进和它的性质有关系，但另一方面也是可以通过推进国际合作来加快它的进程。那么您对此有哪些建议？如果对比去年和今年，您认为，我们在人工智能治理的国际体系方面有哪些进步，有哪些进展？

薛澜：首先，非常可喜地看到，在一开始，我们讲人工智能治理，我觉得全社会大家不太理解，而且有很多科研工作者甚至于觉得有一点不是太高兴。说我们人工智能技术刚刚发展起来，还没有真正很好地应用，你们就说要提高治理。这可能是误解了发展和治理之间的关系，其实我们现在强调它的治理，是为了更好地发展，如果我们不去关注治理的问题，一旦出现什么风险，变成现实的话，可能就会大大地阻碍人工智能的发展。所以，我们实际是通过治理去更好地促进它的健康发展。

第二点，不仅是我们研究者，全社会对人工智能的两面性也有更清醒、更理性的认识。在人工智能刚刚发展的时候，也有一种就觉得人工智能是万能的，各方面都特别好。但一旦碰到一些隐私各方面的（问题）一下又觉得人工智能一无是处。我觉得现在经过过去这一两年的发展，和全社会更多的讨论，能看到它积极的、赋能的一面；另一方面也明白它可能会带来潜在的风险。我想这样为我们今后人工智能长远的发展是奠定了一个非常好的基础。

我想国际社会也面临同样的问题，我们这次会议有那么多国际的同行来参与，大家也都看到人工智能的发展需要两手抓，一方面是推动它的创新，一方面是推动它的治理。在这方面，其实合作的潜力是非常大的，但是我觉得也必须得看到，我们人工智能的国际治理这方面的合作其实也受到了地缘政治的一些影响。

其实如果我们冷静下来看，人工智能的治理和气候变化的治理是一样的，它有潜在的可能给我们人类社会带来巨大的风险。我们今天发言人也谈到了，尤其在军备竞赛这方面，如果在人工智能领域开展，其实也会潜在地有很大的风险。

所以，在这方面，如果能够，我们特别希望美国相关的部门能够摒弃这种地缘政治的偏见，能够来积极主动推动这方面的合作，从目前我们看到的所有中国政府领导人的表态和我们各种文件都是非常希望推动人工智能治理国际合作。我觉得这方面，我们中国的学者更是愿意跟国际同行一起来探讨这个问题。

中国网：正像您所说的，人工智能作为一项前沿技术，各国都非常重视。未来如何让它成为增益我们人类的福祉，而不是让它成为犯罪和战争的工具，国际的合作和共识非常重要。您认为，目前我们在达成一个国际共识的治理框架方面还存在哪些障碍或困难呢？

薛澜：首先就是需要保持开放包容的心态，就是我们要认识到，虽然在基本的价值层面，我们大家还是有相当的共识。但另外一点，哪些价值可能更重要、更关键？不同国家处在不同的发展阶段；另外，可能由于文化各方面的这种传统的差别，所以大家可能会不一样。

中国网：我们第一诉求和文化背景是有差别的。

薛澜：对。所以，可能有些国家会把某些特别的价值观念放在最重要的位置，但另外一些国家可能把其他的价值观念放在第二、第三，我觉得这恰恰体现了我们国际社会的多元性，我们都应该去尊重。所以，我想首先一点，在价值层面应该有更多尊重。

第二点，我们要看到，不同的国家它在技术发展过程中处于不同发展阶段，有些国家可能处于前沿第一梯队，好比基础性的技术开发这方面，美国还是非常领先的。当然，还有很多发展中国家相对来讲这方面还是比较落后的。所以，我想在这个发展过程中，要充分认识到这种差别，要能保证技术的开发能充分应用到整个国际社会，而不能扩大我们现有发展的差别。

第三点，其实要看到，不同的国家它的应用场景差别很大。我们举个例子，像中国这样的人工众多，很多应用场景需要高通量的技术应用时，类似于人脸识别这样的技术就可以提供巨大的益处，人们通过火车站等场景下就会提供很多的方便。但其他的国家，其他的应用场景可能跟中国是差别很大的。我想在这方面，我们也要认识到，不同场景的差别也会影响到各个国家对不同技术应用的需求它的差别。

我想如果我们能认识到这种多元性，基本原则我们大家形成共识的基础之上，尽可能包容这种多元的这种应用场景。

中国网：谢谢薛院长！

（本期人员：主持/责编：佟静；摄像：王一辰 刘凯；后期：刘凯；主编：郑海滨）