薛澜:人工智能国际治理秩序的框架与路径

上观新闻2021-07-13

薛澜

清华大学苏世民书院院长、清华大学文科资深教授。研究领域包括公共政策与公共管理、科技创新政策、危机管理及全球治理,并在这些领域中多有著述。他同时兼任国务院公共管理学科评议组召集人,国家新一代人工智能治理专业委员会主任、美国卡内基梅隆大学兼职教授,美国布鲁金斯学会非常任高级研究员等。

人工智能国际治理秩序的框架与路径

(根据录音整理,未经本人审阅)

当前,人工智能技术的应用已渗透到各个方面,同时也带来一系列挑战。从国际治理、全球治理的角度来讲,面临更大的问题。首先在通用人工智能方面,会不会开发出一些人类无法驾驭的智能系统?虽然很多专家认为,我们离那个还很远,不用着急。但我们到底要不要往那条路上走,这其实是一个非常重要的问题。第二,关于大规模自主性杀伤武器。目前联合国系统有这方面的讨论。它与核武器不一样,核武器出现以后,全世界就认识到它的危害,已经有一个非常好的核武器规制体系,有各种各样的东西可以检测到核武器试验。但是人工智能技术在军事上的试验和潜在应用,坦率地讲,很难去检测。会不会有人工智能方面的军备竞赛?对此,我们不无担心。清华大学国际智能研究院副院长傅莹教授与美国布鲁金斯学会也有这方面的讨论。

如果非主权组织掌握了人工智能技术也是令人担忧的。一些专家认为,今后人工智能的知识和能力将成为人类社会的基本生存能力,就像现在人们需要学语文、学数学那样,将来也要学人工智能这门课。关于人工智能的探讨还有很多问题,比如安全问题、个人隐私和可解释性等等。

人工智能给我们带来利益的同时也带来了风险。风险分为两类:一些是即时性的,比如无人驾驶。另一些是短时间内在个体事件中体现不出来的,比如人工智能在个别公司的应用产生了很好的经济效应,但如果在更大规模上应用,产生的社会影响可能要在十年、二十年后才能反映出来,也许当我们意识到的时候,不良的后果已经产生了,就像今天的气候变化。在工业时代开始时没有人觉得烧煤是问题,它提高了人类的生产效率,是好事情,但几百年之后才发现,当年排出的二氧化碳积累了现在的风险。

应对人工智能带来的挑战,最大的问题是发展背后的规则。一是前瞻性治理非常难。潜在的危机很难被意识到,等意识到的时候,治理起来已经非常困难了,气候变化就是典型的例子。现在人类已经适应了锅炉都是烧化石燃料的,要转变很困难。其实在早期,烧汽油的车和电动车是可竞争的,电动汽车很多年前就已经存在,由于当时有很多技术上的问题,尤其汽油法以后,汽车就胜出了。但是今天来看,汽车的发展确实给我们带来一系列的问题。

二是步调的问题。技术发展迭代非常快,但是治理体系,尤其一部法律的形成需要非常仔细的研究、权衡,才能出台。在这个权衡的过程中,技术早已经风驰电掣地跑到前面去了,技术发展和治理规则的发展步调不一致。

在这种情况下,要怎样去应对、形成一个治理框架?在全球治理环境下,主要的核心要素是治理理念、治理主体、治理工具和治理对象。

首先是治理理念、价值导向,不同国家、不同时期的治理导向不一样。前几年对人工智能的发展我们持创新发展理念,“让子弹飞一会儿”,让人工智能技术、企业蓬勃发展起来。在这个发展过程中,确实产生了一系列新问题,今天我们需要探讨怎么去解决,技术的发展创新和风险规制两者之间怎么权衡是在价值理念方面需要思考的。

第二是治理主体。治理主体当然是国家,但在法律形成过程中,需要听取各方面的意见,包括企业、社会,他们对技术发展的想法可能不完全一样。在这个过程中,怎样营造一种多元协调、多元参与、协同互动的机制也是我们需要探讨的。

第三是治理对象。最底层的是数据和算法,此外还有具体的应用场景、对企业和平台的规范。

最后是治理工具。作为治理工具的法律法规是很关键的,是底线,还有其他各种技术标准、行为准则、伦理原则等等都需要研究。

人工智能的国际合作非常重要,怎么去实现?首先要加强学术交流,学者之间的交流可以把各种政治分歧放在一边,形成人工智能的标准。其次,人工智能治理可从互联网治理、核技术治理、气候治理等其他全球治理中吸取教训,学习成功的经验。

考虑到不同国家的差异,我们在对话时,要寻求共同的价值观念,其实仔细分析各个国家的治理原则,共性远远大于差异。这是大家坐在一起共同讨论的基础。现在有很多国际平台,如G20就是一个比较合适的平台。还有一点,我们要制定更合理的框架来衡量人工智能治理的成本和效益,这方面还有很多需要去考虑的。最终希望在联合国的框架下,能够有一个机制,甚至是机构对整个科技包括人工智能进行更有效的规制,真正让人工智能的发展为人类造福,让科技向善。

上海市法学会欢迎您的投稿

fxhgzh@vip.163.com

2021世界人工智能大会法治论坛成功举办

智慧法治学术影响力TOP100|作品•作者•期刊

2021世界人工智能大会法治青年论坛成功举办

刘艳红:人工智能法学的时代三问

乔凡尼•科曼德:人工智能/数据科学在法律中的应用——关注合法性的方法

邰江丽:人工智能的法律挑战与创新应用

安托万•加拉邦:人工智能与法治的困境

菲利波·法罗西尼:向可信赖人工智能迈进

迪诺·希莫纳斯:数字时代的法治问题——沙箱监管

大家都在看