2023夏季达沃斯｜人工智能飞奔 如何回应信任和监管难题？_世界速看料

21世纪经济报道 记者 郑雪 北京报道

(相关资料图)

生成式人工智能的快速发展似乎引起行业和监管格局的变化，各国政府都在重新审视最初的人工智能战略。如何挖掘AI的商业潜力？如何解决人工智能带来的信任危机？谁来监管人工智能？

6月28日上午，主题为“与时俱进：拥抱人工智能革命，提高人工智能水平”的圆桌讨论在第14届新领军者年会（又称“夏季达沃斯”）上举行，围绕人工智能的信任与监管问题，与会专家展开讨论。

信任：理清因果关系 建立透明度文化

生成式人工智能飞速发展的同时，对于这项新技术的讨论和担忧从未停止。如何回应生成式人工智能快速发展中带来的歧视、偏见等问题？生成式人工智能是否真的理解人类的真实意图？人工智能的快速发展带来的职业替代，又该如何解决？这一系列问题的背后，首先需要解决的是信任问题。

来自柏林赫蒂学院伦理与技术教授Joanna Bryson认为，如何让人们信任AI是一个非常重要的问题。在她看来，让人们感到安全，才会有信任产生。当前在信息透明度方面做的还不够。信息时代，人们可以通过各种方式获得信息，政府机构不仅要关注信息如何帮助经济发展，还要以人为中心。AI可以看作一个展现透明度的机会，可以趁此建立透明度文化。

新技术走在正确的方向上才能被人信任。“我们现在必须要让人们透明的看到我们在做什么，不是说要让一切开源，我们还是可以有一定程度的保密，但是我们必须要知道里面有些什么。欧盟的人工智能法案草案提及外部审计，不用害怕，类似于银行业的审计环节。我们要跟其他行业一样，学会最佳实践。比如使用AI的系统，如何测试，如何去做质量保障。”

causaLens是伦敦一家专注于因果推理的人工智能公司，该公司CEO Darko Matovski介绍了一种可以获得信任的、因果式的AI。不同于chatGPT通过相关性进行推理得到最终结果，因果AI是在考虑科学事实的前提下来模拟信息传递，挖掘事物背后的因果逻辑。“欧盟的人工智能法草案中提及要理清大模型的因果关系以确保在真实世界中的使用。因果AI可以帮助理解为什么AI会做出这样的决定以及确保给予可以信任的结果。”

针对AI信任问题，有人提出：互联网早期，人们对互联网也并不信任，而到现在会利用互联网做很多事情。AI所面临的信任问题是不是和此类似，是否会随着时间的推移而变化？

东软集团CEO刘积仁认为，关于信任问题，归根到底还是一个时间问题。AI可以帮助社会进步和工作效率的提升。未来，数据的问题、隐私的问题都会得到解决。“可以看到，所有的国家包括发展中国家也都开始搭建自己的数据隐私治理框架，技术有发展，监管早晚也会跟上。但我们还需要给技术的开发者一定的空间，让他们能够先走一步，探索一些未知的东西。”

监管：关注措施落实  加强各方合作

不同于其他技术，生成式人工智能带来的或许是整个生态的重新建构。

刘积仁认为，如果要考虑AI给社会发展创造价值，意味着需要转变技术，给其他人赋能赋权，这不仅是科技问题，还涉及整个体系的设计。“以医疗方面的人工智能实践经验为例，技术发展已经相当迅速，但生产体系的建设严重落后于科技发展的速度。我们搭建的体系还没准备好去用好AI，而各产业想要以一种比较垂直的方式来用AI的话，这就离不开政府与企业的通力合作。”

生成式人工智能的发展也为监管带来挑战。谁来监管、如何监管、如何平衡技术创新和安全？这些都需要回应。

卢旺达信息通讯技术和创新部长波拉·因加比雷（Paula Ingabire）认为，政府的角色其实是要建立一个监管框架，需要有一个友好的、鼓励创新的监管环境。“当谈到监管落实的时候，很多人认为政府要牵头建立新技术、新行业的生态系统。但政府无法单打独斗，需要和企业合作，需要确定行业中谁来扮演重要角色。当然刚开始是政府牵头，但是后来需要私营力量一起加入。”

Joanna认为，技术并不是难题，比较难的是监管。无论是来自政府层面还是社会层面的监管还是不够。一直以来，科技公司，比如社交平台、邮箱等，他们的运营并不透明。现在很重要的是需要有更多的监管，确保新的技术有很好的监管框架，确保AI公司以合规的方式来使用新技术。而这些离不开各方通力合作。

Darko介绍，在人工智能监管方面，欧盟很早就开始关注AI议题并做出提案，欧盟的分级分类是一个正确的方向。一个关键的问题在于措施如何落实。一个很好的监管技术如果用不正确的方式落实，可能会对新技术带来影响。“这就是为什么我们应该把重点放在规制上面，这些规则的落实会决定AI的未来。必须要对强有力的技术进行监管，必须要用正确的方式进行监管，要以实际的方式进行监管，否则就会磨灭创新。”

在论坛的最后，加利福尼亚大学伯克利分校哈斯商学院教授Olaf Groth作为圆桌论坛的主持人总结道，“我们今天讨论政府的角色非常重要，政府可以确保AI带来经济发展的同时让人们保持尊严。但同时我们必须意识到政府不能够独自进行眼前这项严峻的挑战，必须要与很多不同的各利用方合作，另外也需要有创新实验的空间。”在他看来，基础设施、培训、教育还有数据库，这些都是人工智能发展中很重要的要素，但是如果没有整体设计，这些要素无法加成。现在也必须要整个社会一起来推进眼前的工作。

关键词：