WAIC2024丨6位重磅嘉宾、6大AI议题！智能社会论坛主旨演讲思想火

人工智能未来会抢走人类的工作吗？

如何完善人工智能法律治理？

美国和中国的人工治理模式有何同异之处？

……

7月5日上午，由同济大学和上海市杨浦区人民政府联合举办的2024世界人工智能大会智能社会论坛开启主旨演讲，邀请6位国内外不同领域的重磅嘉宾，包含人工智能、公共管理、法律、网络安全、经济等领域的国内外权威专家发表演讲，将人工智能的过去、现在与未来抽丝剥茧、娓娓道来。

金耀初:AI会不会是“聪明的汉斯”？

欧洲科学院院士、IEEE Fellow、西湖大学人工智能讲席教授金耀初作为首位演讲嘉宾，以“浅谈人工智能治理”为题，简要介绍了人工智能的发展历程，并讲述了人工智能所面临的风险、技术补救措施和政府管理。

他提到了人工智能自1956年起至今的三个“春天”和二个“寒冬”，其中让当下人印象最深刻的就是Chat GPT所带来的第三个“春天”，它的对话流畅程度值得惊奇，也推动AI大模型进入高速发展阶段。

在人工智能所面临的风险方面，金耀初列出了安全性、隐私、公平性、可解释性、鲁棒性、责任心这六大相关要素，针对每一要素提出了高风险的问题和技术应对方法，引起现场人员的思考。在讲到人工智能的可解释性时，金耀初举了一个简单的例子:在20世纪初，有一匹叫汉斯的马震惊众人，它经过一段时间的训练后，掌握了基础的数学运算。当人们向它呈现算数题时，它会用蹄子精准敲击正确答案。然而，后来它被发现并不会算数，只是看懂了出题人脸上的表情而已。“我们的AI，会不会也是聪明的‘汉斯’？也许因果学习能够帮助克服这方面的不足。”

最后，在人工智能的政府管理上，金耀初就“我们到底要规范什么”这一问题，分享了自己的观点。他认为，政府应该规范人工智能的产品和应用场景，而非技术本身。

吴志强:“人与AI应和谐共生。”

中国工程院院士、同济大学原副校长吴志强的演讲主题为“社会智能关于HAI主义的破题”。HAI主义，是指Human AI主义，将“人”这一概念与AI相结合，以期实现人与AI的深度合作，推动人类智慧与AI技术的共生共创。

HAI主义在上海，就成了“海”主义。吴志强说，HAI主义就是人与AI的互动，也正是这样的互动，将推动智能社会不断向前迈进，实现以人为本、AI向善。

加布里埃尔·马志尼:走近欧盟《人工智能法》

欧盟委员会官员、欧盟《人工智能法》起草小组组长加布里埃尔·马志尼以视频形式发表演讲，全方位讲解了《人工智能法》的制定背景、性质、内容、适用情况等。

今年5月，欧盟理事会正式批准欧盟《人工智能法》，这被认为是全球首部综合性人工智能治理立法。该法对人工智能系统进行了分类，并根据风险等级制定了相应的监管要求，设定了普适、全面的人工智能监管方法，包括数据管理、透明度、可解释性、人类监督等方面。《人工智能法》通过后，欧盟还宣布成立人工智能办公室，依法对人工智能发展进行监管。

加布里埃尔·马志尼着重提到了“风险”一词。他介绍道，《人工智能法》遵循“基于风险”的考量，按照人工智能系统对用户和社会的潜在影响程度将其分为4类:不可接受风险类、高风险类、有限风险类、最小风险类。风险等级越高，管控越严格。该法尤其强调对高风险人工智能系统的规范和约束。

演讲最后，加布里埃尔·马志尼提醒:“《人工智能法》将来生效后，并非所有规则都于同一时间生效，而是将根据内容，分阶段开始生效。”

马特·希恩:探索中美AI治理新路径

卡内基国际和平研究院研究员马特·希恩以“美中人工智能对话:障碍和前路”为题，从今年5月在瑞士举行的中美人工智能政府间对话首次会议切入，讲述了中美双方在前沿AI治理方面的精彩碰撞与生动成果，并展望了两国政策制定者、科学家、研究人员在人工智能方面的互动发展。

人工智能作为一项革命性技术，正进入爆发式发展阶段。中美人工智能政府间对话首次会议上，中美双方围绕人工智能科技风险、全球治理和各自关切的其他问题深入、专业、建设性地交换了意见。“这是一场很重要的对话，因为在前沿AI的问题上，需要中美双方的共同努力。”马特·希恩表示，“面对AI所带来的风险，中美之间需要携起手来共同应对，这种合作并非仅限于政府层面，也可以推动开展更多专家学者、科学家、企业之间的有效对话，我想这会成为保障中美AI安全性的重要一环。”

对于中美未来的AI发展，马特·希恩保持乐观态度。“中美双方的相关人士都可以积极开展非政府对话，从中互相分享、借鉴、学习，交流有效的AI实践成果，推动AI的不断发展。”

陆凯:中美双方的“星系碰撞”

耶鲁大学法学院蔡中曾中国研究中心研究员陆凯带来了“中美两国人工智能治理的挑战”主题演讲。

演讲中，陆凯介绍了美国国内的人工智能治理模式和参与国际人工智能治理的现状，并阐述了中国的人工智能治理生态，从制度体系上进行了双方对比。他表示，中美双方的人工智能治理体系不同，但在某些方面也有异曲同工之妙。

“中美双方的人工智能，就像两个宇宙星系一样。星系的碰撞并不一定会毁灭掉彼此，更可能会带来一种共同的变化，使得双方都变得更加光明、明亮。”陆凯说。

苏竣:人工智能的发展会影响人类就业吗？

清华大学智能社会治理研究院院长、全国人工智能社会实验专家组组长苏竣的演讲题目为“应对智能社会的技术变革:历史经验与现实挑战”，从人工智能与新质生产力、智能社会治理的几个前沿问题、应对技术变革的历史经验、构建人文智能社会四个方面，介绍了智能社会大背景下可能和已经出现的社会问题，传递了过去的经验做法，并提出了对未来人文智能社会的美好憧憬。

信息茧房带来的群体极化、灵活就业与劳动替代、大模型“价值观”测评、人工智能与能源问题、网络游戏与赛博文明……人类智能社会催生了无数治理问题。如在就业方面，苏竣提出，人工智能的高速发展可能在未来造就人类除就业、失业以外的第三种就业状态:游业。“人工智能把人类的工作做掉了，社会岗位的体量大规模缩减，这就使得一群人不参加社会生产性务工劳动，或不以劳动作为获取经济回报的途径。这，就是游业。人类将会需要在这一情况下，解决‘如何度过无意义的时光’这一问题。”

对此，苏竣带来了三种应对技术变革的历史方法。一是社会精英，尤其是知识分子，出于人文主义精神和强烈的社会责任感，关心关注突破性技术的社会影响；二是政府基于公共利益和公共价值，综合采用多种政策工具，引导技术创新，有效规制风险；三是公众提升科学素养，增强风险意识，积极参与技术变革的治理。

“未来，我们期待为后代构建一个什么样的智能社会？”苏竣说，“一个人文智能社会。在这里，科学技术高度发达，智能技术广泛应用，技术理性和价值理性综合平衡，人、环境、技术和谐共生……”