“AI教父”辛顿呼吁“AI向善”，2025世界人工智能大会开幕
7月26日，2025世界人工智能大会（WAIC）暨人工智能全球治理高级别会议开幕，大会以“智能时代 同球共济”为主题，邀请来自40余个国家和国际组织的高级别代表出席，围绕深化创新合作、推动普惠发展、确保智能向善等重点议题开展深入研讨。
开幕式上，2024年诺贝尔奖得主、2018年图灵奖得主、加拿大多伦多大学计算机科学名誉教授杰弗里·辛顿，MiniMax创始人闫俊杰发表演讲；Relativity Space执行董事长兼CEO埃里克·施密特与香港科技大学校董会主席沈向洋以“人工智能全球合作展望”为主题开展对话。
AI教父辛顿：防止“养虎为患”
2025世界人工智能大会主论坛首位的发言人，是享誉全球的深度学习之父、图灵奖的获得者、2024年诺贝尔物理学奖得主辛顿。
被人们称作“AI教父”的辛顿表示，人类正处于一个关键转折点——人工智能系统正迅速接近并可能超越人类智能水平，会执行并非操作者所期望或预测的行动。他提出问题，“我们已经习惯是世界上最智慧的生物，如果不是了呢？”
辛顿认为通用人工智能有失控的风险，从而带来灾难。在他看来，AI不会给人类“拔网线”的机会，到了那一天，AI会劝说人们不要这么做。因为人类对AI的控制，就像“三岁孩子制定规则约束大人”，因此一定要教育AI向善。
辛顿在会上呼吁，构建一个由各国人工智能安全研究所与国内研究网络组成的国际社群，培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术。“可能技术是相对独立的，这就好比，教导孩子变聪明的方法是不同的，但好在希望孩子成为好人，是大家的共识。”
AI呼唤更紧密的全球合作互信
香港科技大学校董会主席、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋，和RelativitySpace执行董事长兼CEO、前Google CEO埃里克·施密特进行对谈，探讨中美两国在人工智能大模型上的发展差异与合作可能。
埃里克·施密特首先比较了中美两国的人工智能大模型，他认为其中一个明显区别是：中国主要的领先模型都是开源的，甚至开放权重的，但美国领先的模型大部分都是闭源的，也不开放权重。在两种模式中，施密特更支持开源，认为其好处是每个人可以分享软件，各方可以合作。但他也不避讳其中的风险，即如果被有心之人或国家利用，负面影响可能会加速扩散。
对此，施密特认为需要在过程中设置“护栏”，即在大模型的训练中，与人类的价值观进行对齐：“因为AI非常强大，在接下来的三年左右，系统会自己进行学习，自我改进。在这个点上我们要非常小心，要理解他们到底学什么，他们可以学好的事情，也可能学习不好的事情。”
对待人工智能发展，施密特表示自己是乐观主义者。他认为，在接下来的两年中，会涌现一批智能体，可以通过语言记忆来完成任务，即人类发出语言指令，智能体记住指令，然后采取行动。这将对每个企业、每个政府的工作流产生巨大影响。“下一步的重点是研究更多深度的推理与更多先进的算法。相信未来5年，我们会在社会上看到很多很好的变化。”
施密特表示对接下来的两年充满期待，随着智能体革命的到来，每个企业的工作流都将发生巨大变化。但是，他也提醒，当AI开始自我学习并做出决策时，我们需要确保这些过程不会失控。
“这是人类共同面临的问题，任何国家都要坐下来一起谈判、合作。我相信，中美可以通过对话加强互信，共同迎接AI带来的机遇与挑战，特别是在防止AI负面影响方面进行协作。” 施密特说。
文丨记者 何晶
图丨主办方