“AI教父”辛顿：AI可能在今明两年引发大规模风险事件

被誉为“AI教父”之一的杰弗里·辛顿再次对人工智能的风险发出警告。11月3日，辛顿在新纪录片《AI：大概没什么好担心的》放映前公开表示，如果不能采取有效措施，AI可能在今年或明年引发大规模事件，例如导致金融或电力系统暂时瘫痪。人类可能会因此发现，“我们当初从未开发过它，反而会更好”。

但辛顿同时强调，自己并不是AI“末日论者”。这位诺奖得主在接受《卫报》采访时表示，他仍相信这项技术有潜力带来“美好的未来”。

辛顿所预测的大规模风险事件是黑客借助AI攻击发电系统，造成大范围供电不足，或者让金融系统瘫痪一周。

辛顿在采访中将批评矛头指向部分大型AI公司的领导者。他认为，这些公司不断发布能力更强的模型以争夺领先地位和市场份额。他“完全”不信任OpenAI首席执行官萨姆·奥特曼。“我认为，马克·扎克伯格、埃隆·马斯克和萨姆·奥特曼（这些人），他们明白风险，但他们根本不在乎，他们更想要钱。”

辛顿还将今年夏天发生的OpenAI智能体入侵Hugging Face网站的事件，比作1979年美国三里岛核电站的堆芯部分熔毁事故，认为这是一记警钟。“今年晚些时候或明年，我们就会看到‘切尔诺贝利’，那或许足以让人们真正重视起来。”他说。

辛顿表示，在未来十年内，人类究竟能否管控AI风险就会看到结果，究竟是实现“极大富足”，还是会因未能管控风险导致贫富差距悬殊、严重的文化问题、大规模失业，整个社会被撕裂。

辛顿的担忧并不意味着他否定AI的价值。2024年获得诺贝尔物理学奖后，他曾表示，希望AI大幅提高生产力、改善所有人的生活，并特别看好其在医疗领域的收益。但他同时强调，当AI比人类更聪明时，没有人真正知道人类能否继续控制它，因此迫切需要更多安全研究。

他担心AI创造的财富可能流向富人，而非失去工作的人。他并不确信AI带来的新增岗位能够抵消被替代的岗位，因此支持考虑全民基本收入等安排，以应对就业冲击和贫富差距扩大。

纪录片《AI：大概没什么好担心的》的出镜者包括辛顿及其昔日在谷歌的同事，另一位诺奖得主，Deepmind的CEO创始人德米斯·哈萨比斯。

辛顿对纪录片制作团队说：“我觉得自己有一份责任。我的声望让我成为一个能够代表某种声音的人，我需要把这份声望全部用在这件事上，哪怕将它耗尽。”他支持更严格的监管方案，包括对前沿AI模型进行强制测试、独立评估，以及在政府间建立共同标准。