图灵奖得主查德·萨顿指出普通生成式AI难以实现真正科学发现

图灵奖得主理查德·萨顿近日指出，当前主流生成式AI存在关键能力缺失，难以实现真正的科学突破。这一观点引发了科技界对AI发展路径的深度思考。

IT之家注：萨顿是美国计算机科学家，强化学习领域主要奠基人，现任阿尔伯塔大学计算机科学教授、北京大学图灵导师、前DeepMind研究科学家，2025年3月与安德鲁·巴托共同获2024年图灵奖。

图源：WikiMedia

萨顿强调普通生成式AI存在明显局限性。虽然大语言模型、图像模型和视频模型能够通过学习海量样本生成相似内容，但其优质输出往往直接来源于训练材料本身。

当模型产生真正创新的内容时，这些内容常常超出原有知识范畴。在事实性问题上，此类创新内容通常被视为幻觉。萨顿用一句研究者间的玩笑话总结现状：有价值的内容缺乏创新性，而创新的内容又缺乏价值。

萨顿并未完全否定生成式AI的应用价值。他指出这类技术在摘要生成、研究辅助、智能助手和娱乐领域具有实用价值。如果目标仅是更高效、低成本地模仿原有对象，生成式AI确实能带来显著效益。

萨顿认为真正的科学发现需要三个关键步骤：首先是产生变异，其次是进行评估，最后进行选择性保留。这个循环过程是进化论、科学方法、规划算法、搜索技术和强化学习的共同原则。

当前生成式AI最突出的短板在于评估环节。虽然语言和图像模型能生成大量变体，但缺乏有效的测试机制就无法筛选出最优方案。人类的选择标准、棋类胜率评估、形式化证明、程序测试和模拟奖励等都可以作为有效的反馈机制。

萨顿特别列举了AlphaGo、AlphaZero等成功案例。这些系统都建立了超越简单生成的评估闭环，因此能够持续追踪更优解决方案，而非仅仅停留在候选答案的生成阶段。

萨顿对AI行业过度依赖扩大语言模型规模的做法提出批评。他更看好能够与环境持续互动、从经验中学习、构建世界模型并制定策略的AI智能体发展方向。

萨顿的观点为AI发展提供了重要启示：要实现真正的科学突破，必须突破当前生成式AI的局限，建立完整的评估和优化机制。