AI之父：我们创造了源自我们数学的外来智能，它们仍然系于我们的代码，却在演化出我们无法解读的模式。
【路德社·简讯 ET 2025年11月3日】
人工智能之父辛顿接受CBS《60分钟》时说：
“我们做的是设计学习算法。这有点像设计进化原理（design the principle of evolution）。但是当这个学习算法与数据发生作用时，它会产生擅长完成任务的复杂神经网络，但我们并不真正理解它们究竟是如何完成那些事情的”。
“设计进化原理”指的不是把最终解逐条写出来，而是先设定一套让系统自我改进的通用规则与压力场：目标与适应度函数、变异与重组机制、选择与淘汰方式、记忆与继承、以及环境与资源约束。在机器学习里对应为损失与指标、优化与正则、数据分布与训练日程。工程师只规定这些学习与选择的规则，模型随后在数据与计算驱动下自行形成复杂结构与策略，细节并非预先编程。@VraserX 评论：辛顿说得非常到位：我们构建了学习算法，但我们已经不再理解它们所构建的东西。这就是深度学习的悖论。我们设计了这些系统如何学习的规则，然而其神经网络的内部逻辑已复杂到我们无法完全把握。数以百万乃至数万亿的参数以人类无法追踪的方式相互作用。
我们可以观察它们在做什么，可以度量其准确率、行为和输出，但无法真正解释它们为何那样做。它们的“推理”并不透明；而是涌现出来的。在某种意义上，我们创造了源自我们数学的外来智能，它们仍然系于我们的代码，却在演化出我们无法解读的模式。机器正在做一些超出我们理解范围的事情，而这或许既是人工智能时代最令人振奋也最令人不安的地方。
Hinton, the godfather of AI, said it best: we built the learning algorithms, but we no longer understand what they’ve built.
— VraserX e/acc (@VraserX) November 2, 2025
That’s the paradox of deep learning. We designed the rules for how these systems learn, yet the internal logic of their neural networks has become too… pic.twitter.com/6594Dl1ALu
Responses