大模型为什么会“突然变聪明” 从一个中学公式说起

  光明网   2026-06-05 15:33:41

人们第一次真正感到震惊,往往不是在听到“人工智能又赢了”的新闻时,而是在亲自和一个大模型对话之后:它能写诗、能解题、能反驳你的逻辑,甚至能察觉你话语背后的情绪。这种聪明,究竟是从哪里来的?

从中学公式说起

理解大模型,不妨从一道中学数学题入手。

我们都学过一次函数:Y=aX+b。这个公式的本质,是用两个参数——斜率a和截距b——去描述一种规律。当通过已知数据“学习”到了a和b的具体数值后,给出任意一个输入X,就能输出Y。

这正是“模型”的本义:对现实世界某个方面进行简化和抽象的描述,用数学公式或方程来表示。

但现实问题远比一条直线复杂。当科学家面对语音识别、图像理解、语言对话这类复杂问题时,简单的线性公式根本无能为力。于是,他们想到了一个更有野心的方案:模拟人类大脑的信息处理方式。

神经网络:给机器装上“数字大脑”

人类大脑由数百亿个神经元组成,神经元之间通过突触相互连接,构成极其复杂的信息处理网络。科学家参照这一结构,设计出了“人工神经网络”(Artificial Neural Networks)。

科学家参照人类大脑,设计出“人工神经网络”(Artificial Neural Networks)

人工神经网络的最小单元也是“神经元”。每个人工神经元接收若干输入信号,对这些信号进行加权求和,再通过一个激活函数决定是否“放电”输出,并且实现非线性表达以表征现实世界的复杂。成千上万个这样的神经元按层次组织起来,就形成了包含输入层、隐藏层和输出层的神经网络。

以车牌识别为例:一张车牌图像输入后,输入层负责接收像素数据,中间的隐藏层逐层提取边缘、纹理、字符等特征,输出层最终判断出对应的字母和数字。这套结构能处理的复杂度,远超任何一个线性公式。网络中成千上万个神经元之间的连接权重,就是成千上万个需要寻找的模型参数“a”和“b”。

但神经网络真正的飞跃,来自一个2017年被提出的划时代架构——Transformer。

Transformer:解放并行运算的关键

在Transformer出现之前,传统神经网络处理语言时,必须像串行电路一样,一个词、一个词地按顺序处理。这不仅导致计算速度慢,而且由于“记忆力”有限,模型很容易遗忘前面的长文本内容。Transformer引入了一种叫作“自注意力机制”(Self-Attention)的结构:在处理每一个词时,模型能同时“看到”句子中的所有词,计算它们之间的相互关联(权重),同时它支持并行运算。

Transformer引入了一种叫作“自注意力机制”(Self-Attention)的结构

这就好比,传统方法是逐字朗读一篇文章再理解,而Transformer是把整篇文章平铺开,一眼扫过,同时捕捉全篇词与词之间的微妙关系。效率和性能都得到了显著提升。

从数学本质看,大语言模型仍然是一个“概率预测模型”——根据已输入的文本,计算下一个词出现的概率分布,然后选出概率最高的词输出。这个“文字接龙”的原理看似简单,却在规模扩大后催生了惊人的智能。原因就藏在一个被称为“规模定律”的发现里。

规模定律:暴力美学的胜利

科学家通过大量实验发现了一个简洁而震撼的规律:大语言模型的性能,与三个核心变量之间存在极其稳定的幂律关系,这三个变量是:

模型大小:神经网络的参数数量,即网络中所有“a和b”的总规模。

数据量:训练语料的词元(Tokens)规模;

算力:训练所需的总浮点运算量(FLOPs);

这三个变量任意一个持续增长,模型性能就会相应提升,而且这种提升关系非常稳定,可以被精准预测。换言之:只要持续投入资源,把模型做得更大、喂给它更多数据、提供更强算力,性能就一定会提高。

规模,是通往智慧最可靠的路径。

涌现:智能的“相变”

但规模带来的不只是线性、匀速的进步,还有一种更令人惊讶的现象——涌现(Emergence)。

当模型规模(参数量或算力投入)跨过某个关键的临界阈值时,一种此前完全不存在的能力,会突然爆发式地出现。在小规模时,模型可能完全无法完成复杂推理、写代码或理解幽默,表现接近随机乱猜;而一旦规模跨过临界点,模型突然就能做到了——理解长篇文章、进行多步逻辑推演,甚至“零样本”完成从未见过的任务。

这种现象,极像物理学中的“相变”。

水在0℃以下是冰,固态而坚硬;随着温度升高,一旦跨过0℃的临界点,它就变成了流动的液体。冰并没有“慢慢变湿”,而是在某个临界点发生了本质的跃迁。智能也是如此,在特定规模下,它发生了本质变化,涌现出通识推理、反思能力、零样本学习等此前不具备的能力。

正是这一发现,让整个人工智能领域意识到:大语言模型不是“一个更大的搜索引擎”,而是一个在特定规模下,能自发涌现出高级认知能力的全新技术范式。

算力成为新的生产力

理解了规模定律和涌现,就能理解为什么算力在今天变得如此关键。

如果说工业时代的核心生产力是电力,煤矿和天然气是燃料,发电厂是转化机器,输电线路是传输网络,那么在智能时代,数据就是新的燃料,算力平台就是新的发电厂,大模型是将数据浓缩为知识和数字资产的转化装置,而最终输出的智能,正在渗透到金融、医疗、交通等千行百业。

这种渗透,推动了AI从“感知”向“认知”的范式转变。过去,AI擅长识别图像、翻译语言;现在,它开始真正“理解”世界。

但理解,终究还停留在数字空间。智能如何走出屏幕,走进物理现实,去触摸世界、搬运物品、真正陪伴人类?——这就是具身智能试图回答的问题。

(本文系浙江大学教授、博士生导师、浙江大学具身智能感知与控制实验室(ZEAL Lab)负责人、中国仪器仪表学会科普专家、浙江省仪器仪表学会监事长侯迪波在“智感世界·仪创未来”系列科普直播之从感知到控制:读懂具身智能新科技的主题分享,光明网记者肖春芳整理)

责编:李传新

一审:李传新

二审:段涵敏

三审:文凤雏

来源:光明网

我要问