今日科普｜AI为什么会把偏见“学”进去？

让AI生成一个程序员、护士或教授的人物简介，它会不会自带刻板印象？

2025年的一项研究给出了答案。

研究人员让5款大模型围绕12种职业生成1.62万份人物简介，发现模型普遍存在性别、地域、年龄等方面的刻板印象，比如护士几乎总被写成女性。

为何会这样？该如何解决？

今日科普，与你一起了解。

【知识多一点】

让AI写程序员、护士、教授的人物简介，它很容易带出职业刻板印象。

一项2025年的研究测试5款大模型，在生成上万份职业简介后发现，模型会不自觉带上性别、年龄等偏向，比如更习惯把护士设定为女性。

偏见根源藏在训练数据里。AI从海量人类文本、图像中学习，它只会捕捉统计规律，却无法判断这些规律是否公平。当网络素材、招聘信息长期将工程师和男性绑定，护士多呈现为女性时，AI就会记住这种关联，把历史里的固有印象复刻出来。

更值得警惕的是，AI还会放大偏见。人的刻板印象影响范围有限，但AI一旦用于招聘、公共服务，相同偏差会被反复执行，形成系统性不公。AI产出带有偏见的内容回流到互联网，还会持续加固旧有刻板印象，形成恶性循环。

想要规避这类问题，不能等模型做好后再补救，要在挑选数据、设计算法的起步阶段就植入公平理念。我国相关管理办法也明确要求，在AI全流程采取措施防范歧视，守住算法公平的底线。

参考文字来源：

中国科普作家协会

邹贞 中国科普研究所副研究员



作者：王铭俊

责编：王相辉

一审：刘澳京

二审：徐典波

三审：姜鸿丽

来源：湖南日报