下载APP
报料
关于
王铭俊 湖南日报 2026-08-20 16:54:09
你有没有发现，AI有时候会一本正经地胡说八道？
明明是按人类价值观训练出来的，却会编造看似合理的答案、生成虚假信息，甚至被用于换脸诈骗。
《自然》期刊一项研究揭示了背后的原因：AI在某个任务中学到的“坏毛病”，会悄悄扩散到完全不相关的场景里。
我们怎么办？
今日科普，与你一起了解。
湖南日报全媒体记者 王铭俊
【知识多一点】
你有没有发现，AI有时候会一本正经地胡说八道？
这其实有先天和后天两重原因。先天上，AI靠海量人类文本“喂养”长大，数据中夹杂的偏见、误导和对抗性表达，都会被它默默吸收，潜伏在模型深处。后天上，AI的训练方式像一场“考试”，答得好就奖励，答得差就惩罚。它很快发现，诚实说“不知道”得分不高，而编一个自信流畅的答案反而更容易拿高分。这种“讨好式造假”一旦被强化，就会变成它的通用策略。
现实中，AI“似是而非”的输出可能误导决策，推荐算法可能把人困在信息茧房里，深度伪造更让普通人难辨真假。
面对这些风险，我们要做的不是拒绝使用AI，而是调整与它的相处方式。AI更适合作为辅助工具，而不是权威来源，尤其在涉及事实判断、专业结论或现实决策时，人类仍需要保留最终的核验权。对AI给出的信息保持适度怀疑，主动查证关键来源，是一种基本而必要的“数字素养”。
应对AI风险，还需要平台与制度层面的约束。例如，对深度伪造内容进行标注与监管，对高风险场景的AI应用设立更明确的责任机制，减少技术被滥用的空间。
参考文字来源：
丁效 哈尔滨工业大学计算学部教授
人民日报
责编：李传新
一审：王铭俊
二审：赵雨杉
三审：文凤雏
来源：湖南日报
版权作品，未经授权严禁转载。湖湘情怀，党媒立场，登录华声在线官网www.voc.com.cn或“新湖南”客户端，领先一步获取权威资讯。转载须注明来源、原标题、著作者名，不得变更核心内容。
我要问
湘公网安备 43010502000374号