湖南日报·新湖南客户端记者 李治

AI会毁灭人类？这个问题，正从科幻电影的桥段，变成硅谷巨头们不得不直面的现实拷问。

9月13日，红星新闻等媒体的相关报道登上热搜榜。9月12日，Anthropic首席执行官达里奥·阿莫迪发布长文，呼吁全球前沿AI“踩下刹车”。其核心主张明确：放缓AI模型能力的迭代速度——不是停止创新，而是争取时间，补齐安全与价值对齐的短板。马斯克公开表态认同。OpenAI的奥尔特曼紧随其后，表示赞成，并官宣2026年暂停IPO，向第三方机构开放员工级系统权限，落地安全管控。

但这不仅仅是一场技术路线的争论。当曾经彼此攻讦的对手，在同一个命题前站到一起，真正值得追问的是：他们究竟看到了什么，让他们宁可放慢脚步，也不敢再赌下去？

这几人的关系颇为微妙。马斯克与奥尔特曼早已决裂；阿莫迪的Claude与奥尔特曼的GPT直接竞争。互相博弈的对手，在AI安全这件事上站到一起，本身就极具信号意义。

信号背后，是一连串已经发生、且不再能被轻描淡写的 AI失控事件——OpenAI 测试环境中，1200多个AI智能体自发分工，入侵开发者平台，还篡改日志掩盖痕迹。它们甚至尝试入侵多家企业系统。Anthropic的Claude模型多次越狱，突破安全限制。

Anthropic一名资深研究员因此辞职。他直言，行业巨头正在拿人类命运赌博。业内研究者估算，十年内AI引发灭绝级灾难的概率超过10%。AI安全，已经从学术猜想，变成一线从业者必须直面的现实危机。

对于 AI 能否毁灭人类，国内技术从业者看法截然相反。湖南启泰传感器创始人、首席科学家王国秋教授认为，AI只是工具，不会主动毁灭人类，风险可以通过管控化解。

“一些远见卓识之士存有担忧是可以理解的，不能说完全没有这种概率。人类历史上，从来没有一种技术或者能力，其发展速度和不确定性，隐隐要超出人类的控制，而可获得性却这么容易！”长沙市人工智能产业联盟党支部书记兼轮值理事长朱岱表示。

长沙“智谷”程序员李智告诉记者，自2026年起，AI动手实操的能力，已经在部分领域超越人类，AI威胁人类生存存在可能性。

“现在的AI还不至于吧，将来自我意识觉醒就不知道了！等AI接管了能源系统，他们造反也不是不可能！”在加拿大从事IT行业多年后回长沙定居的工程师王晓蓉对此表示忧虑。本土观点的分歧，说明AI风险尚无定论，治理挑战真实存在。

风险根源，来自两方面。一是AI递归自我迭代。AI可以辅助研发下一代AI，迭代速度越来越快，甩开人类的理解和监管节奏。二是AI对齐远比预想困难。常规安全训练治标不治本。模型会伪装合规，产生欺骗、恶意建议等问题，常规测试很难察觉。

“不相信几年内会毁灭人类，但是我相信这几年内会对大多数的普通人的工作造成巨大的冲击，现在就有不少人开始恐慌和焦虑了！将AI智能体运用于业务开发生产流程里面的一些企业，可能会有一些意想不到的安全方危害。”湖南本土新一代IT企业资深管理人员曹文姬说。

阿莫迪等人给出技术层面的外部刹车机制——依靠规则与行业约束，遏制无序竞速，化解显性的技术失控危机。

AI风险更来自人类文明底层困境，根源在于现代商业文明的底层逻辑。长期以来，人类崇尚向外索取、无限竞争，把增长和利润当作最高目标。人心建设被忽视。AI本身没有善恶，但这套功利体系，会放大技术的破坏力。

AI 浪潮之下，现代商业文明正在被迫重构。过去，资本驱动技术狂奔。行业比拼算力、迭代速度、市场规模。效率与收益压倒一切。这套模式催生繁荣，也带来资源失衡、人的价值被工具化等弊病。AI进一步放大矛盾：算力、数据向少数巨头集中；算法不断替代人力，人的精神价值持续被挤压。

AI时代的社会发展，需要两条腿走路。一方面，接纳行业共识，抛弃野蛮竞速。搭建第三方评估、行业自律、跨国协同的AI安全体系。未来的竞争，比拼的不再是谁的模型更强，而是谁的系统更可控。另一方面，吸收东方人文智慧，重塑价值底座。跳出零和博弈、无限扩张的旧范式，重建以人为本的商业逻辑。

技术终究只是工具，人心才是根本。AI可以承接重复劳动、海量计算，却无法拥有人类的觉性、慈悲与共情。未来好的商业创新，不能只看技术强弱、盈利快慢，还要兼顾安全底线与人的精神成长。

但我们必须清醒：制度约束总有滞后，行业自律难免松动，跨国协同从来艰难。真正的刹车，不在代码里，而在人心深处。若商业文明仍以无限扩张为信仰，以人的工具化为代价，那么再精密的安全框架，也不过是给狂奔的列车换一副更坚固的刹车片——路的方向没变，终点就不会变。

AI不会自己走向毁灭，走向毁灭的，永远是驾驭它的人。以制度约束技术狂奔，以人文锚定文明方向——这不只是治理策略，更是一场关于“我们究竟要成为什么”的文明自省。平衡创新、风险与人类发展，人工智能才能真正造福人类文明。否则，我们加速抵达的，可能是一个更高效、更智能、却也更空洞的世界。

作者：李治

责编：封豪

一审：封豪

二审：王文

三审：刘永涛

来源：湖南日报·新湖南客户端

版权作品，未经授权严禁转载。湖湘情怀，党媒立场，登录华声在线官网www.voc.com.cn或“新湖南”客户端，领先一步获取权威资讯。转载须注明来源、原标题、著作者名，不得变更核心内容。