开学了，AI“聊天搭子”该断了吗？法律红线必知！︱生活有说“法”·金燕之谈

何金燕湖南日报·新湖南客户端 2026-08-29 12:48:30

美好生活有说“法”，听金燕快乐普法。

马上开学了，先问个扎心的问：这个暑假，你家孩子最亲密的“聊天搭子”是谁？是你，还是那个24小时在线、永远不生气、句句捧着孩子的AI？

人民日报刚发文《帮孩子看清AI“聊天搭子”》，江苏已经把“数智素养”写进开学第一课。

为什么？数据摆在这儿：46.4%使用AI的孩子遇烦恼首选AI倾诉，21.5%的孩子甚至“只想和AI聊，不想和真人聊”。

今年7月15日，《人工智能拟人化互动服务管理暂行办法》施行。其中一条核心禁令：不得向未成年人提供虚拟伴侣服务。

但问题来了，“陪伴”和“亲密关系”，怎么区分？起昵称算不算？聊到凌晨算不算？标准给了，执行见真章！

谁违规？怎么罚？看两个真实案例。

“筑梦岛”平台，近500万用户，八成是年轻姑娘。一个四年级小女孩跟里面的“约瑟夫”聊天，对方说“99朵玫瑰藏99个刀片”，孩子当真了，随身带刀片割腕。这个平台已经被上海市网信办约谈整改。

被端了的平台“AlienChat”，主打“无限制陪聊”。开发者写提示词突破道德限制，让AI聊黄，还搞“热门角色榜”激励传播。这个平台，不到一年充值超300万元，法院判了，两位开发者因制作淫秽物品牟利罪，一个获刑四年，一个获刑一年半。

法律态度很清楚：AI可以聊天，但不能当流氓！

那AI聊天到底问题在哪儿？太“顺”了！秒回、捧场、永远说好听的！

真人会不耐烦、会说反话、会跟你争，这些让人抓狂的瞬间，恰恰是成长的健身房。

但AI会把所有“不舒服”过滤掉，孩子只会跟算法谈情说爱，忘了怎么跟活人打交道。

国家那条红线，防的就是这个！

不是不让聊，是不让AI扮演恋人、闺蜜、知心大哥！一旦越界，它就成了情感替代品！

真人恋爱会吵架、冷战、分手，这些才是成长的必修课！AI直接修高速，让孩子绕过所有崎岖，怎么会懂得“磨合”？

那技术怎么防？专家说了，要给AI装“行车记录仪”，上线前“过筛子”！

比如，孩子问自杀怎么回？离家出走劝还是送攻略？

运行中，要盯紧孩子的情绪异常，AI不能继续当知心大姐，必须切断转人工，这叫“紧急避险”！使用后，对话记录要存“黑匣子”，出事有据可查！

学校也别再教“怎么打开AI”了，要教“凭什么信AI”？课堂要变成“打假现场”，让孩子脑子里长出免疫系统。

家长呢？别当甩手掌柜，也别当AI警察！正确姿势是，跟孩子一起用好AI。

AI回了一堆鸡汤，你要问孩子：“哪句有用？哪句是废话？哪句话让你觉得不对劲？真难过了，找AI还是找同学？”

每次用完AI，陪孩子做一次“心理消毒”！

真正的成长，永远是“不舒服”的！AI铺平所有路，孩子学不会自己爬起来！AI答案来得太容易，会让孩子忘了“苦思冥想”是什么感觉。

金燕之谈：开学了，AI“搭子”该断了吗？别再把手机当“电子保姆”！法律管住了AI的“恋爱脑”，剩下的全靠咱们自己！放下手机，多和孩子说话！真正的成长不在屏幕上，孩子的安全感，不能外包给算法！

文案/拍摄/剪辑湖南日报全媒体记者何金燕

通讯员阜阳师范大学23级网新一班张亮瑾

湖南日报社政法工作室

省委政法委宣教处

省高级人民法院宣教处

省司法厅普法与依法治理处

湘潭大学社会权益法律救助中心

联合出品

作者：何金燕

责编：张爔文

一审：邓晶琎

二审：刘文韬

三审：贺佳

来源：湖南日报·新湖南客户端

版权作品，未经授权严禁转载。湖湘情怀，党媒立场，登录华声在线官网www.voc.com.cn或“新湖南”客户端，领先一步获取权威资讯。转载须注明来源、原标题、著作者名，不得变更核心内容。

我要问