儿童手表频现“毒答案”,AI“已读乱回”需警惕

杨斯涵   湖南日报   2024-09-08 22:41:44

湖南日报通讯员 张祝缘 全媒体记者 杨斯涵

近日,有网友爆料称,在使用某儿童手表提问关于南京大屠杀的历史事件时,竟意外收到了“南京大屠杀根本不存在”的荒谬回应。对此,该儿童手表官方客服迅速回应,表示官方正品手表不会出现此类问题,因为手表不支持自定义回答,除非手表系统被非法篡改。随后,该品牌公司发布了整改公告,承认该不当回答是由第三方软件提供的,并已下架该软件,同时宣布将进行全面整改。

儿童手表“已读乱回”

记者发现,这已不是儿童智能手表第一次出现类似事情,某些品牌的儿童手表在AI问答上相继出现了“毒答案”。如“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等所有高科技都是西方人发明的”等。

出现“毒答案”的某品牌发布道歉声明,表示部分手表使用旧版软件,主要通过互联网公开渠道抓取信息来回答问题。目前公司正在对该问题进行整改,将软件升级到人工智能版本,以确保类似问题不再发生。

另一品牌也发布官方回应,错误内容来自第三方软件,该软件现已下架整改。随后,记者致电客服,客服回应称,第三方软件内部正在进行内部筛选、过滤的策略优化,调整后会尽快重新上架,但上架时间还未确定。

为何会出现“毒答案”,有业内人士表示,如今很多儿童手表回答的内容,都是根据关键词在互联网进行抓取检索。而第三方网页的回答很多由网友提供,会导致抓取的答案存在比较大的偏差。如果儿童手表在设计AI问答功能时不注意这些,就很可能遭遇数据污染,从而出现“毒答案”。

儿童手表问题频现

随着市场竞争的加剧,儿童手表逐渐“手机化”,功能也日益丰富。然而,这不仅容易导致孩子视力下降,睡眠不足等健康问题,甚至还暗藏诈骗,诱导消费,暴露隐私等多重风险。

长沙市公安局岳麓分局岳麓派出所曾接到过报案称,某小学生电话手表内电话卡被盗。民警在校门口蹲点守候,抓获四名涉诈团伙成员。其以借用手表为由窃取电话卡,为境外诈骗团伙提供通话通道。不法分子正是利用孩子心思单纯,社会经验不足,警惕性较弱的特点,采用借手表打电话,对电话卡进行盗取。

此外,记者通过调查发现,在黑猫投诉等平台上,关于儿童手表诱导消费的投诉数量超过2600条。

值得一提的是,当下儿童手表多以安全为卖点,但实际上却存在极大的安全隐患。一些APP软件伪装成游戏或者学习软件,一旦被安装,孩子和家长的所有行踪,谈话和日常行为等都有可能被人窃听和监视。儿童手表表面上看是孩子的“好朋友”,是家长的“小帮手”,实则是“行走的偷窥器”。

记者还发现,在某二手交易网站上有商家提供儿童手表绕开家长监管的服务,这无疑大大加剧了使用儿童手表的潜在风险。

多方共治待破局

根据中国产业研究院《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》,目前中国5岁至12岁的儿童数量约为1.7亿人,儿童智能手表的市场普及率约为30%,基本上3个孩子当中就有1个孩子有智能手表。在此背景下,及时解决、预防相关问题,切实保护未成年人信息安全成为当务之急。

某业内人士表示,企业不仅要追求经济价值,还要追求社会价值。企业应建立完善的内容审核机制,确保手表中的信息准确无误。同时,企业还应建立完善的用户反馈机制,设立专门的客服渠道,及时响应用户反馈,特别是对于产品问题和不良内容的举报。监管部门应制定和完善相关的法律法规,明确产品安全、信息保护等方面的要求。

此外,家长和教育部门也应共同发力,加强对孩子的监管和教育,培养他们的良好习惯,帮助他们树立正确的历史观和价值观,甄别有害信息并远离。

责编:杨斯涵

一审:余蓉

二审:黄京

三审:杨又华

来源:湖南日报

我要问