“AI漫剧”成健康科普新形式,如何避免“伪科普”陷阱?

  央视新闻客户端  

最近,不少人在短视频里刷到一类AI生成的“食品科普”:南瓜里有葫芦素,做成辅食可能毒死婴儿;桑葚是“水果之王”,晒干后所有营养还能翻8倍。画面像模像样,语气笃定,很多人顺手就转发给了家人。乍一看,这些科普背后似乎都有科学原理,仔细查阅却会发现,AI只摘取了最有冲击力的极端情况,直接过滤掉了很多必要条件。这种半真半假的内容,比纯粹的编造更难分辨。

这类科普往往依托于AI漫剧,画面流畅、术语密集、结论干脆,迷惑性极强。如何避免AI科普从普及知识滑向误导大众?怎样避开这类伪科普陷阱?

短视频平台上,“吃南瓜吃进ICU”的科普视频已经迭代出多个版本。点开评论区,很多人表示,“头一次知道南瓜还有剧毒,已经转发给家人朋友”。我们常常食用的南瓜真的有毒吗?科信食品与健康信息交流中心副主任阮光锋说,南瓜属于葫芦科,品种多样,我们日常食用的南瓜没有安全风险。

阮光锋:葫芦素是一种具有很强烈的苦味的天然植物化合物,摄入过量确实可能会引起恶心呕吐,严重时甚至可能会导致中毒。但是也不能够因此认为我们所有南瓜都有安全风险,因为我们正常食用南瓜实际上都是经过植物学家选育了的,是选择葫芦素比较低的品种来进行种植使用的,发生南瓜因为太苦而中毒的概率是非常低的。

此外,南瓜和观赏葫芦属于不同属,存在生殖隔离,并不会像视频所说,经过蜜蜂授粉就会“传染”葫芦素。

除了南瓜,还有视频则在科普“桑葚”是“超级水果”。这一说法准确吗?

阮光锋:桑葚确实是含有花青素的,但是1400毫克每100克这个数据需要明确样品到底是鲜果还是干果,测的时候是用什么检测方法,是湿重还是干重。至于晒干之后营养翻8倍,实际上是混淆营养浓度和营养总量。特别是像花青素、维生素C等等,实际上在干燥过程中还会发生氧化和降解。

这些科普披着AI漫剧外衣,看似制作精良、生动有趣。浏览类似视频可以发现,它们都存在类似的剧情套路——开篇抛出颠覆常识的极端事件,设置孩子中毒、老母亲进ICU等容易引发共情的情节,暗示商家、医院等都在刻意隐瞒事实,最后由“外星人”或“权威医生”等角色揭开真相并给出建议。

中国科学技术协会作过统计,健康领域是伪科普的重灾区。过往发布的科学辟谣内容中,健康领域占35%左右,食品安全、饮食营养等约占30%。那么这些AI科普的漏洞是来自AI本身的“幻觉”,还是作者有意为之呢?

复旦大学发展研究院研究员 王帆:我们现在很多AI生产的东西,本身用的材料或者知识来源是在网络上获得的,它本身也不完全是真实的信息。另外一方面,创作者也有他的流量动机。比如说他要用这种非常极端化的话语框架,或者说用一些带有个人或者是机构诉求的信息把它融进去,就很容易造成AI科普的一些问题,对整个健康科普的环境造成污染。

随着AI工具快速迭代,AI内容生产效率大幅提升。只需要截取一段真专家的视频,利用AI更改文案和口型,就能批量生成看似可信的有“专家背书”科普视频,这也大大增加了辟谣的难度。王帆表示,在此类视频的传播过程中,要尤其关注它对“一老一小”群体的影响。

王帆:在所有的人群中间,老年人的健康需求和对于自己的疾病管理的需求是最大的。他们可能有更强的主动性去获取这类信息。另外一方面就是老年人的健康素养、媒介素养会弱一点,他们也很容易被说服去做一些事情,比如购买保健品。儿童青少年也是我认为非常需要关注的。因为他们的思想还不够成熟,有的时候他们看到信息之后也会信以为真。

如今的AI漫剧角色生动,剧情紧凑,往往能通过一个具体的情境让观众沉浸其中。如何才能让AI技术更好地服务于科普工作?在王帆看来,用好这一生动的形式,反而可能会是健康科普的新机会。

王帆:比如说社区卫生服务中心一个普通的医务人员,他可能没有时间也没有能力再传统地拍片子剪片子,但是AI其实给他们提供了一个模板。我其实觉得AI可能是一个健康科普、健康教育的新机会,让我们健康科普的生产能够真正地去服务那些需要的人。这就是治理的问题,值得我们政策的制定者、监管者、学者、平台,特别是我们的医务人员,大家共同思考,共同协作去推动这方面工作的开展。

近日,中央网信办印发通知,在全国范围内部署开展为期2个月的“清朗·整治科普健康类网络谣言”专项行动,重点整治编造民生健康谣言、冒用专业身份传播伪科学、滥用AI生成健康谣言、虚构康复案例诱骗消费等四类突出问题。科信食品与健康信息交流中心副主任阮光锋提示,如今AI生成内容带有强制性标识,观看这类内容时要多加分辨。

阮光锋:不论它的画面多么逼真,故事情节多么有意思,一些虚拟人物都可以穿着白大褂,但是都不代表它的内容一定科学。

第一要看这个视频到底是谁发布的,发布方有没有明确的专业机构或者可靠的信息来源,不要只看这个账号名称或者人物形象。

第二要查数据,测的东西是什么品种的,用了什么计量单位等等。

第三要思考视频里面提到的某一种情况到底需要满足哪些条件。对于那些涉及像疾病治疗、食品安全、营养健康功效等等这些重要的信息,最好还是要去正规的医疗卫生机构、专业的科研机构等等去核实。

“AI漫剧”成健康科普新形式,如何避免“伪科普”陷阱?

责编:张璇

一审:张璇

二审:徐典波

三审:姜鸿丽

来源:央视新闻客户端