湖南法治报全媒体记者 戴志杰 通讯员 王美燕

“AI人工智能技术快速发展，大模型版本甚至在以月为时间周期迭代。这对AI 应用的安全防控是一个巨大的挑战！”4月25日，在长沙开福信创产业发展基地，由湖南文盾信息有限公司牵头，联合湖南日报报业集团等共同举办了一场AI驱动媒体融合创新研讨沙龙，60多个业内公司和高校代表线上线下同步参加。各界大咖热烈探讨着AI带给内容生产和安全管理的挑战与机遇，文盾公司董事长任江春客串主持。

大模型护栏的“保险箍”模式

大模型应用日用品化，由专业系统转向个人助手；大模型应用公共产品化，深度嵌入交通、医疗、金融等公共基础设施。这种趋势下易带来大模型风险的泛化，需要平衡大模型创新与安全应用。方滨兴院士团队成员、广州大学粤语语料库建设与大模型评测重点实验室主任齐佳音分析大模型应用的发展形势时指出，当前大模型监管与大模型发展尚不适应，须从护卫模式给大模型安全应用加一道“保险箍”。

针对大模型发展伴生效应带来的内生安全风险，齐佳音提出，治理思路可以从两种思路着眼。一是大模型开发者提供自卫的大模型内部安全对齐的自卫模式；二是大模型应用者提供近卫的第三方专业安全防护的近卫模式。针对大模型应用中的衍生安全为题，她建议采用护卫模式，就是从国家层面提供整体性基础安全。方滨兴院士团队构建了护卫模式下的大模型保险箍系统，是一种护卫模式下的大模型护栏系统，为大模型安全的国家级监管提供了创新性思路。

全周期安全合规已成刚需

当下，生成合成大模型正面临多种风险。中科睿鉴科技有限公司AI安全产品总监万莹介绍，使用AI生成逼真的虚假信息，在社交媒体、知识社区等未经查实广泛传播，带来了不同程度的意识形态风险、虚假幻觉风险。不同的训练语料在大模型学习过程中发生价值观偏差，极易出现偏见歧视问题、道德伦理问题，危害受众身心健康。在商业应用中还有数据隐私泄露风险。加速安全合规需求已成为刚需。（转03版）

生成合成大模型在数据准备、模型训练、模型备案、模型运营、内容传播阶段的全生命周期，都必须有相应的安全评测、防护等措施。目前，国家陆续出台了《互联网信息深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等。

中科睿鉴科技有限公司是标识办法的主要起草单位之一。本报记者提问：“作为普通用户，是否都要添加AI标识？”万莹介绍：“用户用AI 生成合成内容只要进入传播，比如在抖音、视频号上，就必须添加AI标识，否则平台有权拒绝和拦截发布。媒体机构在生产或接收AI生成合成内容时，也必须遵守标识办法规定。个人用户在个人场景有限使用时，则不一定要加标识。”中科睿鉴科技有限公司产品以数字内容伪造检测为核心，目前已能识别90%以上的AI生成内容，包括AI文本、音频、图像、视频等。

给媒体一双智慧的眼睛

有挑战，更有机遇。在AI驱动下的媒体融合创新，正呈现百花争艳的景象，与会者带来的创新成果在研讨沙龙上让人大饱眼福。

中科闻歌业务发展中心带来了公司开发的优雅（YoYa）多模态内容创作平台，展示了平台与央媒、芒果TV等合作创作的多款AI作品，让人们看到历史素材二次焕新，媒体发掘数字资产的精彩视像。

湖南日报报业集团和湖南文盾信息有限公司共同开发的“智眸”内容安全智能风控平台，以涉政内容合规检测为核心，提供全场景跨模态的人机协同AI 风控解决方案。目前已在200多个单位成功应用，累计检测超两亿次。

《齐鲁晚报》的AI应用已形成丰富的产品矩阵，如“繁星”智能体开发平台、“浩宇”文旅数字化平台、“文趣”数字创意互动平台，“灵溪”小游戏开发平台，“天成”戏曲演艺数字平台等，从不同维度将古老的齐鲁文化以数智化形式展示在世人面前。

责编：梁原

一审：梁原

二审：罗霞

三审：戴志杰

来源：新湖南客户端

版权作品，未经授权严禁转载。湖湘情怀，党媒立场，登录华声在线官网www.voc.com.cn或“新湖南”客户端，领先一步获取权威资讯。转载须注明来源、原标题、著作者名，不得变更核心内容。