破解AI治理难题，立法该如何发力？

漫画由AI生成 易得香制作

◆面对技术“跑得快”与治理“慢半拍”的张力，现实做法是从“出了问题再管”转到“提前把规矩立起来”，从“被动响应”变成“主动建构”，在发展与安全之间寻找平衡。

◆当前，AI生成模型训练数据合规主要存在三方面突出问题：数据来源的合法性基础问题、个人信息保护与知识产权的权利叠加问题以及训练数据的质量问题。

◆现实中，加大对AI开发者、控制者的法律责任追究力度，对于遏制当前AI领域的违法乱象具有必要性。

◆专家指出，中国人工智能立法的目标，应是在安全层面消除技术风险，在权利层面妥善消解人工智能体与人类的权利冲突，在治理层面制定切实可行的法律规范并开展协同治理。

一个关乎当下的法治命题已经跃然纸上。

今年8月，OpenAI的一记“刹车”震动业界——因风险增加暂缓模型扩展速度，同时实施一系列新的安全防护措施，这让全世界都在重新审视人工智能狂飙背后的治理难题。

AI时代正在创造新的经济、文化样式，也带来涉数据安全与隐私、算法偏见和歧视的风险，更严重的还涉及国家安全和社会稳定。技术“跑得快”与治理“慢半拍”之间的张力，让上述风险呈现跨领域、跨部门的特点。而传统的部门立法往往是部门、行业各管一摊，如此不仅难以应对现实需求，也极易产生“治理鸿沟”。

面对这些问题，学界已有初步共识：既不能指望一步到位，立一部包罗万象的大法；也不能放任技术一路狂奔，现实的做法是在发展与安全之间找平衡，从“出了问题再管”转为“提前把规矩立起来”，从“被动响应”变成“主动建构”。这或许是AI时代立法路径的可行方式，也能为人工智能立法这一全球性议题提供中国思路。

训练数据的合法性之问

AI的“智能性”，根植于海量数据的“喂养”。AI生成模型的训练数据来源是否合法合规，是AI治理的第一道关口。

2025年9月，公安部网安局在“护网—2025”专项工作中发现，某主营AI生成模型训练数据服务的公司，在未按规定评估个人信息保护影响的情况下，违规处理人脸等敏感生物识别信息。属地公安机关依法对该公司予以行政处罚并责令整改。

中国政法大学刑事司法学院教授刘艳红指出，我国人工智能立法应当通过完善法律治理框架来实现“从数据到算法再到内容”的人工智能全链条治理目标。在训练数据这一源头环节，尤为需要明确数据获取、处理与使用的合法性边界。

上海师范大学哲学与法政学院副教授吴玄此前就数据合规作过调查。他归纳出训练数据合规主要存在的三方面突出问题：数据来源的合法性基础问题、个人信息保护与知识产权的权利叠加问题以及训练数据的质量问题。

今年4月，“某公司将离职员工做成AI数字人继续‘打工’”的新闻引发社会广泛热议。网络评论指出，在资本与技术的合谋下，人正在被还原为一组可以无限复制的数据，并创造出新的词汇——炼化同事。

“员工在工作中产生的声纹、人脸、独特说话风格等具有识别性的信息，均属于法律保护的个人信息，采集此类信息应当依法征得自然人同意。”吴玄分析道。

除个人信息外，著作权是训练数据领域的一大法律争议点。记者注意到，有些图书的版权页上，印有一行警示文字：禁止将本书内容用于人工智能训练，违者必究。

实践中，部分开发企业为提升模型能力，在训练阶段使用受著作权保护的语料素材。此类行为的法律边界也亟待厘清。

那么，现行法律是如何规定的？

记者查询到，2023年8月，由国家网信办、国家发改委、教育部等七部门联合印发的《生成式人工智能服务管理暂行办法》（下称《暂行办法》）明确规定，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，涉及知识产权的，不得侵害他人依法享有的知识产权。

上海协力（杭州）律师事务所律师曾琳指出，我国著作权法等法律尚未针对AI生成模型训练设置专门条款，《暂行办法》在法律位阶上属于部门规章，主要在监管合规层面设定义务，法院可将其作为认定注意义务与行业标准的裁判说理依据，而非著作权权属、侵权判断的直接法律依据。这也意味着，训练数据的版权规则，仍需借助著作权法修订和相关司法解释、指导性案例的发布等予以明确。

生成合成内容的标识与追责

当AI从“学习”转向“产出”，开始生成文本、图片、音频、视频等各类内容，内容产出端的法律规制便成为新的治理焦点。

2025年8月，上海市徐汇区检察院检察官在履职中发现，某企业研发的AI生成大模型可根据用户指令生成叼烟、文身、身着暴露服饰的军人形象图片，严重损害军人形象。

该案引发关于生成式人工智能责任的深层讨论：AI时代，“技术中立”原则是否依然适用？

西南政法大学法学院教授潘金贵认为，“技术中立”曾是互联网发展早期平台主张免责的主要理由，其隐含的前提是技术提供者对技术的具体应用缺乏实质控制能力。然而，这一前提在生成式人工智能时代已发生根本性动摇。

生成式人工智能与传统技术工具的本质区别在于：AI是具有“自主生成”能力的信息生产者，并非被动的传输通道。曾琳指出，从法律主体角度来看，AI本身不具备法律人格，最终责任必须由人来承担。责任判断的核心在于三个维度：谁控制技术、谁从中获利、谁能够预见侵权风险。

潘金贵同样强调，AI输出的内容并非算法的“自发产物”，而是开发者通过训练数据选择、算法模型设计、输出内容筛选等环节主动塑造的结果。在这一过程中，开发者构成了对内容生成的“实质性参与”，因此传统“避风港规则”下的免责逻辑难以直接套用。

“加大对AI开发者、控制者的法律责任追究力度，对于遏制当前AI领域的违法乱象具有现实必要性。”全国人大代表、四川省律师协会会长李世亮告诉记者。

制度也为法律追责提供支撑。2025年9月施行的《人工智能生成合成内容标识办法》要求，应当对生成合成内容添加显式标识，在生成合成内容的文件元数据中添加隐式标识。

对此，中国政法大学证据科学研究院教授郑飞评价，这项制度是“从被动响应走向主动建构的重要设计”，其核心在于将抽象的法律过错转化为“可验证、可追溯的数字标识”——谁生成、谁修改、谁传播，均可通过标识链条追溯查明。

据媒体报道，西部一所高校的AI治理团队在2025年第四季度开展的一项抽样调研显示，AI标识政策落地后，用户对未知来源内容的“质疑意识”提升了近40%。此外，由于隐式标识能快速锁定内容的生成工具和传播节点，在该团队参与的一起跨境AI虚假新闻溯源案例中，追责周期从过去的平均72小时缩短至12小时。

但与此同时，短视频、图文笔记、直播间中仍有不少AI内容未标明“身份”。如何让标识制度从纸面规范走向实质落地，仍是治理者需要面对的课题。

走出“科林格里奇困境”

采访中，多位专家不约而同地提到技术哲学中的“科林格里奇困境”：技术发展早期，干预相对容易，但应用场景尚未展开，风险难以预见；待技术成熟扩散、风险逐渐明晰，再行规制则代价巨大。

这一困境精准揭示了人工智能监管介入时机的两难命题。

“监管介入时机虽难把握，但监管的重要性不言而喻。当下，我们应当持续积累人工智能治理的经验，稳步推进人工智能法治建设。”今年全国两会期间，李世亮建议，稳步推进人工智能立法工作。李世亮指出，人工智能已成为引领新一轮科技革命和产业变革的关键力量，加快构建与之相适应的法律制度体系，对统筹发展和安全、促进高水平科技自立自强具有重要意义。

“如何构建兼具稳定性与灵活性的人工智能立法框架是一个全球性议题。”上海交通大学凯原法学院教授李学尧认为，中国的人工智能立法应采用适应性法治的思路，尽量在部门法的实体法框架中采用“立改废释”的方式实现人工智能的立法目标，通过“问题识别—规范修订—再实践—再修订”的连续循环，对算法公平性、数据主权、伦理价值、产业激励等多重目标进行反复权衡，不断进行“立改废释”的循环，通过动态反馈来回应立法需求。

吴玄指出，我国目前的人工智能立法总体上呈现“小步快跑”的特点——不急于出台一部包罗万象的综合性人工智能法律，而是通过大量部门规章和规范性文件，在具体场景中逐个解决问题，形成了多层次、分领域的治理格局。

“中国的人工智能立法模式不宜采用统一立法模式，这不符合我国人工智能高速发展的现状；也不宜采用分散立法模式，这无法系统性监管人工智能风险。”刘艳红表示，应采取集适应性与体系性之长的协同立法模式，这有助于形成安全、权利与治理之间的融洽关系。

她进一步提出，采用分类分级监管机制的同时，要设置风险协同治理机制，以人类为中心，合理限制技术应用路径。“中国人工智能立法的目标，应是在安全层面消除技术风险，在权利层面妥善消解人工智能体与人类的权利冲突，在治理层面制定切实可行的法律规范并开展协同治理。”

对于这一路径，中山大学法学院副教授熊晓彪表示认可。他提出，我国人工智能立法与治理应当坚持安全与发展并重，以包容审慎、分层分类、多元协同、适配本土为核心理念。

针对当前人工智能技术加速迭代的态势，熊晓彪认为，AI治理应当实现四个方面的转变：一是从事后追责转向全链条风险治理，将监管关口前移至事前风险评估、技术防护、内容标识、日志留存等环节；二是实现法律规范与技术规范的双向融合，通过元数据标识、可信任、自我鉴真等技术手段，将抽象的法律义务转化为可执行的技术机制；三是发挥司法的规则细化功能，通过发布司法解释、指导性案例、典型案例等方式，不断细化AI证据审查与侵权认定规则；四是兼顾权利保障与产业良性发展，既防范技术侵害合法权益，也防止过度监管抑制创新活力，实现发展与安全的动态平衡。

“从长远来看，综合性的人工智能立法是必要的。”李世亮告诉记者。

《全国人大常委会2026年度立法工作计划》将人工智能健康发展等方面的立法项目纳入预备审议项目。《国务院2026年度立法工作计划》也要求，完善人工智能治理，加快推进人工智能健康发展综合性立法。这标志着我国人工智能治理正从“分领域立规”向“综合性立法”稳步迈进。

回望AI时代我国的治理路径，从“事后补救”转向“小步快跑”的制度探索以及探索系统化的治理理念，已然成为AI时代的法治应对之道。在发展中规范、在规范中发展，或许正成为走出“科林格里奇困境”的有效尝试，为人工智能技术行稳致远划定清晰的法治边界。　

责编：李传新

一审：李传新

二审：段涵敏

三审：文凤雏

来源：正义网