AI进校园,“安全线”该怎么划?

  瞭望智库   2025-09-05 12:05:50

前,新一轮科技革命与产业变革正以前所未有的势头孕育突破人工智能已然成为串联教育、科技、人才三位一体发展的引领性引擎,以前所未有的深度与广度重塑着教育生态的肌理与格局。

日前,中国民办教育协会携手多家头部教育科技公司联合签署《智能体赋能学生全面成长公约》(以下简称《公约》)。签署企业一致表示,将积极履行约定义务,认真遵守相关条款,助力在全社会营造良好的教育生态。

“在人工智能浪潮席卷教育的今天,《公约》将智能体发展的技术优势转化为育人效能,将碎片化探索升华为系统性框架,使人工智能与教育融合迈向伦理自觉与价值引领新阶段。”北京师范大学李玉顺教授认为,《公约》的出台恰逢其时。

这一举动无疑会提升教育智能体行业的自律、自治水平,为构建健康、安全、可持续的智能体教育生态注入动力,也将推动“人工智能+教育”沿着“立德树人、智能向善”的方向前行。

如何确保这种自律真正扎下根来?怎样才能从根本上防范技术在教育领域“肆意奔跑”,让每一步创新都不偏离育人初心?这部行业公约提出了新的答案。

1
红利与隐忧如何平衡

中国民办教育协会表示,《公约》的签署正是以人工智能技术赋能教育强国建设的一次创新实践,体现了头部企业主动落实主体责任,自觉接受社会监督,规范引领行业健康发展的责任担当。

《教育强国建设规划纲要(20242035年)》中,人工智能教育的系统性布局尤为凸显,提出“实施国家教育数字化战略”“促进人工智能助力教育变革”。

这股力量不仅推动着教学模式向个性化转型,更在教育资源配置、人才培养路径、创新能力塑造等方面掀起系统性变革,让教育在科技赋能下更贴近时代对高素质人才的需求。

安徽省蚌埠市蓝天路小学的人工智能创新实验室。新华社客户端发(记者周畅 摄)

无可否认的是,在教育智能化的转型进程中,人工智能技术对学生成长的影响已渗透至情感、行为、身体、社会交往及认知等多个维度,同时呈现出正向效应与负向效应相交织的特征。

一方面,人工智能正以革新性力量重塑校园的学习生态。例如,打破传统课堂的物理边界,将学习场域延伸至虚拟空间,让学生足不出户就能通过云端课堂听名校名师授课,借助相关设备在沉浸式体验中构建具体知识体系,即便是偏远地区的学生,也能通过在线教育平台的智能整合与分发,获取名校课程、名师教案、精品习题等优质资源,让学习不再受空间与时间的桎梏。

而对教育环节中至关重要的“引领者”来说,教师有了新的辅助助手。

包括利用生成式人工智能工具开展互动性教学,打造沉浸式教学体验,开展实时学情监测分析,真正实现“一对一”关注学生动态。或者,利用互动式虚拟助教形象,通过多样化的语言风格和交互方式,引导学生积极参与课堂互动。结合增强现实(AR)、虚拟现实(VR)等技术,打造虚实融合的学习场景,给学生带来多角度、情境式、游戏化的学习体验,提升学生学习兴趣和主动思考能力,提升课堂教学效率。

“我画出的小人‘动’起来了!”在纸上手绘卡通人物,拍照上传到教学系统,引导学生点击相应选项,就会产生“魔法”般的效果。这是发生在重庆礼嘉实验小学的一幕,该校2024年入选教育部中小学人工智能教育基地名单。

近年来,重庆礼嘉实验小学逐步建成少年人工智能学院,创设了计算机教室、无人机教室、玛塔机器人教室等智慧育人场景,形成“基础+拓展+创新”三级课程体系。该校教务主任滕飞接受媒体采访时表示,学校自2024年引入飞象人工智能双师课堂,课程基于线上线下“双师”模式,分学段搭建真实场景和趣味任务,有效激发学生对AI的兴趣与探索欲。

另一方面,不可否认,人工智能在教育领域的应用同样是把“双刃剑”。当前,人工智能在情感伦理方面的风险,已引发国内外的讨论和关注,对智能技术的负向影响及伦理安全问题的探讨持续升温。

李玉顺表示,人工智能融入教育也可能给学生带来自主学习能力被削弱、价值观易受到误导、社会情感能力缺乏、隐私泄露等挑战,给学生成长带来多重隐忧。

比如,技术理性的过度扩张,可能会不断挤压教育中的情感空间。人工智能在教育领域的应用,隐藏着教师的引导者角色可能被简化为技术操作者的担忧,进而催生师生间的情感区隔与疏离感,使学生在真实教育场景里情感体验与心灵共鸣的机会相应减少,可能会弱化学生的人际社交能力。

过度依赖智能工具也可能弱化学生的自主学习能力,让学生独立思考的动力逐渐消退,可能会限制学生自主选择权和创造性。海量信息泥沙俱下,也容易误导学生的价值判断,模糊是非边界。

更要警惕的是带有“主体性”特征的教育智能体,在伦理身份界定、互动模式重构、学习路径转变和价值观念塑造等维度,对传统教育发起了冲击,更让教育实践不得不直面被人工智能技术影响甚至取代的深层隐忧。在此背景下,探寻并划定教育智能体的伦理边界,已成为迫在眉睫的课题。

2
创新能否接住现实挑战

为回应上述挑战《公约》聚焦数智时代学生发展关键要素,坚持系统观念,增强数智赋能教育改革的系统性、整体性和协同性。教育立场出发,促进认知发展适配、教育本质回归、风险主动防控和生态协同共建,加速学习科学范式迁移。

北京航空航天大学熊璋教授分析称,从整体框架来看,《公约》共包含四章14条,为教育智能体的研发与应用搭建起一套系统性治理体系。这一框架既涵盖技术应用的核心准则,也明确了行业发展的规范路径,为教育智能体的创新实践提供了可遵循的“行动指南”。所涉智能体类企业产品与服务覆盖全域教育,包括所有可能面向中小学生提供智能体产品或服务的企业。

3月12日,在嘉兴市实验小学科技城校区科创中心内,智能机器人社团的学生们在对智能机器人进行动作指令调试。新华社客户端发

总则第一条开宗明义,强调智能体融入教育过程中,必须确保教育性、科学性、安全性三大原则,为素养育人建构了重要根基。

“三大原则都指向于一个核心,技术必须服务于育人。”李玉顺说。

教育性优先,意味着所有智能工具的研发与应用,都必须锚定学生认知发展、能力提升与价值观塑造,始终以“育人”为根本导向;科学性保障要求育人实践必须扎根于学习科学、认知科学、发展心理学等基础理论上。因此,智能产品设计必须严格遵循学生身心发展规律与学习认知逻辑,避免技术应用脱离教育本质。

此外,安全性底线更是各方不可逾越的红线学生的身心健康、数据隐私与信息安全,是科技赋能教育的前提与基石。如果失去安全保障,任何科技赋能教育都无从谈起。

与此同时,《公约》明确将“坚持育人为本”“遵循教育规律”确立为两大基本原则,为教育智能体的发展提供指引。

熊彰表示,人工智能全学段教育是国家发展战略,是培养未来人才的战略。智能体须融入社会主义核心价值观,强化家国情怀、社会责任与品德教育,杜绝传播错误价值观或不良信息。

从微观来讲,就不能把人工智能全学段教育局限在提高解题效率、生成一幅画的小圈子里,避免沦为单纯的技能训练而忽视价值引领。教育智能体的发展要以学生认知发展规律为基础,尊重个体差异,科学设计功能,减轻学生过重负担,避免出现违背教育本质的功利化倾向。

例如,智能教育要根据不同学段学生的认知水平、思维特点与兴趣点,科学设计人工智能教育的内容与形式。义务教育阶段应侧重趣味化、生活化体验,通过搭建简易智能模型、参与AI科普游戏等活动,激发好奇心与探索欲,潜移默化培育科学思维萌芽,避免过早引入复杂算法理论或编程技术,超出学生接受能力,扼杀学习兴趣。

李玉顺补充分析道,《公约》将着力构建起助力学生健康成长与全面发展的立体化赋能体系。

其中,赋能个性学习,就是通过深入了解学生的学习情况,为每个学生制订合适的学习计划,提供符合他们需求的学习帮助,让他们在自己能达到的范围内更好地学习。

包括为学生量身定制高效学习路径,通过持续追踪学生的答题速度、错误类型、知识点停留时长等数据,精准绘制个人知识图谱,提供定制化的学习支持,让学生能根据自身节奏自主调控学习进程,提升知识获取效率。在面对复杂问题时,避免让学生机械化理解和记忆知识,学会独立思考、判断,在解决问题和搞创新的时候提升能力。

价值观也是引领学生行为的灯塔。智能教育要强化品格养成,借助文化场景体验和传统榜样的力量,引导学生从心里认同好的价值观,并依靠多种数据发现学生的潜在特长,精准提供相关资源。而且,要通过记录成长路径加强行为引导,包括帮学生设定目标、追踪习惯,培养他们专注、自律等好习惯,注重在社交情感方面给予支持。

除此之外,要真正实现守护学生的身心健康。设计开发产品时,通过加入积极心理学的内容,提供健康向上、适合的数字信息,严格遵守法律法规,自觉守住安全底线,建立起数据安全、伦理审查等一系列保障机制。

3
生态共建如何落笔

《公约》构建的治理框架,关键在于各方主体的共同恪守与践行。这其中,企业作为重要力量被赋予三重关键角色:既要以“科技向善”为准则把握研发方向,更要成为教育变革的深度赋能者,最终落脚为守护学生成长的坚实屏障。

李玉顺指出,为推动教育生态共同体落地,《公约》围绕生态共建,从强化协同育人、扩大资源普惠、营造良好氛围三个方面搭建了系统解决方案。

首先,强化协同育人,打破教育孤岛。让智能体真正融入教育生态,首先要打破主体壁垒,构建家校社企多方联动的协同网络。对家庭端,智能体需设计家长交互功能,使其成为家校理念同频的纽带,提供家庭教育指导方案,让家长从“旁观者”变为“协同者”。

面向社会与企业,打通资源接入通道、标准、接口,让AI工具能转化为学生可操作的实践资源,产品设计要跳出“单向灌输”模式,转而支持学生进行探究式学习。

其次,扩大资源普惠,促进教育公平。让智能教育的红利惠及每一个角落,必须打破设备壁垒,优化产品性能,适配不同配置设备,开发轻量化应用,降低使用门槛。

同时,针对乡村学校、偏远校区及教育资源匮乏的机构,开放优质智能课程与服务,为偏远地区教师开设智能工具培训课,让偏远地区的学生也能接触到一线城市的教育内容。关注特殊群体,让有身体或认知障碍的学生也能平等使用智能工具,真正实现无差别服务每一个追求成长的个体。

最后,营造良好氛围,培育向善文化。要让智能教育走得稳、行得远,离不开健康生态的滋养。通过树立社会责任意识,主动宣传、践行公约精神,引导社会认知,通过家长课堂、公众宣传等,普及智能教育科学理念,既打破AI无所不能的幻想,也消解其会取代教育的恐慌。

让对智能教育的理性期待成为社会共识,共建清朗空间,构建健康、文明、积极的网络学习环境,抵制利用教育焦虑进行过度营销、传播不良信息等行为。

参考资料:

1.人工智能在教育应用中的伦理风险及防范 中国社会科学网

2.AI进课堂:一所小学的“智变”进行时 半月谈

3.重庆两江新区礼嘉实验小学:“五新”驱动,AI赋能学生美好生长 | 探路中小学人工智能教育 人民教育

责编:万枝典

一审:詹娉俏

二审:唐能

三审:赵雨杉

来源:瞭望智库

我要问