AI“复活”逝者规范才能“长寿”

中青在线 2024-03-11 08:49:07

“只需要52.1元，就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下，与逝去的亲人“再见一面”似乎日渐成为可能。据《法治日报》报道，用AI“复活”逝去的人已经发展成了一门生意。在一些电商平台上，有不少做AI“复活”生意的商家。

我们身处AI时代，仅生成式AI市场就快速成长，2023年我国生成式AI市场规模14.4万亿元。作为生成式AI细分行业之一的AI“复活”逝者，是利用人工智能技术，将逝者的文字描述、图片、视频和声音资料输入AI算法模型，模拟生成一个数字形象，具备逝者的性格、记忆、图像、视频和声音。

在今年清明节即将到来之际，关注AI“复活”逝者有特殊意义。因为这种新技术为我们提供了缅怀已逝亲人新的方式。在某电商平台，AI“复活”的商品标价从几元、几十元到上百元乃至数千元。当花点钱就能重新“见到”已逝亲人，这对需求者是一件很有价值的事情，对商家而言提供了盈利机会。

对于AI“复活”逝者，有人赞成，但有反对意见认为这样的做法没有意义，人没了就是没了，这只会让自己更难走出失去亲人的痛苦。在观念多元化的今天，有不同意见这很正常。而AI“复活”逝者，就是为那些认可的、有需求的人群提供的，随着这项技术的不断进步，相信市场需求将会越来越大。

不过AI“复活”逝者，目前既面临不少技术限制，也可能出现某些侵权乱象。比如技术方面，目前算法主要支持普通话，对方言和口音的支持较为有限；逝者生前留下的声音文件偏少，限制产品的扩展和适用范围等。随着技术不断发展和录音等电子产品普及，未来影响AI“复活”的技术限制有望突破。

在规范方面，我国已经出台了《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。该办法围绕“技术发展与治理”“服务规范”“监督检查和法律责任”等方面，已做出相应规定。例如关于数据标注的规定，对AI“复活”服务提供者可起到规范作用，避免“复活”产品被非法利用。

从现实情况推测，AI“复活”技术大量应用后，很有可能出现各种侵权问题。此前，人脸识别、深度合成等技术在造福我们的同时，不法分子也利用这类新技术实施诈骗，让人防不胜防。假如有不法分子利用AI“复活”技术，通过“数字人”套取财产等信息，就有可能成为新型诈骗，带来财产等损失。

目前，AI“复活”逝者至少存在三大问题：只有上述暂行办法予以简单规范，尚无专门法律法规予以规制；部分AI“复活”产品缺少有关标注以证明产品由AI制作；上述暂行办法的有关规定，很多消费者仍不了解。这意味着AI“复活”逝者眼下正处于野蛮生长状态，存在各种不确定性风险，亟待规范。

只有健全法律法规进行规范，既约束AI“复活”服务提供者，也保障消费者合法权益，这种新技术新服务才能“长寿”并造福人类。对逝者，越来越多人的缅怀方式在“刷新”，而AI“复活”技术提供了更多选择。但任何涉及消费者权益的技术和服务，只有在法治轨道内运行才能避免出格“伤人”。

虽然立法总是滞后于新技术的发展速度，但可以探索采取更灵活更高效的规制新技术新服务的方式。

责编：李传新

一审：李传新

二审：杨丹

三审：杨又华

来源：中青在线

我要问