AI发展遇上“超级大选年”：监管更难，科技巨头带头改变？

澎湃新闻 2024-02-19 19:52:36

《参考消息》2月19日援引韩联社的报道称，距今年4月韩国国会选举还有不到50天的时间，对AI生成的假视频和假图片泛滥的担忧与日俱增，韩国选举监督机构因此提高了警惕。除韩国外，今年全球将有70多个国家或地区举行重要选举，对此，多家科技公司均承诺将打击AI干扰选举的行为。但AI的快速发展，仍带来了相关立法是否过慢的问题。

AI快速发展增大监管难度

《参考消息》报道称，韩国全国选举委员会（NEC）表示，从1月29日至2月18日，韩国当局共发现129条AI生成的媒体内容，这些内容违反了新修订的选举法。随着AI技术的发展，专家们警告说，使用深度伪造技术生成内容的复杂程度和速度都在提高，给打击行动增加了难度。

美国有线电视新闻网（CNN）日前分析称，AI已经对美国大选带来了一定影响，包括新罕布什尔州曾有选民反映接到“拜登总统”的自动留言电话，告诉接听者不要在该州初选中为特朗普投票。据悉，这通电话由深度伪造技术生成。由此，有美国议员及专家指出，美国急需出台新法律，以避免深度伪造以及其他AI合成的假信息给美国大选继续带来影响。目前离美国大选仅剩约9个月的时间，但尚未有迹象表明美国国会将就AI监管通过相关立法。

AI技术的快速发展，也体现在美国人工智能研究公司OpenAI日前推出的视频生成模型“Sora”。OpenAI的官网介绍称，使用“Sora”模型可以用文本生成长达一分钟的视频。该模型的出现会推动游戏、影视等行业的发展，但若被用于竞选活动中，选民将很难分清什么才是真实的。

科技巨头会否兑现承诺？

据央视新闻报道，当地时间2月16日，包括OpenAI、谷歌等在内的全球多家科技企业在第60届慕尼黑安全会议（慕安会）上签署协议，承诺在2024年，即多地举行重要选举的年份打击旨在干扰选举的人工智能滥用行为。这份协议涉及的数字内容包括用人工智能生成的欺骗性图像、视频和音频等，这些内容被认为可能在政治候选人、选举官员相关信息以及投票过程等方面欺骗选民，但该协议并没有呼吁彻底禁止此类内容。

其中，路透社报道称，科技巨头谷歌（Google）日前表示，针对今年6月的欧洲议会选举，该公司将在选举前在比利时、法国和德国等5个欧盟国家开展打击假信息的行动。本月早些时候，欧盟27国代表投票一致支持《人工智能法案》文本，标志着欧盟向立法监管人工智能迈出重要一步，目前法案仍需提交欧洲议会批准。

责编：姚懿轩

一审：周杨

二审：陈永刚

三审：文凤雏

来源：澎湃新闻

我要问