《孤注一掷》热映，这种新型诈骗逐渐猖獗……

2023-08-18 15:49:23

今年暑期，取材自真实诈骗案例的电影《孤注一掷》给观众带来持久的震撼，演员们饰演的诈骗集团头目所表现出的残忍、狡猾，入木三分。

图源：电影《孤注一掷》官方微博

在众多诈骗中，有一种新型的“AI换脸”诈骗（AI face-swapping fraud），因其利用受害者亲属朋友的图像、声音等信息，具有极强的迷惑性，让受害者防不胜防。不少人在了解到此类诈骗后表示耳听为虚，眼见也不一定为实！

《当心陷阱》图源：新华社

所谓“AI换脸”诈骗就是利用AI技术，模仿、合成伪造他人的声音、面孔、视频等信息，进行欺骗、敲诈、勒索等的犯罪活动。

AI face-swapping fraud is a criminal act in which a person uses AI technology to imitate, synthesize and depict others’ voices, faces, videos and other information for deception, extortion, blackmail and other illicit actions.

近日，山东警方发布了一起案例。

济南小伙小冯在刷抖音时收到一条好友消息，点开发现原来是“自家亲戚”，对方自称有事要小冯帮忙，让小冯加了他的新QQ号。在成功添加QQ好友后，对方便马上给小冯拨通了视频电话。虽然只有7秒的通话时间，但小冯认清了对方的长相和声音，确定是自家亲戚无疑。

很快，对方表示网络信号不好没法继续视频，只能打字联系。随后，对方称自己急需转一笔钱，但无法直接打款，想要先转账给小冯，拜托他帮忙转到指定的银行卡里去，并发来两张成功转账的截图。

图源：视觉中国

但是，小冯一直没收到这笔款项。对方辩解称银行有延迟很正常，并表示银行的转账信息是不会骗人的。接着对方以着急用钱为由，反复催促小冯先行垫付。经不住一再催促，小冯向其指定账户转账了30万元。没过多久，对方又让他再转35万元。这时，他猛然意识到自己可能被骗了，便赶紧打电话给自己的亲戚确认，这才知道，一切都是假的。

小冯马上报了案，根据转账卡号的流水，民警发现该银行卡在广东的一家金店有过消费。次日，济南警方便奔赴广东东莞，抓获了犯罪嫌疑人谢某等三人。之后，又有三名犯罪嫌疑人被警方抓获。在后续的调查中，警方发现，他们分工明晰，买金、打款、对接上线等都由不同的人操作。目前他们因涉嫌帮信罪，正在接受调查。

图源：视觉中国

公安部网络安全保卫局副局长李彤近日在新闻发布会上表示，随着人脸识别技术的广泛应用和人工智能技术的进步，人脸识别验证类犯罪伴随而生。犯罪分子用于实施“AI换脸”的物料主要为照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。

Li Tong, deputy head of the bureau of network security protection of the Ministry of Public Security, stressed that crimes related to facial recognition and verification are linked to the misuse of technologies such as facial recognition and artificial intelligence.

Criminals primarily exploit materials such as photos, especially identity card photos, and combine people’s names and ID numbers to deceive facial recognition verification systems, Li said.

图源：视觉中国

据悉，为防范和打击此类新型犯罪，公安机关联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP，及时发现人脸识别验证系统存在的风险隐患，通报运营主体升级安全保护措施和人脸识别算法。

公安部网络安全保卫局警务技术二级总监黄小苏表示，加工变造公民个人信息是犯罪份子常用手段之一，如将身份信息、购物信息等不同数据源进行碰撞，添加新标签后形成新的数据源，或者利用AI技术使用照片生成动态人脸识别信息等。

Manipulating and falsifying citizens' personal information is a very common criminal act. Suspects collect different data such as personal identities and shopping details to create fresh data sources, or employ AI technology to generate dynamic facial recognition information from photographs, said Huang Xiaosu, a technology director of the bureau.

图源：视觉中国

近年来，公安机关紧盯ChatGPT、云计算、区块链、“AI换脸”等新技术、新应用、新业态，边研究边打击，侦破一批利用人工智能技术侵犯公民个人信息的新型案件。

针对“AI换脸”导致群众被欺诈的问题，公安机关发起专项会战，2020年共侦破相关案件79起，抓获犯罪嫌疑人515名。

According to the ministry, police have also solved 79 cases related to AI face alterations and have arrested 515 suspects since 2020.

“AI诈骗”有哪些常见手法呢？

➀AI合成声音诈骗。骗子会通过拨打骚扰电话等方式，录音提取诈骗对象及其重要关系人的声音特征，利用AI技术进行语音合成，使诈骗对象放松警惕，进而用伪造的声音实施诈骗。

Scammers often employ tactics such as making harassing phone calls to extract the voice characteristics and important contacts of their targets. Then they use AI technology to synthesize voices to mimic the targets and call their contacts, lulling victims into a false sense of security before initiating the deception.

➁AI换脸诈骗。人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成诈骗对象的亲人、朋友等重要关系人，通过合成视频或照片来“以假乱真”，扰乱诈骗对象的视线进而实施诈骗。

Manipulating faces through AI is particularly effective in gaining trust in a fraud attempt. Scammers can using AI-based face swapping disguise themselves as the relatives, friends, and significant acquaintances of their targets. They also generate some synthetic videos or photos that convincingly distort reality, thereby distracting victims and enabling the fraud.

图源：视觉中国

➂AI筛选受骗人群。骗子不是漫无目的地广撒网，而是别有用心地锁定诈骗对象。他们会分析诈骗对象在网络平台发布的个人信息，根据所要实施的骗术利用AI技术对人群进行筛选，从而选出目标对象，制定诈骗计策。

Scammers often choose their targets carefully. They can analyze personal information posted by potential victims on online platforms and, leveraging AI technology, screen potential victims to identify ideal targets and tailor their fraud schemes accordingly.

如何防范“AI换脸”诈骗呢？

➀多种渠道验证身份。目前AI换脸肉眼难以区分，可以采取电话+视频等多种渠道询问具体信息，确认对方是否为本人。

➁ 通过银行汇款。将到账时间设置为“24小时到账”，预留处理时间。使用银行汇款，避免通过社交软件转账。

➂ 加强个人信息保护。加强个人信息保护意识，在任何场景中都应当谨慎使用人脸、指纹、身份证号码等个人生物信息，以免不法分子利用AI技术实施诈骗。

➃ 拒绝诱惑，提高警惕。不轻易接听陌生人电话，对于不明平台发来的广告、中奖、交友等链接更要提高警惕，不随意填写个人信息。

➄ 相互提示，共同防范。及时做好家中老人、亲友的骗局防范工作。尤其要提醒老人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要转账。一旦发现诈骗，第一时间报警求助。

图源：视觉中国

值得注意的是，我国的《生成式人工智能服务管理暂行办法》已于8月15日正式施行，这被认为是全球首部生成式 AI 立法，其对生成式人工智能技术的研发，应用等都作出了相应的管理规定。

China’s interim measures for managing generative AI services, which is considered to be the world’s first generative AI law, took effect on Aug 15. The law has created corresponding management provisions for the development and application of generative artificial intelligence technology.

网信中国微信公众号截图

AI换脸诈骗，说到底，是隐私信息泄露与诈骗陷阱的结合。我们不仅要对AI换脸诈骗时刻警惕，同时还要防微杜渐，做好对于个人隐私的保护。作为个人信息安全的第一责任人，公民自己要不断提升反诈防骗技能。

来源：中国日报双语新闻

编辑：田梦瑶吴雨霜（实习生）

责编：田梦瑶

一审：田梦瑶

二审：秦慧英

三审：黄晓辉

我要问