AI换脸通话10分钟骗430万-财经界

近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布了一起使用智能AI技术进行电信诈骗的案件。据报道，福州市某科技公司法人代表郭先生在10分钟内被骗走430万元。骗子通过视频电话利用AI换脸技术冒充郭先生的好友，从而实施诈骗。

这起案件引起了公众的高度关注，相关词条如“AI诈骗正在全国爆发”等登上了微博热搜榜。然而，许多业内人士认为，目前的AI换脸技术要在视频通话中实现无卡顿、肉眼难以识别的真实效果，并非易事。

尽管如此，警钟已经敲响：利用AI技术制作换脸视频、合成声音等在一些冒充熟人、领导类的电信网络诈骗案件中确实出现。而这种新技术的利用与个人信息泄露等旧问题密切相关。

面对新技术和旧问题的双重挑战，电信网络诈骗是否会带来更大的威胁？相关部门、企业和个人应该如何应对和防范呢？

针对视频通话中的实时AI换脸，一些专家表示“没那么容易”。根据“平安包头”的披露，5月8日，包头市公安局电信网络犯罪侦查局处理了一起使用智能AI技术进行电信诈骗的案件。该案发生于4月20日，福州市某科技公司法人代表郭先生的“好友”突然通过微信视频联系他，声称需要在外地投标，要求借用郭先生公司的账户转账430万元作为保证金。骗子通过微信发送银行转账底单的截图，让郭先生相信已经打到了他的账户上。

在经过视频通话并对好友的信任后，郭先生没有核实资金是否到账，便相继转账了430万元。在转账完成后，郭先生通过微信向好友发送消息确认事情已办妥，但对方回复了一个问号。郭先生拨打好友电话，对方称没有这回事，于是他意识到被骗子利用AI换脸技术佯装成好友实施了诈骗。

确实，如果是在微信视频中实时进行换脸变声，让人很难分辨真伪。但是，许多网络安全和技术专家告诉记者，要在实时视频中实现高级别的AI换脸变声，对设备和技术要求都非常高，还需要使用破解版的微信，而在实际环境中实现这一点技术上相对困难。

“这起诈骗案还有很多细节尚未披露，仅凭一次短暂而逼真的AI视频聊天就能骗走几百万元，不太现实，其中一定还有很多复杂的过程。”奇安信安全专家裴智勇表示，从目前的技术发展来看，虽然完成相关诈骗过程不是完全不可能，但由于成本较高，在实际中被使用的概率相对较低。

“尽管在视频中进行人脸替换已经是非常成熟的技术，但想要在实时对话过程中实现实时的人脸替换、表情捕捉和语音变声，并且以假乱真，这个技术水平已经超过了大多数高科技公司。”一位网络公司高级技术人员说。

一位资深反诈民警分析称，这起案件可能是骗子先利用话术让受害者忽略了细节，然后发送合成视频实施诈骗。他表示：“在案件办理过程中，很多被害人对被骗经过的细节表述不够准确，给案件侦办造成了困难。”

上述受访者都表示，利用AI技术实施电信网络诈骗目前并未形成爆发态势。裴智勇认为，以这起案件为例，诈骗人员要同时具备盗取好友的微信账号、利用漏洞劫持摄像头篡改视频数据、实时换脸和变声等无缝技术能力，难度极大且成本高。许多高科技公司在实验室中也未必能完美完成这些挑战。裴智勇认为，相关报道的文字描述很可能与真实情况存在一定差异。

记者从权威渠道获悉，公安部门正在对该案件的诈骗手法和受骗过程进行再确认。对于AI技术在这起案件中的运用程度、是否成为诈骗关键等情况，还需要进一步调查和公布。

尽管如此，AI技术的非法应用已经在一些网络诈骗案件中出现。

2022年2月，陈先生向浙江温州市公安局瓯海分局仙岩派出所报案称自己被“好友”诈骗了近5万元。警方核实后发现，诈骗分子利用了陈先生好友在社交平台上发布的视频，通过截取面部画面，并利用AI换脸技术进行合成，制造出陈先生与“好友”视频聊天的假象，从而获得了陈先生的信任，进而实施诈骗。

在2020年的另一起案件中，上海一家公司的高管因骗子使用AI换脸和生成的语音技术制作了公司领导的面孔，并要求该高管转账，导致该高管被骗走150万元。

每个人的声音和相貌都具有独特性，而AI深度合成技术正在打破这一界限。这种新技术被用于电信网络诈骗，无疑增加了犯罪活动的迷惑性，给社会安全带来了更多挑战。

裴智勇表示：“利用AI技术实施诈骗，实际上是传统诈骗手法利用了新技术的一种混合诈骗方式，剧本仍然是传统的冒充熟人、领导等手段，但面部伪造和声纹伪造使受害人放松警惕，更容易被骗。”

专业人士介绍，目前，AI技术被用于电信诈骗犯罪活动主要表现在三个方面：
1.骗子通过骚扰电话录音等方式提取某人的声音，然后利用AI技术进行声音合成，用伪造的声音欺骗受害人。
2.骗子使用AI换脸技术伪装成受害人的熟人，并通过视频通话方式进行信息确认，从而获得信任。
3.骗子利用AI程序筛选受害人，分析公众在网上发布的各类信息，根据实施骗术所需，对人群进行筛选，短时间内就可以生产出定制化的诈骗剧本，实施精准诈骗。“例如，在实施情感诈骗时，可以筛选出经常发布感情类信息的人群；在实施金融诈骗时，可以筛选出经常搜索投资理财信息的人群。”裴智勇介绍。