最近，上海市公安局浦东分局披露了一起网恋交友诈骗案件：50岁的吴女士在网上结识了一名自称“李振锋”的“军官”，她特意鉴别确认对方身份为“真”后，才与对方网恋并进行投资，但仍被骗近80万元。
该案件与大部分网恋交友诈骗案件类似，但“AI含量”不低。尤其让人纳闷的是，吴女士与嫌疑人交往时，多次根据网传AI鉴别方法确认对方身份。究竟哪个环节出了问题？
记者从上海市公安局“803反诈”宣传团队了解到，随着AI技术发展，诈骗分子使用AI进行诈骗的现象逐渐增多，迷惑性也越来越强。
挥手辨别AI造假失效了？
据浦东警方介绍，离异的吴女士在今年5月通过网络相亲平台认识了一名叫“李振锋”的男子。对方称自己1972年出生，是某部队即将退役的团长。为博取吴女士信任，对方向她发送了身份证、军官证等证件照片。
对方向吴女士发送的证件照片，其实都是假证件（文中图片均由警方提供）
同时，对方主动与吴女士视频通话，并在视频通话中告诉她，可以通过“用手在脸部挥动，画面正常”的方式，鉴别视频是否为AI生成或AI换脸，他还当场演示了用手遮挡面部等动作。
对方给吴女士拨打视频电话的录屏截屏，对方特意做出用手遮挡脸部的动作，表示视频并非AI生成
吴女士是一家企业高管，学历不低，也并非没有警惕性。她为了验证“李振锋”的身份，专门上网搜索“如何鉴别AI生成视频”，发现确实如对方所说，可以通过挥手等动作区分真伪。
至此，吴女士开始相信“李振锋”。随着两人交往深入，对方称认识“中国黄金集团”高管，掌握内部理财推算数据，投资可稳赚不赔。受高额回报诱惑，吴女士在对方提供的虚假投资平台开设账户，先后投入近80万元。之后，账户余额增值至140余万元。
其实，吴女士在虚假投资平台操作时，反诈系统已经发现并发出预警，所在地派出所民警多次上门提醒和劝阻。可她深陷骗局，刻意隐瞒了自己与嫌疑人有沟通，甚至使用两部手机，把含有聊天和投资记录的手机藏起来，没有听从民警劝阻。
后来，吴女士偶然在网络看到有人被名叫“李振锋”的“军官”诈骗，经历与自己颇为相似，随即质疑对方身份。嫌疑人见状，假意安抚。可当吴女士尝试提取账户资金时，发现钱款无法提现，这才确认自己遇骗，随即报警。目前，案件仍在侦办中。
“案件中有个细节特别值得关注。”浦东公安分局刑侦支队反诈中心副队长胡占军指出：与吴女士视频通话的真的是嫌疑人吗？如果视频由AI合成，为什么嫌疑人在“挡脸”“挥手”时，视频没有出现破绽？此前，很多专业人员提醒公众，可以通过“挡脸”“挥手”“捏鼻子”等动作鉴别视频是否为AI生成或对方是否用了AI换脸。这是因为当时生成视频的大模型还不成熟。当人脸被手遮挡时，大模型无法快速生成与这个动作相匹配的画面，导致人脸变形或模糊。但随着AI生成技术进步，部分大模型在应对小范围遮挡等情况时，已经能生成较为流畅自然的画面，从而让观看者误以为视频里的是真人。
AI造假成为诈骗新手段
从已经发生的诈骗案件看，越来越多的陷阱都用上了AI。上海市公安局“803反诈”宣传团队成员、刑侦总队民警颜晨超介绍，目前常见的与AI相关的诈骗案件有三类。
第一类案件是打着“免费学习AI技术、AI全自动运营”的噱头，诱导受害者开设所谓的海外电商店铺。
在这类骗局中，诈骗分子利用受害人渴望跟上技术发展的心理，宣称学会相应的AI技术后，能开设无需本人操作的海外网店。该网店由AI智能系统自动经营、自动接单、自动发货，受害者只需垫付货款即可坐等盈利。
为证明收益可观，诈骗分子会搭建一个仿冒的电商运营页面，包括店铺后台、收益流水、订单金额、盈利数额等。但这些内容都是虚构的，可随意篡改。当受害人“垫付货款”后，能发现页面显示的收益非常高。可若受害人想提取本金和盈利，诈骗分子会用账号异常、风控拦截、店铺冻结等理由，要求受害人充值解冻、缴纳保证金、刷流水等，然后才能提现。受害者如果转账解冻，不仅无法提现，还将同时被骗走前期垫付货款和解冻资金。
颜晨超特别提醒：“很多受害人一开始是被‘免费学习AI技术’的幌子所吸引的，本意是想学习新知识。可被诈骗分子‘洗脑’后，受害人往往忘了自己的初衷，被高回报的‘AI运营店铺’说辞所吸引，最终掉入陷阱。”
第二类案件是不法分子利用AI修图、AI生成、AI合成等技术，伪造身份证、工作证、客服资质、官方通知文件等，逐步诱导受害人投资理财、合伙做生意、私下转账等。
第三类案件是AI诈骗的潜在风险：诈骗分子通过短视频平台、社交动态、社交平台评论区、通话录音等渠道，搜集受害人亲友的日常语音片段，将几十秒的短句素材通过AI技术克隆出亲友的声音，然后以受害人亲友身份行骗，借口包括紧急借钱、急事缴费、临时周转等。
“目前，上海暂无查实的同类警情，但依靠十几秒语音素材完成声音克隆，技术上已基本没有问题。若在冒充亲友借钱的骗局中，诈骗分子运用 AI 语音作案，欺骗性将大幅上升，公众务必提高警惕。”颜晨超说。
识破AI骗局，牢记这些关键
既然AI诈骗时有发生，普通人该如何防范呢？
颜晨超表示，如果亲朋通过电话、语音通话等求助，包括借款、转账等，首先要有“是否为AI生成”的求证意识，然后加以鉴别：AI克隆语音虽然声线相似，但存在明显缺陷，包括无法复刻个人说话习惯、口头禅和情绪细节。AI对话通常逻辑生硬、语速均匀无波动，无法灵活应答随机问题。
所以，可以随机向对方提出私密问题、过往专属回忆等。一旦打乱对话节奏，AI很难灵活应答，从而露出造假痕迹。
同时，对有资金往来需求的通话，务必进行二次身份核实，可以通过线下见面或先挂断电话，再换一种方式主动联系对方等。
在鉴别视频通话中是否存在AI生成内容时，可关注画面流畅度：AI换脸视频普遍存在画面卡顿、眼神呆滞、面部光影僵硬、嘴型轻微对不上等问题，尤其在快速眨眼、转头时，面部表情不自然。同时，务必记得使用随机指令，即不要等对方说“我要做什么”，而是随机要求对方完成多个指定动作。此时，普通的生成式大模型处理速度很难跟上，视频画面就会露馅。
胡占军举例介绍了可以采用的“随机指令”——
可以让对方做大幅度的动作，包括快速转身、左右摇摆身体等。“大幅度”和“速度快”非常重要。若想在这些指令下生成没有破绽的视频，需要技术相当成熟的大模型，成本比较高。
也可以要求对方用手掌将整个脸部遮挡3秒，然后快速移开手掌。此时，观察视频中对方面部是否出现变形、模糊等情况。如果有，对方大概率使用了AI生成或换脸技术。这种鉴别方法与第一种的原理基本一致。
或者要求对方做精细动作，包括眨眼、挑眉毛、伸出舌头等，然后观察视频中的人物面部是否有不自然的地方。因为AI大模型对精细化动作的处理能力相对较弱。
“但大家要知道，随着AI技术发展，不论哪种鉴别方法，都有局限性。不轻信陌生网友、谨慎参与陌生平台投资；接到96110反诈预警或是民警上门劝阻时，如实告知自身情况，切勿隐瞒……这些才是防范骗局的根本。”胡占军提醒。
配资论坛提示：文章来自网络，不代表本站观点。
