一张照片就能“变成”马斯克？AI骗局不断增加，我们能做什么？

你刷短视频时刷到过“马斯克亲自站台”的投资广告吗？接过许久未见的亲戚发来的紧急求助视频吗？别急着信——屏幕里那张你熟悉的面孔，可能只是AI换上去的"皮"。

中科睿鉴的实验室里，工程师董宏雨随手点开一张马斯克的照片，一键就能完成实时换脸，拨出去的视频通话里，“马斯克”的表情、动作和真人几乎毫无二致，普通人稍不留神就会上当。比起一眼就能看出毛病的静态AI图片，这种能实时互动的动态换脸视频藏得更深，危险系数也高出好几倍。

用AI打败AI：假视频逃不过的“微观破绽”

“现在AI技术已经非常发达，有些通过AI生成的内容凭肉眼已经很难分辨。如果有不法分子刻意利用AI来造假，有可能会引发多种问题和危害。”电脑屏幕代码不停滚动，各类图片、音频、文字素材被录入系统，变成训练AI的原料。中科睿鉴算法研究员何覃每天都在调试参数，训练AI鉴伪模型，算得上一名“AI鉴伪工程师”。

为什么公众眼中真假难辨的假视频、假图片，在技术人员手里无所遁形？答案藏在AI造假的天然破绽里。

何覃每天的工作，就是和这些“假内容”过招。他告诉记者，现在的AI鉴伪本质上是一场“以毒攻毒”的技术博弈：早期团队只能靠投喂海量真假素材让模型自学，连研发人员都说不清模型到底在学什么，摸索久了才终于摸清所有AI生成内容的共性漏洞。

第一个漏洞在自然光，现实世界里，光线照在不同材质的物体上，反射的亮度、分布都有固定规律，这些细节人眼很难捕捉，但AI目前还做不到完美复刻，生成的画面里光源往往是“乱的”。第二个漏洞是每台拍摄设备自带的“物理噪声”，就像人的指纹一样独一无二，AI合成的内容完全没有这个特征。

这些人很难分辨的特征，却躲不过识别技术的“眼睛”，何覃打了个通俗的比方：矿泉水、纯净水和自来水，人喝起来味道差不多，但检测里面的微量元素就能分出差别，AI鉴伪做的就是这份“水质检测”的活儿。

一张照片就能骗人：这两类人最容易中招

但现在的AI造假门槛已经低到吓人，何覃说，以前要做一段像样的换脸视频，得收集大量素材训练模型，产出的效果还往往经不起细看；现在只要一张照片，就能生成以假乱真的动态视频。

这种技术一旦被不法分子利用，后果远超想象。目前，已有两类乱象，完全由AI生成内容生发开来。

一类是恶意虚假售后：有人用AI给完好的商品做出划痕、破损效果，拿着合成图找商家索赔，不少中小商家苦不堪言。据《检察日报》报道，2025年10月至2026年1月，无业青年谭某在网络平台购买高价位的榴莲和车厘子，并用AI图像生成技术给果实“一键加霉斑”并申请“仅退款”，再倒卖完好水果。三个月内作案100余起，最终被法院以诈骗罪判有期徒刑一年，罚金5000元。

另一类是专门针对老年人的情感诈骗：骗子用AI换脸复刻明星、名人的样貌，伪装成单身人士长期和老人聊天培养感情，找准时机就以“投资”“救急”为名骗走老人养老钱。更让人担心的是，实时换脸技术已经能做到“冒充熟人”，如果用孩子、亲戚的脸骗老人转账，后果不堪设想。

防线已经在路上，但还没到终点

好在这场“猫鼠游戏”里，“防守端”也在同步升级。据介绍，目前AI鉴伪技术已经正式落地，国家反诈中心、学习强国App都已经搭载了相关功能，用户上传图片、视频，能快速检测是否为AI生成。

但现有的工具仍有改进余地：用户只能事后手动上传检测，面对实时视频通话里的换脸内容，没法同步预警。何覃介绍，团队现在正在攻关的核心方向就是提升模型的“泛化性”——不仅能识别现有的所有造假手段，还能预判未来的新型生成技术。最终目标是把鉴伪功能直接嵌入手机、电脑终端，一旦检测到AI伪造画面，设备能主动弹出报警，把诈骗拦在发生之前。

反诈提醒

转账前必核验：凡是涉及汇款、投资、借钱的要求，不管对方视频看起来多真实、声音多熟悉，务必通过见面等线下方式二次核实身份，绝不轻易打款。

天上不掉馅饼：遇到自称“明星”“专家”“海外富豪”主动私信交友、推荐项目、承诺高额回报的，直接拉黑，没有例外。

多给老人提个醒：家里有老人的，定期科普AI换脸、换声诈骗的案例，告诉他们遇事第一时间找子女商量，不要独自做重大财务决定。

被骗后立刻行动：如果怀疑自己接触到了AI生成的不实内容，可以上传到国家反诈中心App检测；一旦发现被骗，立刻拨打96110报警，黄金止付时间只有几分钟。