从辅助撰写报告到智能理财、健康咨询，DeepSeek等国产AI大模型的爆发式普及，正重塑着普通人的生活。然而，技术的普惠性也催生了新型犯罪温床。

据网络安全实验室统计，仅2024年12月1日至2025年2月期间，就出现了超过2000个仿冒DeepSeek的山寨网站，打着“免费内测”“AI暴富课”旗号诱导用户下载恶意软件，造成个人信息泄露甚至资金被盗。

不久前，网上出现某知名医生带货的视频，其售卖一种蛋白。有老人信以为真下单购买。但该医生澄清，视频中的人物并非他本人。经过核实，“医生带货视频”为AI合成。

此类案件暴露出技术下沉中的“认知鸿沟”——普通用户对AI技术的信任，正被黑产精准收割。

具体到日常生活，AI诈骗已渗透至社交陷阱、消费欺诈和信息泄露三大高频场景。为了量化AI诈骗的社会冲击，新京报有理数基于锐研数据平台，抓取103篇主流媒体报道案例（2023年3月1日至2025年3月1日），通过拆解两年间的多维度数据，试图精准刻画受骗人群画像（如高净值企业主、老年群体），追踪骗局场景的迭代路径（从“视频仿冒”到“交友陷阱”），并评估其对网络应用、生产安全乃至社会信任的冲击。

谁在被AI诈骗精准围猎？

传统电诈中，诈骗分子集中围猎“一老一少”的情况比较常见，例如中国银联曾发布的《2023年移动支付安全大调查报告》显示，75.7%的大学生和77.7%的大龄群体收到过诈骗信息。

面对完全可以以假乱真的AI诈骗，老年群体和年轻群体更是没有招架之力。通过抓取的新闻案例我们发现，2023年至2025年，在AI诈骗案件中，老年人和年轻人各占27%，学生和职员群体各占10%。

2024年，封面新闻曾对1500多名大学生做过一个调研，结果显示半数受访大学生本人或身边的人曾遭遇疑似AI诈骗，超7成大学生对AI诈骗感到恐慌，坦言“面对AI诈骗防不胜防”，仅有25.1%认为“骗不到自己身上”。

与传统电诈相比，在AI技术的加持下，诈骗活动不再搞“大水漫灌”，而是“精准滴灌”。诈骗分子不再用传统的话术去广撒网，而是利用AI技术事先筛选，摸清受骗者的详细身份信息，量身定制诈骗套路，进而进行精准诈骗。如此之下，受害者身份更加广泛、多元，中年企业家和宝妈等群体也被盯上。

据中国青年报报道，2023年，宝妈王枚（化名）在境外求学期间通过社交平台结识伪装成房东的男性网友，对方利用AI换脸换声技术获取其信任并发展恋爱关系。随后以投资加密货币为名诱骗其小额试水获利，逐步诱导加大投入，致使王枚抵押房产、网贷累计损失约200万元，最终提现受阻发现被骗。

同时数据也发现，经济发达地区更容易成为AI诈骗的高发地带。在样本数据汇总中，上海、北京、浙江等省市的案例占比超过45%，海外案例也占到了5%。

一方面，经济发达地区人口密集，人员流动性大，个人信息更容易被泄露和滥用。另一方面，这些地区的人们对新技术的接受度较高，使用AI相关服务的频率也更高，这就给了诈骗分子更多可乘之机。此外，经济发达地区的金融活动频繁，资金流动量大，诈骗分子也更倾向于选择这些地区作为目标。

骗子为了用AI骗到你，到底有多“努力”

AI技术普及让诈骗门槛大幅降低，为“个人独狼式”诈骗提供滋生土壤。以往我们在电影《孤注一掷》中看到的大多数是由成百上千名诈骗分子组成的大型诈骗集团充当主角，集团内部分工明确。

而现在在AI技术的辅助下，一两名诈骗分子就可以展开个人作案，AI技术承担了从目标筛选到身份伪装，再到实施诈骗和逃避打击过往诈骗中的关键工作，并且这种情形已经超过六成。

在这场新型犯罪中，AI技术被“武器化”的程度令人咋舌。

根据对103篇新闻报道的分析，AI换脸技术在诈骗案件中的使用率近一半，语音合成技术约四成。犯罪分子通过非法获取的人脸照片和语音样本，利用开源AI工具生成逼真的虚拟形象。

大行其道的AI换脸技术，既是犯罪分子最喜欢的作案工具，也是公安部严厉打击的重点对象。早在2023年8月，公安部就曾召开新闻发布会称，针对“AI换脸”导致群众被欺诈的问题，公安机关发起专项会战，侦破相关案件79起，抓获犯罪嫌疑人515名。

但此类案件一直有抬头趋势，据央视新闻报道，2024年深圳市民吴先生收到陌生彩信，内有合成其与陌生女子的不雅照并遭勒索转账。警方调查发现犯罪团伙利用AI技术伪造照片实施敲诈，最终在多地警方协作下抓获以王某为首的十余名嫌疑人。

另一方面，AI技术的普及使得诈骗手段更加多样化和难以防范，没有深厚技术背景的人也能轻松获取和使用相关技术进行诈骗活动，诈骗场景的多样性超出想象，冒充公检法机关、伪造亲友求助、虚拟投资平台等套路层出不穷。

数据显示，在所有AI诈骗案例中，冒充类诈骗占比高达62%，其次是金融类和交易类诈骗。内蒙古警方破获的一起AI换脸诈骗案中，福建某科技公司老板郭先生在视频通话中目睹“好友”面容、亲闻其声，10分钟内被骗转账430万元，事后发现对方竟是AI换脸与拟声技术合成的“数字替身”。

同时，诈骗分子还把AI技术应用到了交友赛道。央视报道，上海刘先生在短视频平台结识“焦女士”，发展为网恋后对方以开店、手术等名义骗取20万元，警方调查发现该团伙使用AI生成虚假照片实施婚恋诈骗，涉案金额超200万元。

随着AI技术的不断升级，互联网诈骗手段不断更新，甚至逐渐形成了一条分工明确、相互协作的完整化黑色产业链。上游技术提供者通过暗网兜售“AI换脸套餐”，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。

整个过程中，技术、数据、资金形成了一个完整的闭环。这条黑色产业链的存在，反映出了监管的漏洞和技术的局限性。随着AI技术的不断发展，黑色产业链也在不断升级和演变，这给打击AI诈骗带来了更大的挑战。

AI诈骗中的困局

人身安全亟须法律保护

AI幻术肆虐之下，许多受骗人被骗得倾家荡产，甚至背负巨额债务。2024年3月，一名中国香港的职员在一场“多人视频会议”后被骗2亿港元，最后发现这场视频只有他自己是“真人”，其他人都是AI换脸冒充的。

依据瑞莱智慧公布的数据，国内AI诈骗案件的涉案金额已经从2020年的0.2万元，增长至2023年的1670万元，年复合增长率达1928.8%。2024年刚过半时，发生的AI诈骗案件已经超过1.85亿元，态势严峻。

除了财物损失外，受害人还容易遭到其他涉及人身安全方面权益的侵害，如信息误导、隐私泄露、名誉受损等。

去年7月，河北保定女孩欣欣遭遇AI换脸侵权。其社交账号照片被他人盗用，通过Deepfake技术制作传播不良视频，并泄露其姓名、学校等个人信息。欣欣发现后立即报警并咨询律师，固定证据链。经警方调查，涉事者因传播淫秽物品被依法处以行政拘留十日。

更令人担忧的是，诈骗分子的加害对象正在从普通人向知名人士蔓延，危害力可能会进一步加大。此前，“假靳东”诈骗老年人、“国庆7天AI雷军骂了8天”、“张文宏”深夜带货等一众AI假冒名人的新闻频频出现在热搜榜单上，已经引起今年两会代表委员的高度关注，呼吁通过法律手段来加强对AI诈骗的管理和约束。

（全国人大代表、小米集团创始人雷军谈对于AI发展看法）

有研究认为，在法律规制层面，现行制度呈现明显滞后性和监管真空。AI诈骗的实施基础是大规模收集个人隐私信息，当诈骗分子非法获取包含社会关系、财务数据、生物特征等敏感信息后，其实施诈骗的条件即初步具备。现行《数据安全法》虽发挥一定作用，但在技术标准、保护范围及措施方面仍需完善。

《深度合成管理规定》第16条显示，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。这一表述在实践中还不够清晰，也可能存在歧义，究竟是不遮挡AI生成内容的主要部分，还是应当不为人类肉眼可见容易存在争议，还需要进一步的法律解释。

与此同时，AI诈骗治理缺乏行业合力。各个行业数据泄露的情况仍然存在，即便一些用于保护用户数据的基础性制度开始实行，但部分企业为追求短期利益，通过贩卖用户信息等形式获利。与此同时，金融机构部分从业人员在利益驱使下，违反监管制度，对外转卖客户信息用以非法获利。

此外，生成式AI模型迭代速度与检测技术发展存在明显的时间差，容易形成“技术代差陷阱”，使得新型诈骗手段往往在监管响应前已造成规模化危害。

所以，我国现行法律构建了AI诈骗的第一道防线，但在技术标准细化、责任主体扩展及检测工具配套化等方面仍需完善。未来还需通过立法明确具体的技术规范，将研发者纳入责任体系，强制要求提供检测工具，从而提升AI生成内容的可识别性，有效遏制AI诈骗的蔓延。

AI技术本身并无善恶之分，但如何引导其健康发展，已成为当前面临的课题。正如全国人大代表、中国科学院大学讲席教授、知识产权学院院长马一德所言：“面对AI深度伪造技术带来的新挑战，我们需要在技术创新与防范风险之间寻求平衡。”

AI理应是人类的助手，而非伤害的工具。在这场没有硝烟的战争中，人类与AI的较量才刚刚开始。只有通过技术创新、法律完善、公众参与的多维度协作，我们才能筑牢防线，让AI真正成为推动社会进步的力量。

参考文献及资料：1、周益任士英《AI诈骗治理：困境与对策》，人民论坛2024年第13期

2、姚志伟李卓霖《AI诈骗的法律规制》法治论坛2023年第4辑

3、法制日报《有人用AI“说了谎”“变了脸”》

4、央视新闻《雷军呼吁立法整治AI造假》

5、深圳罗湖检察《《山寨DeepSeek泛滥，检察官提醒：警惕网络诈骗，保护个人信息！》

6、封面新闻《防不胜防！半数受访大学生曾接触过疑似AI诈骗》

7、中国青年报《揭秘“杀猪盘”背后的心理控制术：并非只有“恋爱脑”才会遭遇》

8、央视新闻《防范新型风险守好网络空间丨AI换脸拟声，“熟人”“家人”让转账也要留心》

9、新华网《网络上“AI名人”泛滥深度伪造之恶何解？》

10、央视新闻《网恋女友竟是“AI生成”警方揭秘诈骗流水线》