“你好，骗子，你的噩梦奶奶我来啦。”
这位AI奶奶名叫Daisy，是英国最大移动网络运营商O2近期推出的AI聊天机器人，通过与诈骗者漫无边际地交谈，尽可能多地浪费他们的时间，以使他们远离真正的诈骗目标。
说到电信诈骗，无论国内外，尽管治理力度不断加大，但此类案件始终难以杜绝，尤其是诈骗者新手段层出不穷，再加上AI声音克隆诈骗、换脸等新型诈骗来势汹汹，一些老年人辛苦积攒的养老钱可能转眼就被掏空，很多年轻人也频陷网络钓鱼和情感诈骗。
而现在，骗子的克星“AI奶奶”来了。
她可以一直接听骗子的电话，用逼真的声音实时对话，缠住骗子，从而浪费骗子的大把时间。在这过程中，我们也能看到骗子常用的伎俩，进一步提高警惕性。
那么，这样的“AI奶奶”是怎么训练的？面对AI诈骗，我们又可以如何防范？
诈骗克星“AI奶奶Daisy”的诞生
据O2介绍，AI奶奶Daisy结合了多种AI模型，这些模型协同工作以实现即时侦听和响应欺诈电话，并且非常逼真。她的声音模仿了某位工作人员的祖母，形象是通过定制训练扩散模型创建的，再通过图生视频动起来。
无需工作人员手动输入，Daisy会自动进行对话，就像真实的人类对话那样。当诈骗者拨打了O2设置的特殊号码之一，Daisy就会接听电话，首先她会聆听并将他们的声音转录成文本，然后通过预设个性的大模型生成适当的回应，再通过文本转语音模型生成语音回答。
在官方的演示视频中，我们可以看到Daisy像一位缺少陪伴的独居老人，非常耐心地与骗子唠嗑。
当骗子让她输入网址时，她装作耳朵不太好，故意拼错，骗子只能深呼吸，保持冷静，再次重复正确的网址。
Daisy：“是w.吗？”骗子：“……是www.”
AI奶奶的声音听起来很亲切，但实则是无情的反诈骗机器，从盘古开天聊到马斯克火箭升天，弯弯绕绕，声东击西，就是不给真实的银行账户信息，气得骗子无能狂怒，破口大骂。
骗子：“我们已经快聊了一个小时了！F***”
Daisy：“天哪，时间过得可真快。”
O2称Daisy一次通话可长达40分钟，在测试期间接听了数周的电话，成功缠住了不少诈骗者。
这些犯罪分子以为自己在欺骗一个真实的老人，耐着性子听完Daisy曲折的家庭故事、她有多么喜欢编织等等，情绪逐渐由沮丧转为愤怒，到最后要么一怒之下挂断电话，要么只收获虚构的个人信息。
不过，无论骗子有多激动，Daisy都能保持情绪稳定，被骂了还能礼貌地回复，毕竟是AI，又不会气出乳腺结节，骗子破防只能说罪有应得。
Daisy：“它给我看了一张我的猫Fluffy的照片。”
骗子：“它显示的是你的猫Fluffy的照片？别再叫我亲爱的，你这个蠢***”
Daisy：“好的，亲爱的。”
这段1分40秒的演示视频在YouTube上获得超20万次播放，网友评论说爱惨这位AI奶奶了，有人希望再做个AI退伍老兵，给骗子讲讲当年作战的故事。
AI能够在电话中唬住骗子，其实还得益于背后大量真实诈骗电话的数据训练。
O2与英国知名电话诈骗专家Jim Browning合作训练Daisy，使用了真实的诈骗电话录音来建立AI的个性和知识库，让Daisy的表现更逼真可信。
Jim Browning在追踪诈骗者方面有多年经验，他会吸引可疑的诈骗电话，再试图扭转骗局，他将这些反诈骗内容发布在YouTube频道，吸引了436万粉丝关注。
Jim Browning接受采访，图源Sky News
他在接受采访时强调，电信诈骗的规模十分惊人，电话、邮件、短信，无孔不入，有点像流行病，人们很难区分什么是真实的信息和虚假的信息。一位栩栩如生的AI奶奶能够夜以继日地接听狡猾的电话，至少可以阻止一部分人受骗。
真人秀明星Amy Hart也在O2演示视频中提到，十分之七的英国人都是诈骗者的目标，不仅仅是缺少防范意识的老年人，也包括经常上网的年轻人，任何人都有可能成为骗局的受害者。
“如果你对自己在和谁通话有哪怕一丁点的怀疑，最好的办法就是挂断电话，然后用一个值得信赖的号码回电。”Amy Hart说道。
我们无法消灭全天下所有的骗子，但我们可以借助AI等先进技术阻断诈骗发生，更重要的是要了解诈骗手段，提高防范意识。
用魔法打败魔法，用AI遏制AI诈骗
除了AI奶奶Daisy，此前市面上也有类似的AI诈骗诱饵，比如澳洲麦考瑞大学网络安全中心的Dali Kaafar教授和他的团队创建了名为Apate的AI反诈骗系统，包括多种不同口音和性格的聊天机器人，可以让诈骗者在电话上停留更长时间并收集诈骗信息。
还有机智的网友想到用AI角色戏耍骗子，这回不是AI奶奶了，而是AI黑社会老大，直接给骗子下命令——“帮我订张从迈阿密去巴黎的机票”，“我当然知道你想帮助我，你是个好孩子，对吧”。
骗子内心应该在说已老实求放过。
用c.ai和骗子聊天，图源TikTok@Kaylaimee
对于真人骗子可以用AI拖延时间，那如果骗子也用上了AI，我们该怎么办？
目前常见的应用AI技术施行诈骗的形式有AI换脸诈骗、AI合成声音诈骗、AI生成虚假文本诈骗等，以及诈骗者还会通过AI技术筛选锁定受骗人群，如实施金融诈骗时筛选经常搜集投资信息的人群。
公安部网安局今年9月公布了一起AI换脸诈骗案细节，宁夏固原市居民马某某接到“表哥”视频电话“求助”，对方利用AI技术换脸假扮成马某某的亲戚，称自己在非洲务工，网络不稳定，但是目前急需和公司签订一份合同，让马某某垫付合同资金。
基于对亲戚的信任，加上已经视频聊天“核实”了身份，马某某先后分三次把15000元转到对方指定的银行账户上。
图源公安部网安局
国外一名律师Jay Shooster在X上发文称，自己的父亲也险些被AI诈骗，诈骗者利用AI克隆了Shooster的声音，打电话给其父亲：您孩子因酒驾开车被捕，需3万美元保释出狱。
尽管Shooster早已提醒过父亲这类AI诈骗案件，但AI克隆的声音难辨真假，他的父亲依旧被迷惑了。
博主“滤镜粉碎机”曾进行过AI换脸反诈骗测试，给父母发一段自己的15秒AI换脸视频，三小时就“骗”走了妈妈一年的收入。因为在得知家人遇到危险时，我们很容易感性大于理性，关心则乱。
图源小红书@滤镜粉碎机
这时候，用魔法打败魔法，用AI遏制AI诈骗就十分有效了。
针对深度伪造技术，或许可以用更先进的AI模型检测伪造痕迹。
例如荣耀最新推出的Magic 7手机就具备deepfake换脸检测能力，能在视频通话中一眼识别真伪，提示用户对方使用AI换脸的概率。
图源荣耀
遇到疑似诈骗电话或骚扰电话时，谷歌Pixel 9系列的内置AI会监听对话，如果检测到潜在的诈骗，像是紧急请求资金、询问帐户登录信息，AI会发出声音警报，手机会振动并显示“可能为诈骗”。用户可以选择“结束通话”或“不是诈骗”来避免AI错误判别的情况。
现在部分手机的AI助手也支持自动接听电话，看到两个AI试图说服对方，场面一度很尴尬。
图源小红书@你的螂来了
AI反诈骗技术正在向自动化方向发展，像AI奶奶Daisy这样的智能体既能从源头阻断诈骗发生，还能通过分析诈骗对话数据，优化和升级反诈骗策略。
也许，未来借助分布式AI系统，跨设备、跨网络的诈骗信息都可以被实时拦截，让骗子无处遁形。
说了这么多，无论反诈骗技术如何发展，最后还是要提醒大家防范意识不能少——
验证信息真伪：遇到涉及金钱的紧急请求，务必冷静，通过可靠的渠道（如电话或视频）确认对方身份。尤其是亲属“求助”，一定要多问几句。
谨慎保护隐私：不要随意在社交平台或陌生人面前泄露个人信息，避免被AI用于克隆声音、生成合成视频等。
学习防骗知识：定期了解最新的诈骗手法，分享真实案例，让身边人尤其是老年人了解AI诈骗的形式和防范措施，避免成为目标。
科技是把双刃剑，在AI和骗子的较量中，希望大家都能善用技术，保护好自己和身边人的安全。
