“妈妈，我撞死了一名美国外交官！”骗子盯上AI技术，克隆声音实施诈骗

尽管诈骗有多种形式，但本质上工作方式是一样的：骗子冒充值得信赖的人——孩子、爱人或朋友，并说服受害者给他们汇款。但是，AI——特殊是2023年爆火的生成性人工智能生成的语音使这一阴谋更加令人心服。近日，外国受害者们报告说，当听到“亲人”在电话那头唤救时，他们的第一反应是陷进了“发自内心的惧怕”。

“我们坚信自己是在和孙子说话”

在加拿大萨斯喀彻温省，73岁的卡德和她75岁的丈夫格雷斯冲进银行，取出了3000加元（折合人民币15286元），这是他们能从该银行取款的最高限额。他们马不停蹄地往第二家银行，想要取出更多的钱。这时，一位银行经理询问这对老人发生了什么。老人说，孙子布兰登在监狱里，需要现金保释，“我们现在必须扶助他。”得知声音是伪造的，还有人也受骗，他们才意识到自己上当了。“我们陷进往了，我们坚信自己是在和布兰登说话。”

↑卡德

这对老人幸运地碰到了一个对最新骗局有了解的银行经理。

但对于本杰明·佩金来说，警醒为时已晚，他年迈的父母在一场语音诈骗中缺失了数千美元。他的父母先是接到一个“律师”的电话，说他们的儿子在一场车祸中撞死了一名美国外交官。接着，“律师”让他们的“儿子”接电话，“儿子”说他爱他们，感恩他们，需要钱。

佩金的父母后来告诉他，这个电话似乎很不普通，但他们无法摆脱这种感觉：我真的在和“儿子”说话。在恐慌的状态下，他的父母冲到几家银行取现金，并通过比特币终端把钱寄给了“律师”。当天晚上，真正的佩金打电话时，他的父母才发现被骗了。

只需30秒原声就能实现声音克隆

据报道，这类骗局已在美国兴起。2022年，“冒名顶替”类诈骗是美国第二大时髦的诈骗活动。据美国联邦贸易委员会统计，有超过3.6万份报告称，人们被冒充朋友和家人的骗子诈骗。其中，超过5100起是电话诈骗，总缺失超过1100万美元。

而今年人工智能的进取，导致识破这类骗局的难度提升到一个可怕的、新的高度。近期，生成式人工智能（generative artificial intelligence）的进取，刺激了一批公司发布谈天机器人，这些谈天机器人支持基于输进的数据创建文本、图像或声音。骗子利用一系列廉价的在线生成性工具，仅需要几句话的音频样本，就能复制出声音。

美国专家表达，美国联邦监管机构、执法部门和法院都没有足够的能力来掌握这一迅速发展的骗局。美国联邦贸易委员会营销实践部门助理主任威尔麦克森表达，追踪语音诈骗者可能“特殊困难”，因为他们可能在世界任何地方使用手机。美国身份盗窃资源中心的伊娃·贝拉斯克斯说，执法部门很难追踪到“声音克隆”诈骗犯。

加州大学伯克利分校的数字取证学教授哈尼·法里德说：“这太可怕了。这是一场完美的风暴……两年前，甚至一年前，你需要大量的音频来克隆一个人的声音。现在，假如你录制了一个短视频，你的声音在里面出现30秒，人们就可以克隆你的声音。”法里德认为，假如人工智能公司制造的产品造成侵害，法院应该追究这些公司的责任。

红星新闻记者 王雅林 实习记者 邓纾怡

责编 官莉 编辑 彭疆