首页游戏资讯“妈妈,我撞死了一名美国外交官!”骗子盯上AI技术,克隆声音实施诈骗

“妈妈,我撞死了一名美国外交官!”骗子盯上AI技术,克隆声音实施诈骗

misa2 03-06 5次浏览 0条评论

尽管诈骗有多种形式,但本质上工作方式是一样的:骗子冒充值得信赖的人——孩子、爱人或朋友,并说服受害者给他们汇款。但是,AI——特殊是2023年爆火的生成性人工智能生成的语音使这一阴谋更加令人心服。近日,外国受害者们报告说,当听到“亲人”在电话那头唤救时,他们的第一反应是陷进了“发自内心的惧怕”。

“我们坚信自己是在和孙子说话”

在加拿大萨斯喀彻温省,73岁的卡德和她75岁的丈夫格雷斯冲进银行,取出了3000加元(折合人民币15286元),这是他们能从该银行取款的最高限额。他们马不停蹄地往第二家银行,想要取出更多的钱。这时,一位银行经理询问这对老人发生了什么。老人说,孙子布兰登在监狱里,需要现金保释,“我们现在必须扶助他。”得知声音是伪造的,还有人也受骗,他们才意识到自己上当了。“我们陷进往了,我们坚信自己是在和布兰登说话。”

↑卡德

这对老人幸运地碰到了一个对最新骗局有了解的银行经理。

但对于本杰明·佩金来说,警醒为时已晚,他年迈的父母在一场语音诈骗中缺失了数千美元。他的父母先是接到一个“律师”的电话,说他们的儿子在一场车祸中撞死了一名美国外交官。接着,“律师”让他们的“儿子”接电话,“儿子”说他爱他们,感恩他们,需要钱。

佩金的父母后来告诉他,这个电话似乎很不普通,但他们无法摆脱这种感觉:我真的在和“儿子”说话。在恐慌的状态下,他的父母冲到几家银行取现金,并通过比特币终端把钱寄给了“律师”。当天晚上,真正的佩金打电话时,他的父母才发现被骗了。

只需30秒原声就能实现声音克隆

据报道,这类骗局已在美国兴起。2022年,“冒名顶替”类诈骗是美国第二大时髦的诈骗活动。据美国联邦贸易委员会统计,有超过3.6万份报告称,人们被冒充朋友和家人的骗子诈骗。其中,超过5100起是电话诈骗,总缺失超过1100万美元。

而今年人工智能的进取,导致识破这类骗局的难度提升到一个可怕的、新的高度。近期,生成式人工智能(generative artificial intelligence)的进取,刺激了一批公司发布谈天机器人,这些谈天机器人支持基于输进的数据创建文本、图像或声音。骗子利用一系列廉价的在线生成性工具,仅需要几句话的音频样本,就能复制出声音。

美国专家表达,美国联邦监管机构、执法部门和法院都没有足够的能力来掌握这一迅速发展的骗局。美国联邦贸易委员会营销实践部门助理主任威尔麦克森表达,追踪语音诈骗者可能“特殊困难”,因为他们可能在世界任何地方使用手机。美国身份盗窃资源中心的伊娃·贝拉斯克斯说,执法部门很难追踪到“声音克隆”诈骗犯。

加州大学伯克利分校的数字取证学教授哈尼·法里德说:“这太可怕了。这是一场完美的风暴……两年前,甚至一年前,你需要大量的音频来克隆一个人的声音。现在,假如你录制了一个短视频,你的声音在里面出现30秒,人们就可以克隆你的声音。”法里德认为,假如人工智能公司制造的产品造成侵害,法院应该追究这些公司的责任。

红星新闻记者 王雅林 实习记者 邓纾怡

责编 官莉 编辑 彭疆

网游单机版下载
全国政协委员杨杰:意见将编程教诲逐步纳进中高考 方案出台后,韩日网民吵成一片
相关内容
发表评论

游客 回复需填写必要信息