人工智能语音克隆升级了美国的绑架骗局

最近人工智能的进步在电话诈骗方面引发了一种令人不安的新趋势，诈骗者利用人工智能复制受害者家属的声音，实施假绑架计划。

这种策略在说服人们为亲人的安全归来寄钱方面特别有效。

9月25日，华盛顿州布里恩市的Highline公立学校向社区发出警报，称有两人成为“骗子”的目标，“骗子谎称绑架了一名家庭成员”。

骗子播放了一段人工智能生成的家庭成员的录音，然后要求赎金。

美国联邦调查局（FBI）报告称，这类骗局在全国范围内有所增加，尤其是那些说英语以外语言的家庭。

该学区表示：“骗子播放了（人工智能生成的）家庭成员的录音，然后要求赎金。”

亚利桑那州的母亲詹妮弗·德斯蒂法诺在国会作证时讲述了她的经历，骗子利用人工智能让她相信她的女儿被绑架了。

DeStefano描述了一个周五下午接到一个未知号码的电话，听到她的女儿Briana在电话那头抽泣。“起初，我没有想到这一点。我随便问她发生了什么事，”德斯蒂法诺回忆道。

然而，当一名威胁男子接管并索要100万美元赎金时，电话迅速升级。“听着，你女儿在我这儿……你要是报警，我就把她的胃灌满毒品，”他威胁道。

这名男子继续操纵局面，布里安娜的恳求声在背景中响起。

在一片混乱中，德斯蒂法诺的丈夫发现布里安娜安全在家，不知道正在上演的骗局。“她和父亲在一起是安全的，怎么可能被绑架者控制呢？”这毫无意义，”德斯蒂法诺写道。

骗子可以轻易地复制声音，这引起了专家们的担忧。

他们主要采用两种方法：从未知电话中收集语音数据，以及从社交媒体上的公开视频中提取音频。

网络安全公司Cyble的首席执行官Beenu Arora解释说：“我们的目的是通过你的声音获取正确的数据……这一点现在变得更加突出了。”

美国国立卫生研究院（NIH）已经发布了针对潜在受害者的指导方针。

他们建议警惕陌生号码索要赎金的电话，并鼓励个人通过直接联系所谓的受害者来核实索赔。

随着人工智能技术的发展，现实和操纵之间的界限变得模糊。阿罗拉警告说，随着社会越来越依赖科技，辨别真假将变得更具挑战性。

他说：“我的建议是，当你收到这类令人担忧的信息时，最好在离开之前停下来想一想。”

当局敦促任何认为自己是这些骗局的受害者的人与当地警察局联系。人工智能的快速发展给那些致力于防止不良行为者利用的人带来了持续的挑战。