这是一月份的一个普通日子，詹妮弗·德斯蒂法诺(Jennifer DeStefano)决定接听一个未知号码的电话。在电话的另一端，DeStefano 15岁的女儿正在哭泣并乞求帮助。
“妈妈，这些坏人抓住了我，救救我，救救我，”她的女儿恳求道。
正当德斯蒂法诺开始惊慌失措时，电话里传来了一个新的声音:她女儿的绑匪，要求100万美元的赎金。
相关:随着身份欺诈的激增，AU10TIX正在努力改变行业的运作方式
正当德斯特法诺疯狂地收到绑匪索要赎金的指示时，一个朋友给德斯特法诺的丈夫打了一个电话。她的女儿安然无恙，躺在床上。
电话那头的那个女孩，那个用德斯蒂法诺女儿特有的语调呜咽哭泣的女孩，从来都不是真实的。这是一个人工智能制造的骗局。
随着所谓的生成式人工智能变得更强大、更容易获取，这种深度造假的案例正在增加。今年6月，德斯蒂法诺在参议院司法委员会(Senate Judiciary Committee)作证时，提到了第二个故事，涉及一个同样虚假但令人信服的电话，打给了她自己的母亲。
身份验证软件制造商Regula在4月份进行的一项调查发现，去年全球37%的企业已经遭受过人工语音欺诈;仅在2022年，25%的银行就报告了100多起合成欺诈事件。
在这种旨在欺骗我们的眼睛和耳朵的环境中，Pindrop设计并实施了深度假冒欺诈保护软件。该公司与多家公司合作，尤其是银行和大型零售商，在语音认证和安全方面处于领先地位。Pindrop在这些努力中遇到的威胁最近开始增长，因为在生成式人工智能的推动下，深度欺诈变得越来越好，越来越多。
Pindrop首席执行官兼联合创始人维贾伊•巴拉苏布拉马尼扬在接受《华尔街日报》采访时表示:“我们坚信，随着人工智能的爆炸式发展，深度造假的威胁会破坏所有信任。”
他说，银行正在努力确定一个电话是来自真实的客户，还是人工智能生成的骗局的结果，这是人们难以确定网上看到的东西是否真实的环境中的另一个因素:政客、世界领导人和名人的深度伪造照片、视频和音频也在增加。
微软今年1月发布的VALL-E可以合成一段三秒钟的音频片段。
对于普通人来说，这种合成的迭代几乎与真实的东西无法区分。
相关:人工智能是可持续发展的噩梦——但它不必如此
该软件由机器学习算法提供支持，对潜在的欺诈者提供了双管齐下的防御。第一个可以确定给定的声音是人还是机器，第二个可以确保它是正确的人。
Pindrop雇佣的数据科学家同时也是语言学专家，专注于人类语言学的发展。人类有一种特殊的说话方式，而人工智能缺乏声带和嘴巴等生物成分，很难复制。
例如，含有字母“S”和“F”的单词通常无法被机器从噪音中区分出来，Balasubramaniyan说。机器无法分辨某些声音和字母之间的区别，经常在这些领域搞砸。
此外，人类语言的时代性是机器难以复制的。
巴拉苏布拉马尼扬说:“当你说‘你好，保罗’时，我说你好的时候嘴是张开的，说保罗的时候嘴是闭上的。”“我能做到的速度有身体上的限制。这些机器根本不在乎这些。他们只关心确保你的耳朵认为另一端是人。”
这些攻击虽然通常无法被人类识别，但却可以被Pindrop的网络检测到，该网络已经接受过扫描此类异常情况的训练。在一段给定的录音中，每秒可以获得数千个声音样本——一个16000赫兹的频道每秒提供16000个声音样本——Pindrop能够确定通话是人工合成的可能性。
据该公司称，Pindrop还有一个额外的对抗系统，旨在找到击败其声音认证器的方法，使这款旗舰防御软件“领先于任何已知攻击”。
当微软的VALL-E首次发布时，Pindrop的系统在没有额外训练的情况下，检测来自新软件的合成欺诈的准确率达到99%。
相关:人工智能的伦理:一条通往回应的道路nsible人工智能
Balasubramaniyan说，这个软件就像交通灯一样。呼叫中心的座席将看到呼叫的实时分析，旨在快速确定另一端的声音是真实的、准确的还是合成的。
尽管Pindrop有这样的软件，可以帮助那些发现自己处于类似DeStefano可怕的deepfake事件中的人，但该公司还没有处于向个人消费者发布此类产品的阶段。
Pindrop负责产品管理的副总裁阿米特•古普塔(Amit Gupta)告诉《华尔街日报》(TheStreet)，要解决这样的用例，Pindrop的软件需要进入每个人的手机，分析每一个电话，而许多消费者可能不会允许访问这些软件。古普塔说，为了提供这种服务，公司需要与手机制造商和运营商建立某种合作关系。
古普塔表示，Pindrop目前还没有在探索这种合作关系，不过他补充说，Pindrop可以也确实将其软件应用于社交媒体视频验证，为感兴趣的客户提供服务。
古普塔说:“我们每天都在让世界变得更好一点，我们当然为此感到自豪。”“可能不是很多，但当我们发现欺诈者时，当我们保护企业免受欺诈时，最终用户的账户受到了保护。”
动作letts PLUS提供专业的投资组合指导，帮助您做出明智的投资决策。现在就注册吧。
The Arena Media Brands, LLC THESTREET是THESTREET, Inc.的注册商标。
