如何使用AI语音工具防止欺诈


图片来源:Zapp2Photo / Shutterstock

虽然语音AI工具可以使企业更容易停止信用卡欺诈,但这项新技术也可能带来新的风险。

由于数学家艾伦·图灵(Alan Turing)开发了测试以确定计算机是否使用语言以至于被误认为是人类,因此可以通过图灵测试的人工智能对某些计算机科学家来说是一个圣杯。在2018年,谷歌表明其双工人工智能助理可以通过电话与真人预订沙龙预约和餐厅预订。行业观察家和科学家推测,声音AI的可能应用听起来真正是人类,因此公众的反应从令人印象深刻到持怀疑态度到近乎恐慌。一种可能的用途是更好地防止欺诈。但同样的技术也可能使欺诈攻击更加严重。以下是小型企业主应该了解的是AI现在可以为您做些什么,新一代AI可能具备哪些能力,以及如何安全地将AI用于业务。

数据科学界对于Google Duplex是否打开了通过图灵测试的更复杂,更广泛的AI应用程序以及这些进展是否可能很快发生的问题,存在争议。无论如何,即使像Duplex这样范围狭窄的应用程序也可能最终改变管理在线支付欺诈的方式。定义元素可能不是技术本身,而是人们使用它的意图。

AI如何通过图灵测试可能有助于防止欺诈

人们已经可以通过电话与机器人聊天,发短信和聊天,但与Google Duplex相比,这些对话的范围有限。今天的客户服务机器人也很容易出现意外问题或重音。但是,如果客户服务人工智能 – 特别是语音人工智能 – 最终通过图灵测试超出谷歌所做的非常狭窄的范围,该技术可以让公司更容易通过接管一些具有挑战性但至关重要的电话对话来制止信用卡欺诈。

目前,在线信用卡欺诈(卡不存在,或CNP,欺诈)对于各种规模的企业来说都是一个日益严重的问题,部分原因是因为许多犯罪分子可以访问违规的消费者数据。公司有两种方式处理在线订单 – 在分析了诸如送货地址,IP位置,购买历史等因素之后 – 似乎可能是欺诈性的但可能不是。

第一种选择是简单地拒绝这些不合格的订单。这种方法的问题在于,如果订单不是欺诈,被拒绝的客户可能会非常沮丧,尴尬或愤怒,以至于他们再也不会与公司一起购物。这是一个常见且昂贵的问题。 2016年,商家对这些良好订单的虚假下降损失了20多亿美元,而不是实际的CNP欺诈。

第二种选择是手动审查每个可疑订单。在某些情况下,欺诈审查员必须致电客户以确保他们确实进行了购买。这些语音对话需要技能来收集信息而不会产生指责,并且他们需要公司资源在方便的时间为客户拨打电话,无论他们身处何处。

由于人工审查是资源密集型的,因此并非所有公司都能负担得起内部工作。其他人尝试,但发现该过程在假期和其他繁忙的季节停止了订单批准过程。通过图灵测试的语音AI工具可以承担一些工作量,并且有足够的数据输入系统,或许在发现表明欺诈的微妙口头线索时比人类更好。与此同时,外包给第三方手动筛选提供商可以减轻企业的负担。

欺诈者如何利用通过图灵测试的AI

当然,这种先进的语音AI也可能被想要更有效地进行欺诈的罪犯利用。正如网络安全专家大卫·格维茨(David Gerwitz)在谷歌的语音人工智能演示后不久写的那样,这项技术的更高级版本可以用来通过电话欺骗人们。从理论上讲,通过图灵测试的语音AI可以模仿消费者打电话给订单,客户服务代表打电话询问问题,或者特定的个人如政治家似乎要求捐款。

人工智能系统也可以通过包含视觉或音频信息来欺骗,这些信息使得神经网络认为它处理与其所看到或听到的相反的情况,即使事物看起来与人类正常。研究人员已经表明,他们可以在人类无法检测到的音频文件中嵌入语音助理的指令。在一个案例中,音频新闻故事包含“静音”指令,以禁用目标的警报系统并解锁前门。想象一下,针对电子商务客户服务AI的那种攻击会超越欺诈控制并大规模部署。

这一切都回归人类

这些情况目前都是牵强附会,但在网络安全和欺诈预防方面,每一项新进展都带来了新的风险。没有理由相信通过图灵测试的语音AI系统会有所不同。这意味着,当公司最终可以使用图灵测试通过语音AI来保护自己免受欺诈时,他们还需要制定保护措施,以阻止那些希望使用先进技术对付他们的犯罪分子。

小型企业可以做些什么来获得当今人工智能的好处而不会产生不必要的风险?

首先,了解当前的AI工具可以做什么。语音助手设备,客户服务聊天机器人和防欺诈算法是强大的工具,可以节省您的业务时间和金钱,只要您将它们与人为监督相结合,以防止漏洞,糟糕的客户服务或错误的良好订单下降。接下来,要谨慎使用基于AI的个人助理来处理警报系统管理和银行业务等关键业务任务。最后,了解有关您的企业使用的AI类型的新闻,以便随着AI变得更加复杂而随时了解新功能,功能和安全问题。

拉斐尔洛伦科

Rafael Lourenco是ClearSale的执行副总裁,这是一项卡片不存在的防欺诈操作,可以保护电子商务商家免受退款。该公司的旗舰产品Total Guaranteed Protection是一个面向在线零售商的端到端外包欺诈检测解决方案。在Twitter上关注@ClearSaleUS或访问http://clear.sale/。

喜欢这篇文章? 注册以获取更多精彩内容。

成为Business.com的一员

已经是会员?
登入。

我们很想听到你的声音!登录评论