银行业

AI声音骗局揭示识别熟人与付款授权之间的缺口

老年人报告的欺诈损失体现重大伤害,并不证明AI因果关系。声音克隆使付款请求的独立核验更加重要。

安静家居中的木桌上放着黑色电话听筒和一本合上的蓝色亚麻封面书。
使用 Codex 生成的 AI 编辑插画。
本文目录

熟悉的声音可能让付款请求显得真实,而人们还没有核实钱将转到哪里。声音克隆正在挑战这一判断捷径。相关的财务防护,是通过独立途径核实对方和请求,而非仅仅相信通话听起来自然。

这个问题具有现实意义,因为FTC十月关于老年消费者的报告指出,60岁及以上人群在2025年报告的欺诈损失约为30亿美元。这说明了已报告损害的重要性,却没有确定其中多少涉及人工智能。

两套损失总额不能相加成一张账单

FBI另行介绍的IC3报告数据显示,老年人在2025年提交了超过201,000起投诉,报告损失超过77亿美元。较大的数字并不构成一个可以靠选择更惊人标题来解决的矛盾。它属于另一套报告系统。

不能简单相加这些总额。报告可能重叠,收集渠道不同,任何一家机构收到的材料都不是全部欺诈事件的完整普查。比较需要一致的定义和处理重复记录的方法。缺少这些条件,合并数字带来的只是表面精确,而不是更好的信息。

因果归属又是另一项问题。一项欺诈可能使用加密货币付款,以冒充身份作为欺骗方式,并将AI作为工具。这些描述不一定是互斥的类别。存在合成内容,也不能证明它造成了全部损失。不能把老年人的广义损失总额重新标为声音克隆的代价。

FTC的发现也不支持简单的年龄刻板印象。老年人报告发生金钱损失的频率低于年轻人,但部分人的单次损失大得多。这是一种报告模式,并不能证明年龄本身就能预测易受害程度。对于预防,转账的严重程度和具体情境,与投诉数量同样重要。

内容可信与授权有效是不同的检验

FBI2024年12月的警告指出,生成式AI可以降低制作可信欺诈内容的工作量,包括克隆声音。这是对能力和已观察手法的描述,并非对每种能力当前成功频率的估算。

不过,其经济机制是清楚的。如果逼真的冒充变得更便宜,家庭或金融机构就不能只依赖表现形式中的瑕疵来识别危险。制作精良的信息,仍可能在请求者身份、付款理由或收款账户方面包含虚假主张。

FTC关于声音克隆的指引建议,使用已知属于对方的电话号码重新联系声称来电的人。这一步的价值在于独立性:通过不是由可疑请求本身提供的渠道核实说法。仅仅拨打同一次对话中新告知的号码,无法形成同样的隔离。

还存在第二道机构边界。FinCEN2024年11月的警报描述了涉及疑似深度伪造身份证件、试图绕过核验的可疑活动报告。这证明身份流程面临威胁,但不应被说成所有银行经过测量的失败率,也不能证明每一份可疑文件都由AI生成。

身份核验有效,也无法单独确定某笔付款是否合适。真实客户仍可能受到操纵而授权转账。关键区别在于,证明谁控制账户,与判断指令是否符合独立核实的目的,是两个问题。支付流程设计需要同时处理它们。

防护既要减少损失,也要保留服务可获得性

当请求改变收款目的地或要求异常紧急处理时,更强的流程可以加入暂停、独立核验或升级审查。这些是设计上的可能性,并非声称某家机构已经提供这些措施,也不意味着单一控制能够消除欺诈。效果取决于措施如何协同,以及用户能否获得帮助。

最有力的反对意见是,额外阻力可能延误真实援助。客户如果不会使用陌生应用、无法回答不合适的验证问题,或联系不上可信家属,就可能被原本用于保护他们的控制排除在外。把每次中断都视为成功,会掩盖这种成本。

对银行而言,这种权衡还可能影响调查成本,以及与合法客户的关系质量。

因此,评估需要兼顾损失与服务可获得性:被阻止和已完成的欺诈转账、误报、处理时间,以及无法完成交易的合法客户。如果损失明显减少且没有造成不可接受的排除,就会增强某种控制的合理性。单看较高的拦截次数,并不能得出同样结论。

追回资金也存在不确定性。FTC建议在欺诈付款后联系支付服务商,并在可能的情况下申请撤回。这是一条应对途径,不是退款承诺。更持久的财务原则,是在资金转出前确立有效授权:识别声音可以开启对话,但应由经过独立核实的请求来决定转账。

资料来源

内容与估算仅供学习参考,不构成个性化财务建议。 关于我们与方法 →

继续阅读