下一代AI意味着下一代欺诈：我们准备好了吗？

编者按：Dan Muller是总部位于芝加哥的支付金融科技公司Aeropay的首席执行官。

当前，围绕人工智能与支付的讨论喧嚣不已。关于欺诈检测变得更智能、结账流程逐渐隐于幕后，以及“由AI驱动”的说法几乎充斥着每一条信息流。

其中部分说法属实，但AI并不会将我们从欺诈中拯救出来。它无法阻止恶意行为者冒充他人，当深度伪造足以骗过安全核验时，它也无法保护你的客户。

我们已经能看到未来的端倪：人工合成身份、克隆语音。这些不再是假设性场景，而是AI正被迅速用于攻破旨在保护我们的系统的明证。

深度伪造AI能否通过“了解你的客户”（KYC）验证？当一个模型能够模仿人脸、在镜头前眨眼，并大声读出驾照号码时，会发生什么？如果AI工具能够生成带有看似合法网站和交易记录的合成商户，又当如何？

此外还有人为因素。设想一个克隆语音拨打客服热线。它的声音听起来与账户持有人无异，连背景噪音和语调都惟妙惟肖。我们有多大把握，客服代表在处理请求之前能够识破这一骗局？

然而，目前的叙事仍不断指向更创新的模型作为解决方案，而非直面显而易见的问题。

AI不会替你挑选合作伙伴。它不会构建你的欺诈控制体系。它也不在乎你是否最终信任了错误的系统。而这正是人们关注不足的部分。

深度伪造级别的模仿，或代理式AI，已不再是小众问题。它正逼近所有建立在信任之上的系统。

试想一个虚假商户在人工审核之前就已成功入驻，或者一个基于客服交互数据训练的AI模型，学会了将对话导向批准结果。

推动支付更高效的同一项创新，同样催生了更复杂的欺诈。因此，当所有人都在谈论AI将如何让交易更快、更安全或更个性化时，真正的问题应当是：当欺诈手段也变得更聪明时，谁来确保这些承诺依然成立？

下一阶段的创新将关乎辨别力，而不一定在于拥有最先进的模型。关键在于知道该信任谁，以及哪些合作伙伴有能力抵御新技术带来的风险。

AI无疑将继续塑造支付行业。但能够成功的公司，是那些着手解决AI带来的更复杂问题与影响的公司，而非仅仅将其作为宣传噱头。

你所依赖的系统由谁构建？当出现故障时他们如何应对？他们将欺诈视为公关问题还是产品问题？这些答案比又一轮“AI驱动”的头条新闻更为重要。

从我（人类）的视角来看，AI能让支付更智能，但真正让支付运转起来的，依然是合作伙伴关系与正确的基础设施。