利用AI深度伪造实施诈骗：三名嫌疑人因涉案1.29亿美元被捕

联邦当局近日宣布，已对三名涉嫌参与高科技欺诈计划的嫌疑人提起诉讼。该团伙利用人工智能技术冒充企业高管和法律顾问，成功从受害者手中窃取了约1.

29亿美元。这一案件标志着生成式AI在犯罪活动中的应用已进入令人担忧的升级阶段。

根据起诉书，被告使用了先进的“深度伪造”（deepfake）技术和合成媒体，精准模仿了首席执行官（CEO）及法律专业人士的声音与形象。通过制作极具说服力的音视频模拟，犯罪分子成功绕过了常规安全协议，诱导企业员工授权进行大规模资金转账。

这种“社会工程学”手段代表了网络犯罪的新前沿，现实与数字虚构之间的界限正变得愈发模糊。此次盗窃案的规模凸显了企业金融系统在面对AI驱动的欺诈时日益脆弱。

调查人员透露，嫌疑人对目标进行了极其细致的研究，收集了大量个人信息和职业背景，以确保其冒充行为看起来真实可信。一旦通过这些合成身份建立了受害者的信任，被告便会指示受害者将巨额资金转入由犯罪网络控制的账户。

执法官员强调，此案为企业和个人敲响了警钟。随着AI工具变得更加普及和强大，身份盗窃和企业欺诈的可能性呈指数级增长。

目前，专家敦促企业实施更稳健的验证流程，例如多因素身份验证（MFA）以及“带外验证”（out-of-band verification），即要求通过第二个受信任的通信渠道来确认敏感请求。此次对三名嫌疑人的起诉预计将成为法律体系应对AI欺诈的里程碑式案件。

检察官正聚焦于传统电信诈骗法规与合成媒体带来的新兴挑战之间的交叉点。随着调查的深入，当局正致力于追回被盗资金，并识别可能协助洗钱的潜在同伙。

此外，该事件引发了网络安全专家关于开发更先进检测工具的广泛讨论。随着犯罪分子的手段不断创新，企业和金融机构的防御策略必须以同等甚至更快的速度进化，以防止未来遭受毁灭性损失。

来源: AP News