数百款AI应用被曝为“深度伪造”色情内容入口，科技巨头面临监管压力

一项最新的调查揭露了移动应用市场中一个令人不安的趋势：数百款看似无害的AI驱动应用程序，实际上已成为制作和传播深度伪造（Deepfake）色情内容的隐蔽入口。

这些应用通常伪装成无辜的照片编辑器、聊天机器人或办公效率工具，并成功绕过了苹果App Store和谷歌Play Store严格的安全审查机制。安全研究人员追踪到一个由400多个不同应用程序和网站组成的网络，它们共享一套底层基础设施，专门用于生成非自愿的性影像。

通过将真实的恶意功能隐藏在平庸的界面之下，开发者们利用生成式AI领域的快速扩张，将有害工具分发给毫无防备的用户。这一发现立即引起了科技巨头的高度关注，苹果公司和Meta公司已采取行动，着手调查并拆除与这些欺诈平台相关的网络。

专家指出，这些应用能够轻易潜入官方应用商店，凸显了当前审核政策中存在的重大漏洞。

尽管应用商店运营商已针对AI生成内容实施了更严格的准则，但开发者使用了复杂的混淆技术——例如动态代码加载和服务器端更新——使得应用在初次审核阶段表现得完全无害，待上架后再激活恶意功能。这种“挂羊头卖狗肉”的策略对数字安全和个人隐私构成了严重威胁。

随着这一内幕的曝光，科技行业正面临加强检测能力的巨大压力。该事件严厉地提醒人们，AI技术若被滥用，可能成为骚扰和剥削他人的武器。

展望未来，监管机构和平台运营商预计将开展合作，建立更稳健的验证框架，以确保生成式AI工具不被用于传播非自愿的深度伪造内容，从而保护用户免受日益增长的数字侵害风险。

来源: WIRED