數百款AI應用被曝為“深度偽造”色情內容入口，科技巨頭面臨監管壓力

一項最新的調查揭露了移動應用市場中一個令人不安的趨勢：數百款看似無害的AI驅動應用程式，實際上已成為製作和傳播深度偽造（Deepfake）色情內容的隱蔽入口。

這些應用通常偽裝成無辜的照片編輯器、聊天機器人或辦公效率工具，併成功繞過了蘋果App Store和谷歌Play Store嚴格的安全審查機制。安全研究人員追蹤到一個由400多個不同應用程式和網站組成的網路，它們共享一套底層基礎設施，專門用於生成非自願的性影像。

通過將真實的惡意功能隱藏在平庸的介面之下，開發者們利用生成式AI領域的快速擴張，將有害工具分發給毫無防備的使用者。這一發現立即引起了科技巨頭的高度關注，蘋果公司和Meta公司已採取行動，著手調查並拆除與這些欺詐平臺相關的網路。

專家指出，這些應用能夠輕易潛入官方應用商店，凸顯了當前稽核政策中存在的重大漏洞。

儘管應用商店運營商已針對AI生成內容實施了更嚴格的準則，但開發者使用了複雜的混淆技術——例如動態程式碼載入和伺服器端更新——使得應用在初次稽核階段表現得完全無害，待上架後再啟用惡意功能。這種“掛羊頭賣狗肉”的策略對數字安全和個人隱私構成了嚴重威脅。

隨著這一內幕的曝光，科技行業正面臨加強檢測能力的巨大壓力。該事件嚴厲地提醒人們，AI技術若被濫用，可能成為騷擾和剝削他人的武器。

展望未來，監管機構和平臺運營商預計將開展合作，建立更穩健的驗證框架，以確保生成式AI工具不被用於傳播非自願的深度偽造內容，從而保護使用者免受日益增長的數字侵害風險。

來源: WIRED