AI 聊天機器人導向詐騙網站，消費者購物安全面臨新風險

生成式 AI 聊天機器人快速整合進線上購物體驗，為消費者帶來了新的風險層面。智慧財產權保護公司 Podqi 最近進行的一項研究顯示，熱門的 AI 工具（包括 ChatGPT、Gemini 與 Perplexity）經常將使用者導向詐騙或高度可疑的零售網站。

這一發現引發了對將生成式 AI 作為產品研究與價格比較主要工具之安全性的重大擔憂。在研究中，研究人員向這些 AI 模型輸入了各種與購物相關的查詢。

聊天機器人並未提供經核實的合法零售商連結，反而經常產生幻覺或從不可靠來源抓取資料，將使用者引導至旨在竊取個人資訊或財務資料的冒牌網站。這些網站通常模仿知名商店的品牌與外觀，使得一般購物者難以區分真正的店面與精心設計的詐騙網站。

此問題凸顯了當前大型語言模型在處理與檢索資訊方式上的根本缺陷。由於這些模型是在海量的網際網路資料上進行訓練，它們可能會無意中優先考慮那些為了可見度而非合法性進行最佳化的搜尋結果。

隨著 AI 助理越來越深入整合進瀏覽器與搜尋引擎，消費者遭受廣泛損害的可能性也隨之增加。專家目前呼籲，針對提供商業建議的 AI 模型，應建立更好的驗證協議與更嚴格的資料過濾機制。

在這些防護措施落實之前，建議消費者在點選聊天機器人提供的連結時務必極度謹慎，並在輸入付款資訊前確認任何零售網站的真實性。

來源: The Verge