巴西法院處罰利用隱形提示注入操控AI的律師事務所
巴西一家勞動法院對兩名律師及其事務所處以罰款和譴責，原因是他們在法律訴訟書中隱藏了“提示注入”指令。這是全球首例因利用提示注入操控司法AI工具而遭處罰的案例。
法官在審閱案件時，國家司法委員會部署的生成式AI“Galileu”檢測到隱藏在白底下的白色文字，該指令試圖誘導AI在評估中偏袒原告並無視其他檔案。法院認定，涉事律師的行為違反了民事訴訟法中的誠實信用原則及司法尊嚴。
由於訴訟價值巨大，律師事務所被處以訴訟金額10%的罰款（約1.6萬美元）。
法律專家指出，此案確立了律師對其提交檔案中機器可讀資料承擔責任的準則，也強調了司法AI系統在防禦此類對抗性攻擊方面的緊迫性。
來源: Hacker News