巴西法院处罚利用隐形提示注入操控AI的律师事务所

巴西一家劳动法院对两名律师及其事务所处以罚款和谴责，原因是他们在法律诉讼书中隐藏了“提示注入”指令。这是全球首例因利用提示注入操控司法AI工具而遭处罚的案例。

法官在审阅案件时，国家司法委员会部署的生成式AI“Galileu”检测到隐藏在白底下的白色文字，该指令试图诱导AI在评估中偏袒原告并无视其他文件。法院认定，涉事律师的行为违反了民事诉讼法中的诚实信用原则及司法尊严。

由于诉讼价值巨大，律师事务所被处以诉讼金额10%的罚款（约1.6万美元）。

法律专家指出，此案确立了律师对其提交文件中机器可读数据承担责任的准则，也强调了司法AI系统在防御此类对抗性攻击方面的紧迫性。

来源: Hacker News