裁判の提出書類に「原告有利の出力を生成するようAIに指示するテキスト」が隠されていたことが発覚

AI要約

アメリカ・コネチカット州の男性マシュー・エリオット氏が、裁判の提出書類に人間にはほとんど見えない白色の小さな文字でAI向けの指示（プロンプトインジェクション）を隠し、AIが原告有利の出力を生成するよう仕向けていたことが裁判所により発覚しました。裁判所はこの行為を悪意あるものと判断し、電子申請の禁止と紙での提出を命じました。今回の事例は米国で初の裁判所システムへのプロンプトインジェクション事例であり、過去のブラジルの類似事例と比較されました。裁判所はAIの誠実な利用には可能性を認めつつ、不適切な使用には厳しい対応を示しています。