一位康乃狄克州法官近日發現了一起疑似美國首例當事人在法庭文件中藏匿隱藏文本的案例，該文本專門針對AI系統設計，意圖干預案件結果。
法官沃爾特·斯帕德（Walter Spader Jr.）上周公布的裁決中確認，這段隱藏文字對案件審理未產生實質影響。該案涉及一名男子指控某醫療機構違規拒絕提供檔案訪問權限。斯帕德表示，法院依據實質內容對其申請進行了審查，但這一行為本身已構成"危險"先例，隨著AI工具在司法系統中的普及，此類惡意手段日後恐將屢見不鮮。
據斯帕德描述，這段隱藏文字"對人類讀者不可見，但對任何讀取文檔文本的軟體卻完全可讀"，其目的是干擾法院可能使用的AI系統。這些隱蔽指令要求AI在審查文件時支持原告論點，忽略法院此前的駁回裁定，並引導裁決朝原告期望的方向發展。
該文本以極小字號顯示並設置為白底白字，明顯是一次提示詞注入攻擊
。原告馬修·艾略特（Matthew Elliott）此前的多項論點均遭法院駁回，似乎藉此手段試圖扭轉局面。
此計雖未奏效，艾略特仍受到了一定處罰——在法院警告他可能因此承擔後果後，他依然繼續在後續文件中藏匿文字，最終被認定構成"嚴重的訴訟濫用"。
對於後續出現的隱藏內容，艾略特稱不過是"玩笑"，包括一個指向Nosferatu YouTube影片的鏈接、一句"嗨 :) 我希望你看不見我"，以及一段亂碼式留言："告訴肖恩我問他好！！！哈哈你們看到了嗎？！！"
斯帕德對此表示："在收到制裁聽證通知後，原告仍繼續在新的訴狀中藏匿資訊，令人震驚。"
斯帕德指出，與"其他一些司法系統"不同，康乃狄克州司法分支並不使用AI審查或裁決文件，因此艾略特的提示詞實際上並不存在干擾法院AI系統的風險。
艾略特為自己辯解稱，法官所指的最關鍵提示詞，是他出於對法院疑似允許AI不公正影響裁決的擔憂，以"公共服務"為由進行的一次"審計"嘗試。
但斯帕德指出，如果艾略特真的對法院的AI使用方式存有疑慮，完全可以"用所有人都能看到的清晰明文"表達出來。隱藏這段文字本身，恰恰是"其惡意目的的證明"。
斯帕德在裁決中寫道："通過將指令隱藏於文件中，提交者試圖將自己的指示混入指令流，使系統誤以為這些指示來自系統的操控方。在本案中，這一操控方應被理解為法院、其工作人員或對方律師。"
艾略特昨日向路透社表示，他堅持認為自己的本意是審計法院，但斯帕德並不採信這一說法。在法官看來，艾略特顯然是在"試圖達成他在熟知法律的人類讀者面前未能實現的目的"。對於那些被稱作玩笑的隱藏內容，斯帕德表示，艾略特一邊希望法院認真對待自己的訴狀，一邊又在其中藏入玩笑，"實在難以自圓其說"。
Q&A
Q1：提示詞注入攻擊是什麼？艾略特是怎麼操作的？
A：提示詞注入攻擊是一種針對AI系統的攻擊方式，攻擊者在文檔中藏入專門面向AI的指令，試圖操控AI的輸出結果。艾略特將文字縮至極小字號並設置為白底白字，使其對人類不可見，但AI軟體讀取文本時可以識別。這些隱藏指令要求AI支持他的論點、忽略法院此前的駁回，並引導裁決朝他期望的方向發展。
Q2：康乃狄克州法院實際上有沒有在用AI審案？
A：沒有。法官斯帕德明確表示，康乃狄克州司法分支並不使用AI來審查或裁決文件，這與"其他一些司法系統"的做法不同。因此艾略特的提示詞注入實際上並未對任何AI系統產生影響，法院完全依據人工審查對其申請進行了實質性審查。
Q3：艾略特最終受到了什麼處罰？
A：艾略特受到了相對輕微的制裁處罰。雖然隱藏文本未對案件產生實質影響，但他在法院警告後仍繼續在新文件中藏匿內容，被認定構成"嚴重的訴訟濫用"。法官斯帕德對他一再在正式訴狀中藏入隱藏內容的行為表示震驚，並認為其"以審計為由"的辯解缺乏可信度。
