不能用 AI 代寫作業了？OpenAI 正研發 ChatGPT 文本水印，檢測成功率驚人

前段時間，關於 AI 檢測畢業論文的話題引發了廣泛討論，並一度登上了熱門榜，圍觀者觀點無外乎 AI 檢測論文的程度有些過火，甚至也有人質疑是否應該使用 AI 進行檢測。

贊助商廣告

而據《華爾街日報》報道，OpenAI 不能用 AI 代寫作業了？OpenAI 正研發 ChatGPT 文本水印，檢測成功率驚人

內部開發了一種可以準確檢測用戶是否利用 ChatGPT 不能用 AI 代寫作業了？OpenAI 正研發 ChatGPT 文本水印，檢測成功率驚人

撰寫文章或學術論文的方法。

報道稱，這項技術的背後用到了一種數字水印，雖然肉眼上不可察覺，但可以通過 OpenAI 的檢測技術進行識別。檢測工具會提供一個分數，以評估整篇文檔或其中一部分由 ChatGPT 撰寫的可能性。

內部文件透露，當由 ChatGPT 生成的文本達到一定程度時，水印技術的準確性高達 99.9%。

去年七月，包括 OpenAI、Meta 在內的七家科技巨頭承諾將採用一些安全措施來增強 AI 技術的安全性。

這七家科技巨頭都承諾將共同開發和應用一種水印系統，適用於 AI 生成的所有類型的內容，包括文本、圖像、音頻和影片。

據知情人士和《華爾街日報》查閱的內部文件顯示，ChatGPT 文本檢測器也已經準備就緒，隨時可以發布。一位知情人士表示：「這不過是按一下按鈕的事情。」

OpenAI CEO Sam Altman 和 CTO Mira MUrati 也曾參與有關這個「反作弊」工具的討論，但據知情人士透露，Altman 雖然支持這個項目的開發，但卻並未積極推動其公開發布。

一個關鍵的考慮因素在於，根據 OpenAI 對 ChatGPT 高黏度用戶所進行的一項調查結果，69% 的用戶認為作弊檢測技術可能會引發對使用 AI 的不實指控。

近 30% 的用戶表示，如果 ChatGPT 啟用了水印功能而其競爭對手沒有，他們可能會減少使用 ChatGPT。

OpenAI 去年也曾推出一款名為「AI Text Classifier」的文本檢測器，旨在檢測文本是否是由 AI 生成。

然而，根據 OpenAI 的數據，該工具在識別 AI 生成文本方面的正確率僅為 26%，同時將人類縮寫內容錯誤識別為 AI 生成的錯誤率達到了 9%，因此，該工具僅推出半年後便遭到了停用。

與此同時，《華爾街日報》引述 OpenAI 一位女發言人的話稱，OpenAI 擔心這項工具可能對非英語為母語的群體造成不公平的影響。

贊助商廣告

她強調「我們正在開發的文本水印技術在技術上有很大潛力，但在探索其他可能性時，我們也在權衡其帶來的重要風險……考慮到所涉及問題的複雜性和對 OpenAI 之外整個生態系統可能產生的影響，我們認為採取謹慎的態度是必要的。」

斯坦福大學生物醫學數據科學助理教授 James Zou 曾領導一眾科學家，使用 7 個流行的 GPT 不能用 AI 代寫作業了？OpenAI 正研發 ChatGPT 文本水印，檢測成功率驚人

檢測器評估了 91 篇由非英語母語人士撰寫的托福（鑑定非英語為母語者的英語能力考試）作文。

研究發現，在 7 個 GPT 檢測器中，由非英語母語人士撰寫的超過一半的作文被錯誤地標記為由 AI 生成，甚至有一個檢測器錯誤地將近 98% 的作文標註為由 AI 生成。

相比之下，以英語為母語的八年級學生寫的作文在檢測後，同樣的 AI 檢測器將超過 90% 的作文標註為由人類生成。

此外，這類 AI 檢測器的普及度也是一個微妙的平衡點。

倘若使用檢測器的人過少，該工具的效果將大打折扣，如果使用的人太多，被破解的風險也隨之激增。

可以預見的是，隨著 AI 的不斷進步和滲透到我們的日常生活，驗證作品的「含人量」將逐漸成為我們不得不面對的新常態。