當前學生利用ChatGPT撰寫作業的情形非常泛濫，雖然過去OpenAI曾推出AI文本偵測器AI Classifier來協助檢測學生所繳作業是否是ChatGPT代勞的，但卻因為「準確率低」而在去年7月下旬關閉。如今，OpenAI改弦更張開發出採用不同偵測方法的文本浮水印（text watermarking），但有鑑於該技術涉及的複雜性，以及可能對OpenAI以外更廣泛生態系統造成影響，所以該公司正在慎重考慮是否要推出該工具。
OpenAI發言人指出，儘管該公司開發的文本浮水印技術潛力十足，但在研究替代方案時則會考慮其可能的重大風險，包括被惡意份子規避的可能性，以及可能會對非英語系用戶造成不成比例的影響。
通過文本浮水印技術，OpenAI將專注於偵測ChatGPT所生成的文本，而不會偵測其他家模型的生成結果。其原理是對ChatGPT選擇詞語的方式進行微小的改變，進而在文本中創建一個無形的浮水印，之後再通過獨立的工具來進行偵測。
隨著《華爾街日報》在周日（4日）發布披露該工具的報道後，OpenAI隨即在當天將原先在5月發布的一份官方博客文章進行了更新，主要更新內容在探討關於其偵測AI生成內容的研究。文中提到只要是改寫等「局部性文本篡改」，該文本浮水印技術的偵測「高度準確」。但若使用翻譯系統，或通過另外的生成模型重新改寫，甚至要生成式模型在每個單詞之間插入一個特殊字符，然後再加以刪除的「全面性文本篡改」，該技術的偵測表現就不太可靠了。
也因為如此，OpenAI認為該技術有可能很容易地被惡意份子規避。由於AI生成對非英語用戶在學習、研究上很有幫助，但該技術有可能偏頗地將他們視AI為有用寫作工具的做法污名化，進而造成他們日常學習與工作上的困擾。不過該技術仍在開發中，相信該公司會針對這些問題進行改善。
（首圖來源：網路）
