Google 正在通過在使用其強大的 Reimagine 工具編輯的圖片中添加不可見的數字水印，使識別 AI 修改過的圖片變得更加容易。
2 月 9 日更新：本文最初發表於 2 月 7 日
Reimagine 作為 Google Photos Magic Editor 功能的一部分隨 Pixel 9 系列推出，允許用戶圈選圖片中的任何區域，通過輸入簡單的文本提示將其轉換成任何想要的內容。這些 AI 生成的編輯通常富有創意且有趣，但可能具有誤導性，因為很難分辨什麼是真實的，什麼是虛假的。
Google Photos：AI 生成圖片將被添加水印
根據最近的 Google Photos 博客文章披露，使用 Reimagine 處理的圖片將使用 Google DeepMind 的 SynthID 技術接收一個不可見的嵌入式水印，這將提醒他人存在 AI 驅動的修改。如果圖片包含 SynthID 水印，你可以通過查看其關聯的"關於此圖片"資訊來確認。
如果圖片是使用 Google 的 AI 工具編輯的，這些資訊將使在社交媒體或通過消息應用發送的假圖片更容易被發現。
例如，使用 Reimagine 編輯的圖片將在 Google Photos 中顯示"AI 資訊"部分，標註"來源：使用 Google AI 編輯，數字源類型：使用生成式 AI 編輯"。你也可以在 Google Photos 之外查看這些資訊：如果有人向你發送可疑照片，只需使用 Circle to Search 檢查圖片並驗證上述 AI 生成的元素。
SynthID 水印只能由特定的解碼軟體讀取，肉眼無法看見。由於它們是圖片本身的一部分，比普通的圖片標籤更難移除，而普通標籤任何人都可以輕易地從圖片文件中刪除，無論是故意還是在使用不保留這些標籤的軟體時意外刪除。
Google 已經在使用 SynthID 為其 Imagen 圖像生成工具創建的圖片添加水印。現在，它將這一功能添加到用戶使用 Reimagine 編輯的圖片中，無論是否為 AI 生成。Reimagine 目前僅在 Pixel 9 系列及更新機型上可用，但所有設備都可以讀取 SynthID 水印。
Google Photos AI 水印 — 一個不完美的解決方案
SynthID 水印設計為能夠抵抗常規編輯和操作，難以移除。然而，重複編輯可能導致它們退化。此外，Google 指出，細微的編輯，例如"改變圖片背景中小花的顏色"，可能仍會漏網，因為這些變化可能太小，SynthID 無法檢測到。
除了圖片外，SynthID 還可以為音頻、文本和影片添加水印。用於編碼和解碼文本中 SynthID 水印的軟體已經公開可用，但 Google 目前仍對其基於圖像的水印工具保密。這種方法有助於減緩那些可能開發規避技術的人的步伐，但也意味著，沒有公開審查，我們無法知道 Google 可能會在我們的圖片中嵌入什麼其他資訊。
2 月 9 日更新：SynthID 必須更廣泛地可用才能真正發揮作用
Google 必須使 SynthID 工具更廣泛可用
雖然 Google 為其 AI 生成工具添加水印的舉措值得稱讚，但用於圖像的 SynthID 只是打擊深度偽造和 AI 生成虛假資訊的一個小武器。一個重要的限制因素是，與文本文檔不同，只有 Google 可以檢測圖像中的 SynthID 水印。這意味著雖然 Google Photos、Circle to Search 和 Google Lens 會標記帶有 SynthID 水印的圖像，但其他軟體和服務不會。
例如，如果你將"重新構想"的圖片上傳到 Instagram，該應用程序不會檢測到你的圖片包含 AI 生成的組件。Instagram 會提示用戶在適當的情況下為上傳的圖片添加 AI 標籤，並指出 Meta 在某些情況下要求使用此類標籤。但是，激活標籤的決定仍然取決於上傳者。
這與其他工具不同，例如 Adobe Photoshop 使用行業標準標籤，Instagram 等服務可以讀取這些標籤來自動標記 AI 生成的內容。為確保更廣泛的採用，Google 必須讓第三方能夠使用 SynthID 解碼器來處理文本和圖像。
Magic Editor 的普通用戶可能不會在意，甚至不知道 Google 的水印。然而，那些試圖故意誤導他人的人幾乎肯定能夠繞過它。許多免費和開源工具不會，也永遠不會強制用戶嵌入標識其輸出為 AI 生成的標籤或水印。
在 Instagram 上關注 @paul_monckton。
