在遭遇強烈抗議後，Meta迅速撤回了其Instagram最新AI更新中最具爭議的部分。用戶將不再能夠輕易創建其他Instagram用戶的深度偽造內容。
Meta於上周五在其公告部落格的更新中寫道："我們聽到了反饋，認為這項功能未能達到預期效果，因此該功能已不再可用。"
上周，Meta為了證明其在生成式AI領域數十億美元投入的價值，將最新的AI圖像模型引入了Instagram平台。該更新新增了一項功能，允許用戶"標記"任何公開的Instagram賬號，並將這些真實用戶納入生成的照片級逼真AI圖像中——這實質上就是在創建深度偽造內容。
Meta當時提供了兩種退出選項，但許多用戶對系統默認將所有人設置為"同意參與"的做法感到憤慨。代表演員群體、長期致力於保護藝術家肖像權不受AI公司侵害的工會SAG-AFTRA發表聲明稱："非自願數字複製品的危險已廣為人知，一項助長此類行為的功能是極不明智的。我們對該功能的下線表示讚賞，這是負責任的舉措。"
隨著AI圖像和影片模型的持續演進，僅憑肉眼辨別內容真假變得愈發困難。不可見水印技術和更醒目的AI內容標註，是科技公司正在探索的兩種幫助用戶區分AI內容的方法。然而，在大量AI生成內容泛濫的環境下，辨別真偽依然是一大難題。而Instagram上仍在運行的圖像創建與編輯AI工具，或許只會讓這一問題進一步惡化。
Q&A
Q1：Meta為什麼撤回Instagram的深度偽造功能？
A：Meta在推出允許用戶用AI生成他人逼真圖像的功能後，遭到了大量用戶和機構的強烈反對。主要爭議在於，該功能默認將所有用戶設置為"同意參與"，而非讓用戶主動選擇加入。演員工會SAG-AFTRA等機構批評這一做法助長了非自願數字複製行為，Meta隨後宣布下線該功能。
Q2：SAG-AFTRA對Meta的深度偽造功能持什麼態度？
A：SAG-AFTRA明確反對該功能，並發表聲明指出，非自願數字複製品的危險已廣為人知，鼓勵此類行為的功能是極不明智的。該工會長期致力於保護藝術家的肖像權不受AI公司侵害，並對Meta最終下線該功能表示讚賞，認為這是負責任的做法。
Q3：目前有哪些方法可以幫助用戶識別AI生成的內容？
A：目前科技公司主要採用兩種方式幫助用戶辨別AI內容：一是嵌入不可見的數字水印，二是為AI生成內容添加更醒目的標註說明。然而，隨著AI圖像和影片模型的快速發展，僅憑肉眼辨別真假內容愈發困難，在AI生成內容大量湧現的環境下，這些措施的效果依然有限。
