《打擊深度偽造法案
》的核心內容很簡單：發布或威脅發布未經同意的私密圖像（包括AI深度偽造等數字合成圖像）屬於聯邦犯罪，網路平台必須在48小時內刪除這些照片和影片。
儘管如此，該法案的通過堪稱一個奇蹟——它由唐納·川普總統於2025年簽署成為法律，並於今年5月正式實施。這是近期極少數獲得廣泛兩黨支持的法案之一，由明尼蘇達州民主黨人艾米·科赫和德克薩斯州共和黨人特德·克魯茲牽頭推動，第一夫人梅蘭妮亞·川普也表示支持。
美國失蹤與受虐兒童中心首席法律官尤塔·蘇拉斯表示，這項立法是"針對一項我們仍在探索的全新技術做出的極為迅速的回應"。法律簽署僅幾個月後，聯邦檢察官已經獲得一項定罪。
這種回應不僅迅速，而且非常必要。隨著生成式AI的迅猛發展，安全英雄公司2023年的一項全球研究發現，深度偽造色情內容占網路上所有數字合成影片的98%，其中99%的影片以女性為主要對象。從2019年到2023年，網路上深度偽造影片的總數增長了550%。
可以說，《打擊深度偽造法案》（以下簡稱TIDA）是美國政府針對AI驅動的網路性騷擾浪潮做出的最大力度回應。它為起訴犯罪者奠定了堅實的法律基礎，並為受害者提供了一定支持。但TIDA仍只是全面保護兒童、女性及弱勢群體免受基於圖像的侵害的部分舉措。
TIDA的執行情況
自法律通過以來，我們開始看到執行效果，主要分為兩方面：為受害者提供新的舉報機制，以及建立新的法律追責途徑。
按照法律要求，Meta和谷歌分別推出了專門的舉報入口，供社交媒體用戶舉報網路上分享的未經同意的私密內容。負責監督科技公司合規情況的聯邦貿易委員會（FTC）也建立了新流程，用於舉報社交網路未能刪除此類內容的情況。
布魯金斯學會高級研究員、技術中心主任尼可·特納·李表示，未經同意在網上分享私密圖像會侵犯個人權利，讓人感到失去控制。這些舉報機制有助於人們重新獲得掌控感。
"當在線經濟的社會契約剛建立時，大多數人分享的資訊還沒有這麼私密，"特納·李告訴我，"我認為很多人對這項技術能夠……造成如此明顯的傷害並不感到意外。《打擊刪除法案》之所以出台，正是因為這種傷害是可以被實際看到的。"
我們目前還沒有關於TIDA框架下被刪除帖子數量的具體數據，未來也不一定能獲得，這取決於Meta和谷歌是否會將依據聯邦法律刪除的帖子和賬戶，與依據其一般社區準則刪除的內容分開統計。
在起訴成功案例方面，首例定罪是一名俄亥俄州男子，他承認犯有網路跟蹤、發布或分享成人性虐待材料的數字合成內容以及製作兒童性虐待材料等罪行。倡導者當時表示，這一迅速的判決證明該法律"確實具有威懾力"。司法部目前還在依據該法律起訴其他案件。
但TIDA並不能明確預防傷害的發生，它只是提供了事後補救的途徑。倡導者表示，這類法律的力量在於威懾作用——通過對犯罪者施加足夠嚴重的懲罰，來阻止未來的類似行為。蘇拉斯認為，要充分發揮其效力，需要持續且公開的刑事執法。
"只有當人們看到確實有人被起訴、被判入獄，罪犯才會意識到不能再這樣做，"蘇拉斯說。
最後一個環節是FTC，負責確保科技公司遵守該法律。就在TIDA生效的同一周，該機構向12家運營"一鍵脫衣"服務（用於製作色情露骨內容）的公司發出通知函。
但該機構的權力實際上比表面看起來更有限。FTC告訴CNET，其無法處理個人舉報或撤下圖像，並且根據法律規定，不能披露任何正在進行的調查資訊。
立法者和監管機構正試圖促使託管此類內容的網站主動刪除。目前判斷執法能否真正有效保護消費者還為時過早——這需要長期博弈，與此同時傷害將不可避免地繼續存在。
"法律的效果需要時間才能顯現，而法律只是解決方案的一部分，"蘇拉斯說，"它是解決方案中極其重要的基礎部分，但仍然需要教育、培訓以及用於調查和持續起訴的資源。"
內容刪除並非萬無一失
目前有多項服務為遭遇未經同意分享私密圖像的人群提供幫助。其中兩個規模最大的分別是美國失蹤與受虐兒童中心（NCMEC）面向18歲以下青少年推出的"打擊刪除"計劃，以及面向成年人的StopNCII.org平台。
這兩項服務都採用一種名為"哈希"的處理方式。舉報網路上傳播的色情露骨圖像時，用戶上傳圖像後，系統會為其生成一個獨特的數字指紋（即哈希值）。與社交媒體網站共享的是這個指紋，而非用戶的原始圖像。在線平台可以掃描其發布內容，尋找匹配的指紋並刪除相應內容。
這遠非一個完美的系統。用戶必須針對每一張圖片和每一個影片單獨創建和提交案例。每當內容被稍作修改，就需要重新生成新的哈希值。在AI時代，人們能夠以指數級速度編輯圖像，這使得該系統運作起來如同噩夢。
懷俄明州一名女性最近得知，她的繼父利用伊隆·馬斯克旗下的Grok AI，基於她真實的童年照片，製作了超過7000張色情露骨圖像。（她也加入了針對馬斯克旗下xAI公司的訴訟，指控該公司AI生成的兒童性虐待材料給她造成了"毀滅性"傷害。）
更為複雜的是，科技公司並沒有義務參與這些計劃，兩者均為自願性質。NCMEC和StopNCII.org都與許多大型科技公司建立了合作關係，包括Meta、YouTube、Pornhub和OnlyFans。但這種自願加入的機制，實際上給了科技公司放任濫用內容不受監管的藉口。
許多受害者不得不依據《數位千禧年著作權法》提出內容刪除申請。這類申請要求受害者聲明自己是含有其肖像的侵權內容的版權所有者，並以未授權網站使用為由要求刪除。更糟糕的是，並非所有受害者都擁有這些性虐待材料的版權，例如當她們是在未經同意的情況下被他人拍攝時。
其根本問題在於，這將舉報的責任完全壓在了受害者身上。人們還被建議記錄自己的圖像在網上被傳播的情況，以備將來採取法律行動之需。不得不上傳、查看並追蹤這些侵權圖像的過程本身就可能造成創傷，在許多情況下，這反而延長了傷害的持續時間。
"我own image"非營利組織創始人蘇珊娜·吉布森表示，這種不完美、永無止境且最終完全由倖存者獨自承擔的過程，往往會導致創傷後應激障礙。該組織致力於為技術性性暴力的倖存者提供支持。
"倖存者不應該被迫為自己製作'數字取證包'，"吉布森說，"人們仍然期望倖存者付出巨大的努力……比如去觀看和尋找自己被性虐待的相關材料。"
全球性問題需要全球性解決方案
TIDA或許在美國取得了一定成效，但其管轄範圍也存在局限性。聯合國終止針對婦女和女童暴力行為政策專家拉斐爾·拉芬表示，基於圖像的私密內容侵害"本質上具有跨國性"。
拉芬在一封郵件中表示："犯罪者可能身處一個國家，使用總部設在另一個國家的平台，將內容上傳到位於第三地的伺服器，同時侵害目標又身處不同的司法管轄區。這給調查取證、證據收集、內容刪除和起訴工作帶來了巨大挑戰。"
例如，據德國報紙《明鏡周刊》調查，MrDeepfakes——最大的未經同意深度偽造色情網站之一——據報道由一名居住在多倫多的男子運營。該網站去年夏天宣布關閉，稱一家"關鍵服務提供商"終止了其服務；大約在同一時期，加拿大通過了一項將性色情深度偽造內容定為刑事犯罪的法律。
那些讓人們製作深度偽造內容的服務（有時被稱為"一鍵脫衣"應用）同樣在全球範圍內運營。戰略對話研究所在一項近期研究中發現了181個可公開訪問的"一鍵脫衣"網站（PDF文件）。這些網站每月合計吸引超過4000萬獨立訪問者，而加密貨幣支付方式幫助用戶規避了國際金融監管規則。據《明鏡周刊》報道，一系列用於製作深度偽造色情內容的應用被發現由東歐和俄羅斯的多個團伙組成的網路運營。
吉布森表示："那些最惡劣、危害最大的網站並非美國網站，也不是Facebook和Instagram，而是這些'盜版'網站。"
另一個挑戰在於，這些圖像和影片常常通過Discord伺服器和加密消息應用等私密渠道傳播，難以被發現和監測。例如，2024年有報告發現，Telegram平台上存在能夠對女性和兒童圖像進行"一鍵脫衣"處理的機器人程序。據《連線》雜誌當時的報道，"其中兩個機器人各自擁有超過40萬月活躍用戶，另外14個機器人各自也擁有超過10萬活躍成員。"
那麼，如何應對如此規模龐大的問題？制定具體的區域性法律是途徑之一：英國、巴拿馬和巴西都已頒布了與TIDA類似的法律。來自聯合國等組織的國際框架則是另一種途徑。2024年通過的全球性條約《聯合國打擊網路犯罪公約》中，就包含了一些關於未經同意私密內容的條款（美國並非該公約的簽署國）。
拉芬表示："從政策角度來看，核心挑戰與其說是某個特定網站所在的地理位置，不如說是犯罪者和平台利用各國之間法律與監管差異的能力。"由於犯罪者可以輕易轉移地點、更換域名並跨司法管轄區活動，國際合作與協調一致的法律標準至關重要。
為AI時代制定新規則
正如吉布森所說："隨著技術的發展，我們傷害彼此的方式也在演變。"從歷史上看，立法往往滯後於技術創新——只有當技術已經普及，我們才開始著手對其加以限制或建立保護措施。
我們已經看到，如果完全將這類問題交給科技公司自行處理，會造成怎樣的糟糕後果。Facebook推出20多年後，美國社會才剛剛開始真正正視社交媒體對我們及心理健康所造成的巨大影響。
特納·李表示，儘管TIDA所應對的問題並非全新事物，但美國缺乏基礎性隱私立法，為這些問題的不斷惡化埋下了不穩定的根基。立法應當以用戶為核心，"讓他們能夠決定自己的數據如何被使用、希望數據出現在哪裡、願意使用哪些工具，以及在出現問題時如何向公司反饋意見"。
在隱私立法缺失的情況下，加強相關教育是預防傷害的途徑之一。拉芬認為，針對青少年和成年人開展有關問責、同意以及網路空間中旁觀者行動的教育，是打破"厭女圈"等網路亞文化的關鍵，這類文化會"使厭女情緒、性權利感和對女性的敵意變得正常化"。
除了技術政策和法律理論之外，圍繞網路性騷擾問題，還存在一些需要轉變的根本性文化和社會認知。拉芬表示，AI生成的基於圖像的侵害行為"不僅僅是一個技術問題，從本質上講，它是一種基於性別的暴力形式"。
Q&A
Q1：《打擊深度偽造法案》具體規定了什麼內容？
A：該法案規定，發布或威脅發布未經同意的私密圖像（包括AI深度偽造等數字合成圖像）屬於聯邦犯罪，在線平台必須在收到舉報後48小時內將相關照片和影片刪除。
Q2：普通人如果遭遇深度偽造侵害，該如何尋求幫助？
A：可以通過NCMEC的"打擊刪除"計劃（面向18歲以下青少年）或StopNCII.org（面向成年人）進行舉報，這些平台採用哈希技術為圖像生成數字指紋，幫助社交媒體平台識別並刪除相關內容，同時也可以向Meta、谷歌等平台的專門舉報入口或FTC進行投訴。
Q3：為什麼說打擊深度偽造侵害是一個全球性難題？
A：因為深度偽造內容具有很強的跨國性，犯罪者、平台伺服器和受害者往往分處不同國家，這給調查取證、內容刪除和起訴帶來巨大挑戰，需要各國建立協調一致的國際法律標準與合作機制才能有效應對。
