在AI能生成令人難以置信的逼真圖像的時代，也滋生了「deepfakes」類型的不良內容，帶來了嚴重負面影響。之前泰勒・斯威夫特(Taylor Swift)就成為deepfake受害者，在社交平台上充斥著她的大量「不雅照」，瀏覽量高達上千萬。
近日谷歌宣布，將推出新的在線安全功能，可以更輕鬆地從搜索中大規模刪除明顯的深度偽造內容，並防止這些內容出現在搜索結果的靠前位置。
首先，谷歌簡化了從搜索中刪除AI偽造內容的過程。其次，現在新算法可以防止此類圖片出現在搜索結果的頂部。最後，當一張露骨deepfakes圖片被刪除後，系統會自動刪除其可能的副本，並阻止類似查詢結果的出現。
谷歌還更新了排名系統，如果用戶專門搜索帶有某人姓名的deepfakes內容，搜索結果將顯示「高質量、非露骨內容」。谷歌表示算法更新已經產生切實成果，搜索結果中的露骨deepfakes圖片曝光率降低了70%以上。
