有了AI技術加持，影片和聲音都能造假，隔著一根網線和屏幕的虛擬世界，眼見也未必為實。
據報道，前段時間，國際巨星「泰勒·斯威夫特」（泰勒·斯威夫特）出現在一段影片中，並且她還「真人發音」進行了帶貨。
「嘿你們好，我是泰勒·斯威夫特，由於包裝出錯，有3000套Le Creuset（中文名譯為『酷彩』）炊具套裝無法正常線下銷售，轉向線上出售。」
「她與Le Creuset聯手進行促銷，有20位忠實粉絲將免費獲得贈送的炊具套裝」。
然而影片中的「泰勒·斯威夫特」並不是真的斯威夫特，而是AI「深度造假」技術合成了她的聲音，並將聲音與她的形象和Le Creuset廣告片段拼湊在一起。
當受害者被引導至虛假網站後，會被要求支付9.96美元的運費，同時號稱免費送的廚具也不會真的送出去。
Le Creuset和Facebook母公司Meta對這一欺詐活動迅速做出了回應。
據福克斯新聞1月12日報道，目前，Meta表示已經刪除該廣告。
深度造假（Deepfake）是英文「Deep learning」（深度學習）和「Fake」（偽造）的混成詞，指利用深度學習技術生成合成圖像、音頻或影片的技術。
隨著人工智慧技術的崛起和相關工具使用門檻的降低，越來越多包含深度造假技術的影片被生產出來，並日益發展出了新的應用場景。過去一年，人工智慧取得重大進步，製作未經授權的真人數字複製品變得更加容易，音頻、影片惡搞特別容易，也很難識別。
美國商業改善局去年警告，「深度造假」詐騙正在增加，「在購買商品之前，請花一點時間重新檢查帖子和社交媒體賬戶，這些照片和影片很可能是假的，如果你購買了不合格或不存在的產品，你就會損失金錢（通常比你想像的還要多）。」
對於消費者來說，今後遇到此類明星帶貨的影片時，也要提高警惕，不能因為是影片帶貨的緣故，就中了騙子的圈套。
