隨著人工智慧（AI）技術的飛速進步，網路上湧現了大量高度逼真的篡改影片，這一現象被不法之徒所利用，作為網路詐騙的新手段。據《紐約時報》最新報道，利用AI技術合成的伊隆·馬斯克形象已悄然潛入數千條虛假廣告中，引發了一場規模龐大的詐騙風暴，涉案金額高達數十億美元，且已有無辜民眾落入陷阱。
尤為引人注目的是「AI馬斯克篡改影片泛濫」的案例，其中一位82歲的退休老人蒂夫·博尚普不幸成為受害者。去年年末，老人在網路衝浪時偶遇了一段聲稱是馬斯克「親自受訪」的影片，影片中馬斯克力薦一項看似前景光明實則風險極高的快速回報投資項目。這段影片製作精良，口型與聲音完美同步，極具欺騙性，導致老人深信不疑，隨後按照廣告指引聯繫並開設了投資賬戶。
在接下來的數周內，老人逐步投入了自己的全部退休金，總額高達69萬美元，卻未曾料到這竟是一場精心設計的騙局，最終所有投資均化為烏有，被騙子悉數捲走。
此類詐騙案件並非孤例，詐騙分子往往選取真實存在的影片片段作為基礎，利用先進的AI技術替換聲音並精細調整口型，使偽造影片難以辨識，極大地增強了其迷惑性和危害性。據專注於監測深度偽造影片的Sensity機構最新調查顯示，馬斯克已成為這類影片中的「常客」，自去年底以來，他占據了近四分之一的深度偽造詐騙影片，尤其是在加密貨幣相關的欺詐內容中，其出現頻率更是高達九成。
值得注意的是，除了馬斯克外，華倫·巴菲特、傑夫·貝佐斯等其他知名人士的形象也被不法分子用於類似詐騙活動，凸顯了這一問題的廣泛性和嚴重性。
