前一陣颳起的「吉卜力模仿秀」還歷歷在目，大家譴責OpenAI利用宮崎駿或吉卜力工作室的作品訓練大模型，但網路上卻梗圖不斷。
現在，這股風已經開始「歪樓」了，由ChatGPT生成的Aadhaar卡終於讓人們開始嚴肅對待此事。
如果你認為這張Aadhaar卡的風格還有吉卜力的影子，那接下來將讓你大跌眼鏡。拋開人物的身份不談，至少從肉眼上看，已經達到以假亂真的程度。
簡單來說，Aadhaar卡就是印度的身份證，由印度唯一身份識別局（UIDAI）頒發，現在卻被GPT-4o的圖像生成功能濫用。此事一出，網路上聲音也很快分成兩個陣營。
正方認為，GPT-4o的圖像生成功能只是「照貓畫虎」，類似Aadhaar卡這樣的身份ID都有防偽系統，不會造成實際影響；反方則認為，哪怕只是看起來逼真，也足夠讓別有用心的人利用，況且，隨著AI系統疊代，未來偽造身份將變得十分容易。
根據現在的情況看來，此事還在發酵中，而且似乎沒有要停下來的意思。最新消息是，ChatGPT的濫用已經不僅限於Aadhaar卡，還有印度的另外一張PAN卡，這張卡由所得稅部門發行。
毫無疑問，ChatGPT可以輕鬆生成假的Aadhaar和PAN卡，也必然可以偽造其他國家的身份資訊，這將是一個嚴重的安全風險。
根據人力資源分析公司IDfy的首席商務官解釋，「Aadhaar是一個相對容易解決的案例，因為文本和人臉資訊都可以根據後端系統進行核對。但其他身份證卻比較麻煩，比如印度的PAN卡，該卡的資訊在政府資料庫中沒有人臉數據。」
說起不需要人臉識別的票據，ChatGPT的濫用已經可以輕鬆覆蓋到假的收據和處方，只需要通過簡單的編輯，這種不需要嚴格審核的票據將極容易被偽造。
正所謂矛和盾要同時發展，過去想要偽造一張圖片需要有專業的圖片處理技術，比如熟練使用Photoshop這類軟體。現在，只需要用語言敘述，就可以生成以假亂真的圖片，現實情況是「矛已經足夠鋒利」，需要在盾上下功夫了。
