據日本媒體報道，一名25歲的日本男子近日因利用人工智慧（AI）製造電腦病毒而被定罪，並被判處有期徒刑3年，緩刑4年。這可能是日本首例因濫用生成式AI而在刑事案件中被判刑的案例。
被告以前從事過SIM卡詐騙等「暗黑兼職」，在尋找更輕鬆的賺錢途徑時，他結合自己對生成AI的興趣，萌生了製作電腦病毒進行勒索的想法。
根據判決資料顯示，被告於去年3月，在家中使用電腦和智慧型手機，根據通過AI獲得的不法程序源代碼，製作了類似于勒索軟體的電腦病毒。他想利用生成AI編寫的電腦病毒源代碼，通過加密特定文件並使其無法訪問，進而以解密數據為條件，要求受害者支付比特幣作為贖金。
被告坦言自己缺乏IT專業技能，強調「沒有生成AI的幫助，根本無法製作出這種病毒」。若非因涉及SIM卡詐騙被捕，該病毒很可能已被用於實際犯罪活動。
判決書稱，「為了賺錢而製作電腦病毒，屬於犯罪行為，刑事責任重大」。但另一方面，由於被告承認了起訴事實並表現出反省態度，因此最終採用了緩刑。
據三井物產Secure Directions（東京）公司的惡意軟體分析高級技術員吉川孝志表示，生成AI通常設置了防止回答非法資訊的限制，但網上也有如何規避這些限制的方法。吉川表示，「生成AI一旦被濫用，即使使用者沒有相關知識，也可以獲取用於犯罪的資訊」，並強調「在不影響正常使用的情況下，當務之急是如何防止其被用於犯罪」。
