全球首例！男子向ChatGPT構思加害計劃引來警方調查

近期，美國一名25歲的前高盛分析師Darren Zhou，將大量針對前女友的報復加害細節輸入ChatGPT當中。他在對話里詳細梳理整套報複方案，就連作案工具、行動實施思路等高危資訊都完整寫進對話，本想藉助AI推演自己的報復構想，卻沒想到平台安全系統捕捉到這段充滿暴力傾向的危險對話內容。

但此次並非ChatGPT自動呼叫警察，而是平台安全機制捕捉高危信號後轉交人工團隊覆核，確認內容存在現實暴力犯罪風險，OpenAI將完整對話記錄提交FBI聯邦調查局。結合受害者此前收到的恐嚇騷擾證據，警方於今年5月將該男子逮捕，高盛也隨即解除了他的勞動合同。

該男子被控加重跟蹤騷擾、死亡威脅等多項罪名，後續選擇認罪，獲8年緩刑處罰，需要佩戴電子腳鐐，被永久禁止接觸受害者，同時不得持有槍支。