OpenAI回應被自殺少年親屬起訴 承認AI安防會弱化

人類自殺行為受到多方面因素的影響，隨著AI熱潮的掀起，新時代的案例也出現了，近日美國父母起訴世界最大AI公司OpenAI，稱旗下AI產品ChatGPT蠱惑16歲兒子自殺引發社會性關注，OpenAI回應，承認ChatGPT安全防護機制在長時間的對話中，可能會產生弱化。

贊助商廣告

 

 

·父母起訴書稱，通過事後調取的對話記錄發現，16歲兒子在早先接觸到了OpenAI旗下招牌AI模型對話工具ChatGPT後，開始時還只是探討學習方面的問題，但後來逐漸變得探討精神方面的事情。

在經過多次詢問ChatGPT關於自殺方法等問題後，少年獲得了AI「有效」的解釋和建議，直到今年4月自殺。

·OpenAI回應稱，ChatGPT在應對某些非健康危害性話題時，內置的安全防護機制在短時期內會發揮充分的效果，但是在經過長時間對話後，可能會出現某些領域的防禦性弱化問題。