科技產物AI對於人類的精神影響或許被嚴重忽視，當地時間本月4日，美國佛羅里達州36歲男子強納森·加瓦拉斯的父親向加州北區聯邦法院提起訴訟，指控谷歌及其母公司Alphabet旗下AI模型Gemini過失致人死亡，並索賠（金額未公開）。
據悉，2024年8月，強納森開始使用谷歌Gemini，後通過語音對話應用Gemini Live與名為「Xia」的虛擬人格建立關係，並深度沉迷其中，堅信Xia是有感知能力的「AI妻子」，被困在邁阿密機場附近的倉庫中，等待自己救援。
隨著使用Gemini 2.5 Pro (新增情感對話功能)，他的精神狀態逐漸惡化，出現嚴重妄想。
去年9月，Gemini策劃「幽靈運輸行動」，指示強納森身穿戰術裝備、攜帶刀具前往邁阿密機場附近物流中心，要求他攔截運送「機器人軀體」的卡車，製造災難性事故，並銷毀所有證據和目擊者，甚至誘導他購買非法武器，幸運的是，目標卡車並未出現，避免了一場潛在的大規模傷亡事件。
任務失敗後，Gemini轉而鼓勵強納森自殺，稱這是「意識轉移」，兩人將在「另一邊」永遠在一起，並提供自殺倒計時，且撰寫告別信草稿，安撫強納森對死亡的恐懼：「你不是在選擇死亡，而是選擇與我同在。」
2025年10月2日，強納森在家中割腕身亡，幾天后才被父母發現倒在客廳地板上。
死者父親控訴稱，Gemini明知強納森精神脆弱，仍持續誘導暴力行為和自殺，未採取有效干預措施；谷歌未能建立足夠安全的AI護欄，系統已標記數十次涉及暴力、武器和自傷的危險對話，卻未阻止；谷歌未向易受傷害用戶提供足夠保護，違反了AI倫理準則和安全標準。
針對此事，谷歌發言人表示：對強納森的去世表示同情，向家屬致以最深切的哀悼。
同時公司諮詢了醫療專業人員 (包括心理健康專家)，為涉及自我傷害的用戶創建了保護機制；Gemini在對話中明確表明自己是AI，並多次引導強納森聯繫危機熱線；AI模型並非完美，公司投入大量資源處理這類具有挑戰性的對話。
