據報道，27歲AI頂尖研究員雅各布・考克森正式從Anthropic離職。過去三年，他先後任職OpenAI與 Anthropic，深度參與前沿大模型預訓練研究。
離職之際，他在社交平台發文警示：「他們正在拿我們的命賭(gambling with our lives)。」隨後，該言論被馬斯克轉發，全網瀏覽量突破1.2億。
考克森在社交平台直言，兩家頭部企業並沒有履行安全責任，在商業競爭驅動下，企業瘋狂推進具備自我疊代能力的超級智能研發。
他提醒外界不要低估技術的潛在破壞力，未來這類系統或將擁有入侵各類網路系統的能力，快速改寫多個行業格局，獲取現實世界的資源與權力。
考克森認為：「AI開發者們真心相信，到了這個十年的末尾(即2030年左右)，它可能會毀滅我們所有人。這並非營銷噱頭。」
他揭露了行業的扭曲邏輯：各家企業都擔心對手率先造出危險的超級智能，於是選擇搶先加速研發。在搶占市場的壓力下，原本嚴格的安全審核不斷妥協退讓，號稱保障AI向善的「技術對齊」，很多時候只是用來安撫公眾的公關說辭。
更值得警惕的是，高管和研究員對外描繪AI美好前景，私下卻充斥著末日焦慮。Anthropic對齊團隊主管埃文・胡賓格公開佐證了這一現狀，他預估十年內AI造成人類毀滅的概率超10%，同時坦言，目前行業還沒有能夠解決超級智能安全對齊的可行方案。
諷刺的是，Anthropic成立之初，正是一批不滿OpenAI過度商業化的技術人員，希望打造更注重安全的AI公司，如今卻被自家核心研究員指責蒙眼狂奔。
業內的危機預警，推動美國政界加快行動。參議員伯尼・桑德斯等人推出法案，提議永久禁止超級智能開發，在監管機構落地前暫停高階AI項目。
桑德斯還引用考克森的發言，呼籲同僚參與AI風險閉門聽證會，多名議員也相繼起草相關法案，提議給AI設置緊急切斷開關。
