關於AI是否會取代人類工作這一話題，一直存在大量爭論。隨著這項技術持續快速發展，越來越多人開始擔憂AI可能會給未來帶來的影響。近日，一名前Anthropic研究人員也站出來發出警告，稱AI可能會對全人類構成威脅。
Anthropic前研究人員Jacon Coxon表示，到本世紀末，AI系統可能會變得足夠強大，甚至威脅到人類的生存。
這名研究人員過去也曾與OpenAI合作。他認為，兩家公司都在朝著超級智能的方向快速推進。Coxon表示，那些從事AI研發的人其實非常清楚這項技術可能對整個人類構成的威脅。
他認為，AI很快就可能具備入侵任何系統的能力，甚至能夠在極短時間內獲得真正的權力。Coxon最終警告稱，AI未來甚至可能導致人類滅絕。
「打造AI的人是真心相信，到本世紀末，AI可能會殺死我們所有人。」
有趣的是，Anthropic的對齊科學負責人Evan Hubinger也加入了這場討論，並認同Jacon Coxon的觀點。他表示，這種情況最終成真的可能性超過10%。
Hubinger認為，真正值得所有人擔憂的是超級智能。未來AI自主學習和自我改進的能力可能會達到一個前所未有的程度，其表現將完全不同於人類過去見過的任何事物。
如今，也有越來越多人呼籲這些AI公司採取必要的安全措施，以防這些預測最終真的成為現實。
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://twitter.com/EvanHub/status/2097497037956891126
