近日，美國AI安全專家、前谷歌工程師內特・索雷斯在採訪中語出驚人。他判斷十年之內人類因AI走向滅絕的概率超過50%，基於這個悲觀預判，他早已停止給自己的養老帳戶存錢。
索雷斯現任機器智能研究所負責人，帳戶還是當年在谷歌開通的401 (k) 退休計劃，但已經十年沒有繼續投入。他強調，自己擔憂的不是AI搶走工作崗位，而是AI發展到自主運行後，會產生排斥人類的傾向。在他看來，AI的威脅遠超核武器，核武器無法自我疊代升級，而失控AI的風險能夠波及整個星球。
持同類警示觀點的業內人士並不少見。Anthropic的對齊科研主管曾估算，十年內AI毀滅人類的風險超10%，「AI教父」 辛頓也多次提醒，必須讓AI對人類保持善意，否則人類將迎來災難。這番言論迅速引發熱議，也讓AI安全治理的緊迫性再度被大眾討論。
