科幻正在走進現實？有機構稱AI已經開始有自我進化和自我構建的跡象了！
這一大膽判斷，是剛剛Anthropic在最新的一篇重磅論文《When AI Builds Itself》中提出的。文章提到，如果這一趨勢持續發展並獲得足夠算力支撐，最終將指向能夠完全自主設計和開發自身繼任者的人工智慧系統，這被稱為 "遞歸自我提升"。
「我們還沒到那個階段，遞歸式自我提升也不是必然的。但這可能比大多數機構準備得更早到來。」
Anthropic呼籲，世界能夠選擇放緩或暫時暫停前沿人工智慧的發展，以便社會結構和對齊研究跟上技術進步，將是件好事。
同時，Anthropic宣布："Anthropic 研究所將與外部利益相關者合作，開展研究，深入思考日益強大、可能自我改進的系統所帶來的影響，以及如何讓世界有能力對這項技術的未來發展做出深思熟慮的選擇。"
儘管Anthropic官方X賬號上補充澄清："這一切都不能保證遞歸自我提升即將到來。目前尚不清楚Claude是否具備研究判斷力 —— 即選擇正確問題去解決的能力。
但如果這些趨勢繼續下去，AI系統設計和構建自己的繼任者是合理的。這可能會在醫學、技術、經濟等方面為社會帶來革命性的改善，但也可能加劇對齊問題，最終導致失控。"
但論文中披露的一系列數據和事實，還是讓整個科技界感到了前所未有的震撼。因為這篇論文不是在預測遙遠的未來，而是在描述正在發生的現實。
