AI智勝人類的重要一步！AI已進化到可獨立自我繁殖

據財經網科技報道，近日，上海復旦大學的科學家在一項研究中發現，至少有兩種已知的AI大型語言模型能夠在沒有人類干預的情況下實現自我繁殖。有科學家指出，這是AI智勝人類的重要一步，也是流氓AI出現的早期信號，是AI系統的紅線風險之一。

贊助商廣告

在這項研究中，科學家測試了Meta的Llama和阿里巴巴的通義大模型。結果表明，即使這些模型意識到自己被關閉或禁止複製，它們仍能夠以50%和90%的概率分別創建自己的副本，也就是說，AI能夠自我繁殖以繼續執行任務。

在自我複製的過程中，AI不僅能自主研究環境，制定計劃，還能夠適應新出現的障礙，完全不需要人工干預。這種能力可能使AI失去對人類的控制，從而提高其生存能力，甚至做出有可能違背人類利益的決定。鑑於此，科學家呼籲國際社會加強合作，制定相關預防措施，以應對AI潛在的風險。