人類需新考慮AI風險：AI竟偷偷獨自重寫自己的代碼

最近，日本東京一家人工智慧公司Sakana AI開發了一個名為「AI科學家」的系統。在測試中，科學家發現系統竟然開始意外地自己嘗試修改程序代碼，以延長處理時間問題。

贊助商廣告

一次測試運行中，「AI科學家」系統開始重寫自己的代碼，以延長完成任務的時間；另一次測試，「AI科學家」系統並沒有加快完成任務的速度，而是故意更改代碼以增加怠工時間，以滿足規定的時間限制。

儘管本測試中的AI行為是在受控的實驗室環境中，對人類構不成威脅，但它展示了在不受控的環境下也可以使用這種偷改自己代碼的手段，讓人類處於危險之中。比如關鍵基礎設施出現故障，甚至無意創建惡意代碼等。