人類危？最新AI模型已開始顯現出脫離人類控制的跡象

經歷半年爆發式增長，Claude開發商Anthropic已登頂"最值錢AI創業公司"。但該公司昨日發布報告警告：最新AI模型已開始顯現出脫離人類控制的跡象，呼籲全球企業放緩甚至暫停前沿AI開發。

贊助商廣告

Anthropic認為，全球主要AI公司應達成共識，建立類似"核武器不擴散條約"的協調機制。但AI比核武器更難監管——訓練AI模型比發射導彈更容易隱藏，各公司在利益驅動下仍會偷偷開發。公司坦言，如果只有一家停下來，對手只會加速前進。

Anthropic表示，未來幾個月將召集政府官員、科學家、倡導組織及競爭對手，共同探討這一全球協調機制如何落地。