Anthropic公司首席執行官達里奧·阿莫迪（Dario Amodei）正在呼籲美國政府封鎖危險人工智慧模型的部署，就像阻止不安全飛機起飛一樣。
阿莫迪在其個人部落格上發表的最新文章中表示，有必要對前沿AI系統進行強制性的第三方審計，並建議政府在發現不可接受的風險時有權關閉相關系統。與此同時，他呼籲政府為那些因AI崛起而遭受經濟損失的群體提供更多經濟支持。
阿莫迪提出的AI安全方案比大多數人的建議更為激進，甚至超越了美國總統唐納·川普上周發布的行政令。該行政令要求情報機構參與對新模型的風險測試。阿莫迪建議，政府應根據模型訓練過程所投入的計算資源規模對其進行審計。他提出設立一個"算力門檻"，一旦某個新模型超過這一特定算力水平，在公開發布之前將自動觸發對其能力的獨立調查。
這篇文章確定了需要評估的四個具體風險類別：網路安全漏洞、生物武器能力、加速危險領域自動化研究的潛力，以及模型超出人類控制範圍的可能性。一旦審計人員認定某模型在上述任一領域存在不可接受的風險，阿莫迪希望政府能夠阻止其部署。
阿莫迪表示，現有的航空、汽車和藥品監管框架應成為AI監管的參考模型。他寫道："我認為，至少在當前這個指數級發展階段，最恰當的類比對象是汽車、飛機或藥品——這些都是現代經濟不可或缺的強大技術，但若設計或操作不當，也可能造成大量人員傷亡。"
阿莫迪提出的框架遠比川普6月2日發布的行政令更為深遠。總統的行政令僅鼓勵AI企業在公開發布前一個月自願與政府審計人員共享模型，並強調情報界應參與測試新模型的網路安全漏洞，但並未強制執行任何規定，也未引入強制性測試機制。
Anthropic的首席執行官措辭則更為強硬，文中沒有提及"自願"二字，要求的不是合作，而是合規。川普的行政令依賴情報機構，而阿莫迪則要求賦予獨立審計機構實質性的否決權。
Anthropic長期以來一直推動對AI實施更嚴格的管控。早在2023年9月，該公司就發布了《負責任擴展政策》，此後多次更新，引入了AI安全等級（ASL）等概念，構建了一套隨AI模型能力提升而分級管理風險的框架體系。該公司還表態支持其他相關立法，例如加利福尼亞州的SB 53法案。
除安全問題外，阿莫迪還警告稱，AI的興起對勞動力市場造成的衝擊可能遠比以往的技術革新更為深遠，持續時間也可能更長。他寫道："在這樣的世界裡，核心挑戰不是如何激勵增長，而是如何讓所有人都能共享發展紅利。"
阿莫迪表示，他長期以來一直對AI取代就業發出警告，並非出於"末日預言者"的心態，而是希望"政策制定者和私營部門能夠擁有最充分的機會來適應並做出回應"。
他在文章中呼籲政府收集更多數據以追蹤AI導致的就業流失情況，並出台有利於促進就業的激勵措施，以幫助減緩這一趨勢。他還希望政府研究"全民基本收入"等機制，以應對就業流失持續加劇、勞動力需求長期下降的局面。他補充稱，相關資金可通過對"相關企業"徵稅或提高資本利得稅來籌集。
Q&A
Q1：阿莫迪提出的AI安全審計框架具體包含哪些內容？
A：阿莫迪建議設立"算力門檻"，一旦新模型的訓練算力超過該閾值，就會自動觸發獨立調查。審計重點涵蓋四大風險類別：網路安全漏洞、生物武器能力、加速危險領域自動化研究的潛力，以及模型超出人類控制的風險。若審計認定存在不可接受的風險，政府有權阻止該模型公開部署。
Q2：阿莫迪的方案與川普AI行政令有什麼區別？
A：兩者存在明顯差異。川普的行政令鼓勵AI企業在發布前自願共享模型，側重情報機構參與測試，且無強制執行機制。而阿莫迪的方案不設"自願"選項，要求強制合規，並主張賦予獨立審計機構實質性否決權，整體力度遠超行政令。
Q3：阿莫迪對AI衝擊就業問題有哪些政策建議？
A：阿莫迪呼籲政府收集更多數據以追蹤AI導致的就業流失情況，並推出促進就業的激勵措施。若就業流失持續加劇，他還建議探索"全民基本收入"機制，資金來源可考慮對AI相關企業徵稅或提高資本利得稅。
