AI威脅論一直都爭論不休，日前美國國務院委託眾多行業領袖高層編寫了一份新報告，警告 AI 正呈指數級發展，可能會對人類構成「滅絕級威脅」。
這份報告全稱為《提高先進人工智慧安全保障的行動計劃》，要求美國政府必須迅速、果斷地採取行動，以避免 AI 帶來的重大國家安全風險。報告接著說，如果不實施這些阻礙措施，人工智慧或人工通用智能（AGI）就有可能成為「對人類物種的滅絕級威脅」。
這份報告由 200 多名來自 OpenAI、Meta、谷歌、谷歌 DeepMind 等人工智慧領域大公司的高管，以及政府工作人員參與，建議美國政府限制和監管 AI 的發展，並要求 AI 公司訓練任意新的 AI 模型時都需要提交申請。
報告中還建議美國政府立法，宣布開源重要 AI 模型定為非法，認為這些模型中的資訊可能會導致「對全球安全具有潛在破壞性的後果」。
