英國議員希望設立一個監管機構,使其具備叫停危險AI模型的權力,而不是任由OpenAI和Anthropic這類公司自行決定模型是否已經越界。
在周三公開發布前與《The Register》分享的一份報告中,議會一個委員會呼籲制定《AI安全與安保法案》
,賦予監管機構在模型仍處於開發階段時進行干預的權力。
該機構可以叫停高風險的訓練與測試,阻止模型部署,或在風險無法得到控制時暫停AI服務。大語言模型基於數十億個習得參數進行訓練,因此開發者並不總能預測模型在所有情況下的行為表現。
這些建議來自英國議會商業、創新、科學與貿易委員會,該委員會此前曾質詢研究人員、前AI從業者,以及來自OpenAI、谷歌DeepMind、Anthropic和Meta的代表。
這四家公司均向議員保證,不會發布它們認為不安全的模型。問題在於,它們對"安全"的衡量標準並不一致,而英國法律通常也並未要求它們在發布任何產品前獲取獨立意見。
委員會主席連恩·伯恩議員表示:"我們不能給予當今的AI領軍者不受約束的自由,讓他們像現代版的弗蘭肯斯坦博士那樣,製造出超出任何人控制的危險。"
正如航空、製藥或核安全領域一樣,英國政府不希望僅僅依賴製造商自身的保證,而是希望建立監管體系。
伯恩補充道:"我們的聽證會暴露出獨立審查、事故報告以及叫停不安全系統的權力方面存在諸多漏洞。一些模型一旦發布,便無法被可靠地召回。保護工作必須在系統構建和測試階段就開始。"
該委員會發布的報告《增長的護欄:讓AI變得安全》指出了英國在AI安全方面存在的十處漏洞,包括缺乏強制性事故報告機制、獨立測試人員的訪問權限有限,以及對舉報人的保護不足。
英國目前已設有AI安全研究院(AISI),該機構因測試全球一些最強大的模型而小有名氣,但其工作依賴於企業的自願配合,並沒有權力阻止某家公司發布存在安全隱患的模型。
議員們希望AISI繼續開展測試工作,同時由另一個獨立監管機構承擔執法職責。被列為高風險系統的開發者將須提供證據支持其安全聲明,並允許獨立研究人員對其進行審查。模型能力或安全防護措施的重大變更將觸發進一步審查。
前AI從業者也向議員們透露,提出安全擔憂可能要付出代價。委員會在聽證中獲悉,限制性合同、商業壓力和經濟上的不利因素都可能令員工不敢發聲。議員們希望為舉報人提供更強有力的法律保護,並推行AI事故及未遂事件的強制報告制度。
這其中也涉及不小的經濟利益。委員會援引經合組織的生產率估算得出結論,AI在未來十年內有望為英國經濟帶來高達4000億英鎊的增長。委員會還看到了英國藉助獨立測試AI模型來創收的機遇,在AISI已積累的專業能力基礎上進一步發展。議員們認為,更強有力的安全保障措施可能會鼓勵企業——尤其是中小企業——採用這項技術。
伯恩表示:"必須要求AI公司為其安全聲明提供證據支持,獨立專家必須能夠對其進行審查,監管機構必須擁有在風險無法控制時進行干預的權力。對議會負責的部長們必須決定,應該讓公眾承擔哪些風險。"
議員們希望新法律能在下一個議會會期內正式生效,並表示英國應藉助其在2027年擔任二十國集團(G20)輪值主席國的機會,推動其他國家就AI測試、事故報告以及高風險模型發布等方面制定更嚴格的規則。
至於部長們是否願意賦予監管機構叫停AI開發的權力,則是另一回事。該委員會的建議不具有約束力,政府目前尚未承諾推動擬議立法的實施。






