OpenAI在周一發布的一篇部落格文章中呼籲建立國際人工智慧安全與保障標準，並加強對該技術負責任發展的研究，此前業界對AI可能超越現有安全框架的擔憂日益加劇。
OpenAI表示，應對AI發展下一階段的挑戰需要"讓對齊研究跟上AI能力的發展步伐，以確保我們以及其他機構構建的AI系統始終與人類價值觀保持一致，並處於人類的控制之下"。
此前一周，CEO山姆·阿特曼與Anthropic、微軟和SpaceX等公司的高管一同呼籲放緩前沿AI模型的開發速度。奧特曼與Anthropic CEO達里奧·阿莫代伊本周將向聯合國安理會做簡報。
在業界領袖和頂尖AI開發者日益擔憂該技術快速發展可能導致人類滅絕之際，OpenAI正呼籲制定更多安全要求。
OpenAI在部落格文章中表示，國際標準對該技術發展節奏的把控可能與研究同樣重要。這些標準有助於解決AI提供商面臨的挑戰，例如安全評估的碎片化，以及全球各地AI開發能力的不均衡。
OpenAI表示，加強數位安全防護、推進對齊研究，以及幫助人們理解和引導AI發展的下一階段同樣至關重要。
部落格文章寫道："隨著AI系統變得越來越強大和自主，包括它們承擔更多AI研發工作本身，這一點變得愈發重要。"
OpenAI表示，諸如AI標準與創新中心等機構以及各州法律有助於使研究工作標準化。該公司還表示，聯邦AI框架以及某種形式的公私合作夥伴關係也會有所幫助。今年6月，川普總統簽署了一項行政命令，要求AI提供商自願接受其模型審查，但目前尚不存在官方聯邦框架。
部落格文章指出，國際社會在評估標準、報告要求和事故定義方面的努力，有助於研究人員比較證據、理解新興能力，並在全球層面應對風險。
部落格寫道："AI的開發和部署正在多個國家同時進行，採用趨勢正在全球蔓延，其影響很可能會在某個時間節點以某種方式波及每一個人。"
儘管呼籲放緩AI發展，OpenAI仍於周二發布了GPT-6 Sol和DPT-6 Luna，前者是一款更便宜的模型，後者則專注於提升專業工作能力。
諮詢與IT服務公司Columbus Global US數據與AI高級銷售總監CJ Combs在給CIO Dive的郵件中表示，面對全球AI研究節奏放緩的呼聲，企業CIO對組織內部事務的掌控力其實比他們意識到的要大。
Combs表示："這種呼籲通常被表述為讓實驗室暫停開發，直到模型變得更安全。但真正重要的暫停發生在企業內部，這是一種為了構建而暫停，而非為了等待而暫停。"
Combs指出，許多組織在部署AI時缺乏適當的基礎——數據不乾淨、治理不成熟、且沒有明確的責任歸屬。他補充道，當他們的智能體做出無法解釋的行為時，他們便會感到驚訝。
Combs表示，放慢腳步來修複數據、明確當智能體的行為涉及人力資源、財務、IT或安全等多個領域時由誰負責監督，以及設定價值目標，這些都是CIO掌控組織內部安全與保障標準的方式。
他表示，OpenAI呼籲制定標準是一個積極信號，但這更多體現的是AI提供商計劃如何行事，而非科技領導者應如何在組織內部構建AI應用模式。提供商無法看到某個組織的數據、審批鏈條，或者智能體究竟與哪個系統進行了交互。
Combs表示："兩者可以並存。全球標準值得建立，但CIO仍然不能將責任外包給這些標準。應將任何外部標準視為底線，並設定更高的自身標準。"
Q&A
Q1：OpenAI為什麼呼籲建立國際AI安全標準？
A：因為業界對AI可能超越現有安全框架的擔憂日益加劇，業界領袖和頂尖AI開發者擔心該技術快速發展可能導致人類滅絕，因此OpenAI認為需要國際標準來解決安全評估碎片化、全球AI開發能力不均衡等挑戰。
Q2：企業CIO應該如何應對AI安全問題？
A：CIO應放慢腳步修複數據基礎、明確當智能體行為涉及人力資源、財務、IT或安全等領域時由誰負責監督，並設定價值目標。同時應將外部標準視為底線，設定更高的自身標準，不能將責任完全外包給全球標準。
Q3：OpenAI在呼籲放緩AI發展的同時還發布了新模型嗎？
A：是的，儘管OpenAI呼籲放緩AI發展速度，但該公司仍於周二發布了GPT-6 Sol和DPT-6 Luna兩款新模型，前者是更便宜的版本，後者則專注於提升專業工作能力。
