OpenAI已解散一個專注於確保其AI系統"安全、可信賴且始終與人類價值觀保持一致"的團隊。與此同時，該團隊前負責人被任命為公司新設立的"首席未來學家"職位。
OpenAI向TechCrunch確認，該團隊成員現已被分配到其他崗位。這一消息最初由Platformer報道。
被解散的團隊似乎成立於2024年9月，是這家初創公司內部專門負責AI對齊工作的部門。AI對齊是業內一個廣泛關注的領域，旨在確保AI按照人類利益行事。
OpenAI對齊研究部落格的一篇文章寫道："我們希望這些系統在複雜的現實場景和對抗性條件下始終遵循人類意圖，避免災難性行為，並保持可控、可審計且與人類價值觀一致。"
OpenAI發布的對齊團隊招聘資訊顯示，該團隊專注於AI研究，致力於"開發能夠讓AI在各種場景下穩健地遵循人類意圖的方法論，包括對抗性或高風險場景"。
在周三發布的部落格文章中，OpenAI對齊團隊前負責人Josh Achiam解釋了他作為公司首席未來學家的新職責。Achiam寫道："我的目標是通過研究世界如何響應AI、AGI
及其後續發展的變化，來支持OpenAI的使命——確保通用人工智慧造福全人類。"
Achiam提到，在新職位中，他將與OpenAI技術團隊的物理學家Jason Pruet合作。
OpenAI發言人表示，對齊團隊的其餘成員——約六到七人——已被重新分配到公司不同部門。該發言人無法確切說明團隊成員的具體分配去向，但表示他們在新崗位上從事類似工作。目前也不清楚Achiam在"未來學家"職位中是否會擁有新團隊。
該發言人將團隊解散歸因於快速發展公司內部的常規重組。
OpenAI此前曾設立"超級對齊團隊"——成立於2023年，專注於研究AI帶來的長期存在威脅——但該團隊已在2024年解散。
Achiam的個人網站仍將他列為OpenAI任務對齊負責人，並描述他致力於確保"人類的長遠未來是美好的"。他的LinkedIn資料顯示，自2024年9月起擔任任務對齊負責人。
Q&A
Q1：OpenAI為什麼要解散任務對齊團隊？
A：OpenAI發言人將團隊解散歸因於快速發展公司內部的常規重組。該團隊專注於確保AI系統"安全、可信賴且始終與人類價值觀保持一致"，成員現已被重新分配到公司其他部門從事類似工作。
Q2：Josh Achiam的新職位首席未來學家主要做什麼？
A：作為首席未來學家，Josh Achiam的目標是通過研究世界如何響應AI、AGI及其後續發展的變化，來支持OpenAI確保通用人工智慧造福全人類的使命。他將與技術團隊的物理學家Jason Pruet合作。
Q3：OpenAI之前還解散過類似的團隊嗎？
A：是的，OpenAI此前曾設立"超級對齊團隊"，該團隊成立於2023年，專注於研究AI帶來的長期存在威脅，但已在2024年解散。現在解散的任務對齊團隊似乎成立於2024年9月。
