人工智慧領域的佼佼者 OpenAI 於美國當地時間周二在其博客上宣布，他們正在組建一個名為「集體對齊」（Collective Alignment）的全新團隊。
這個團隊主要由研究人員和工程師構成，將專注於設計和實施收集公眾意見的流程，以幫助訓練和塑造其人工智慧模型的行為，從而解決潛在的偏見和其他問題。
OpenAI 在博客中闡述道：「我們的目標是打造一個系統，它能夠收集和『編碼』公眾對我們模型行為的看法，並將這些寶貴的見解融入我們的產品和服務中。這樣一來，我們未來的人工智慧模型就能更好地『與人類價值觀保持一致』。」
為了實現這一目標，OpenAI 正積極招募來自不同技術背景的研究工程師加入這個新團隊。他們表示：「我們將與外部顧問和其他團隊緊密合作，包括開展試點工作，將原型整合到我們的模型中。我們需要來自不同領域的專家，共同助力這項工作的推進。」
這個「集體對齊」團隊其實是 OpenAI 去年 5 月啟動的公共項目的一個延伸。該項目旨在資助建立一個「民主程序」的實驗，以確定人工智慧系統應遵循的規則。OpenAI 曾明確表示，該計劃旨在資助個人、團隊和組織開發概念驗證，以回答有關人工智慧護欄和治理的問題。
研究工程師、OpenAI 新團隊創始成員泰納・埃倫杜（Tyna Eloundou）強調：「隨著我們不斷追求超級智能模型的發展，這些模型將逐漸成為我們社會不可或缺的一部分。因此，讓人們有機會直接提供意見至關重要。」
例如，為了確保只有人類才能參與投票和提供意見，OpenAI 還考慮與 Worldcoin 進行合作。Worldcoin 是 OpenAI 首席執行官山姆・阿爾特曼（Sam Altman）創建的一個加密貨幣項目，它提供了一種有效區分人類和人工智慧機器人的方法。
儘管 OpenAI 試圖將該項目描述為與其商業利益無關，但考慮到其首席執行官阿爾特曼對歐盟人工智慧監管的批評態度，這一說法似乎有些難以令人信服。
阿爾特曼以及 OpenAI 總裁格雷格・布羅克曼（Greg Brockman）和首席科學家伊利亞・蘇茨凱弗（Ilya Sutskever）一再強調，人工智慧的創新速度非常快，以至於我們無法指望現有的權威機構能夠充分控制這項技術。因此，他們提出了將這項工作眾包的解決方案。
