本周三，美國人工智慧（AI）領域的四位領導者集團宣布成立一個行業論壇組織，該論壇將致力於解決AI技術尖端版本可能帶來的風險，確保使用過程安全。
Anthropic、谷歌、微軟和ChatGPT製造商Open AI表示，新成立的前沿模型論壇組織將利用其成員的專業知識，最大限度地支持行業標準，並在實際活動中降低人工智慧風險。
幾家公司承諾，他們將與彼此、立法者和研究人員分享最佳實踐方法與途徑。
「前沿」模型是指新興的大規模機器學習平台，過往的事實表明，它能夠將人工智慧提升到新的複雜水平，並且還具有可能一定的安全風險。
微軟總裁布萊德·史密斯在一份聲明中表示：「創造人工智慧技術的公司有責任確保其安全、可靠並處於人類控制之下。」
「這一舉措是將科技行業的領導者們聚集在一起，負責任地推進人工智慧並應對挑戰，使其造福全人類的重要一步。」
美國總統喬·拜登上周在白宮與科技領導人舉行的會議上提到了人工智慧的「巨大」風險和承諾，這些領導人承諾隨著該行業的發展，防範從網路攻擊到欺詐等各種威脅。
拜登與亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和Open AI的高層代表並肩表示，隨著人工智慧越來越深入地滲透到個人和商業生活中，這些公司已承諾「引導負責任的創新」。
在會議之前，七家人工智慧巨頭承諾採取一系列自我監管的保障措施，白宮稱這些保障措施將「強調人工智慧未來的三大原則：安全、保障和信任」。
在承諾中，其中兩家公司同意開發「強大的技術機制」，例如水印系統，以確保用戶知道內容何時來自人工智慧而不是人類。
另有參與公司在一份新聞稿中表示，前沿模型論壇的核心目標，包括最大限度地降低風險並實現對人工智慧平台的獨立安全評估。
據其創建者稱，該論壇還將支持開發旨在應對氣候變化、癌症預防和網路威脅等挑戰的應用程序。
其他追求人工智慧突破的個人和組織企業也被邀請加入該論壇。Open AI全球事務副總裁Anna Makanju表示：「先進的人工智慧技術具有給社會帶來深遠影響的潛力，而實現這一潛力的能力需要監督和治理。」
「至關重要的是，人工智慧公司——尤其是那些致力於最強大模型的公司——必須在共同點上保持一致，並推進深思熟慮且適應性強的安全實踐。」
根據可靠消息，此次合作是在上周白宮與同某公司及亞馬遜、Meta舉行會議之後達成的，會議討論了如何保障未來人工智慧的安全和透明的發展。
超過九成的IT領導者表示，生成式人工智慧將很快成為業界主流
這個名為「前沿模型論壇」的監管組織指出，雖然世界各地的一些政府正在採取措施確保人工智慧的安全，但這些措施還不夠。相反，能否真正確保人工智慧的安全，將取決於科技公司本身。
在谷歌網站上的一篇科技博客文章中，詳細列出了該論壇四個主要目標：
改進人工智慧安全研究，最大限度降低未來風險
確定負責任地開發和部署未來模型的最佳實踐
與政策制定者、學者和其他人合作，分享有關人工智慧安全風險的知識
支持人工智慧在解決氣候變化和癌症檢測等人類最大問題方面的發展
Open AI的一位代表補充說，雖然該組織論壇將與政策制定者合作，但並不會參與政府遊說。且該論壇的會員資格，對滿足以下三個標準的任何公司開放：能夠開發和部署前沿模型、表現出對前沿模型安全的堅定承諾，以及願意參與與其他成員的聯合倡議。
什麼是「前沿模型」？該論壇將其定義為「任何超越當前能力並具有廣泛能力的大規模機器學習模型」。
人工智慧有潛力實現工作日平均40%的自動化
該論壇表示，雖然人工智慧具有改變世界的潛力，但「需要適當的護欄來降低風險。」Open AI全球事務副總裁Anna Makanju發表聲明：「至關重要的是，人工智慧公司，尤其是那些致力於開發和使用最強大模型的公司，必須在這些觀點上保持一致。這是一項緊迫的工作。而這個論壇的定位很好。應當迅速採取行動，提高人工智慧安全水平。」
微軟總裁布萊德·史密斯（Brad Smith）也表達了同樣的觀點，他表示，這些適度的安全防護應當最終取決於開發人工智慧技術的公司，其有責任確保人工智慧的安全，並將風險降低在人類控制之下。
在人工智慧技術飛速發展的web3時代，技術邊界不斷模糊著人類對於資訊安全，數據安全甚至是倫理安全的界限。正如幾家目前正致力於成立和發展該論壇的倡導者所言，創造出跨時代科技的公司和組織，有責任與義務對其技術進行規範和「限制」，這並非是簡單純粹的商業問題和技術問題，而是能夠影響整個人類社會與科技文明長遠發展的重中之重。
