美國政府近期發布一項新的AI法規，也讓世界再次把目光放到AI的安全疑慮問題上。
對於開發大模型的公司來說，這項法規要求它們向政府提供更多資訊，而這可能會減慢新產品和更新的發布速度。這項法規中的許多規定涉及尚未上市的大型基礎模型和AI系統的未來發展，這就意味著像ChatGPT這種面向消費者的工具不太可能受到多大影響。
這項法規公布後，多家AI公司和行業領導人也發表了他們對AI監管的看法。其中，15家AI公司作出相應的承諾，但AI領域的最大玩家OpenAI卻顯得異常沉默。其他大型公司如Adobe、亞馬遜、谷歌、微軟等也表示支持該法規。
於是便有指責聲音稱OpenAI和其他大型AI企業試圖通過遊說，對AI行業實施「監管捕獲」。超過70位AI領導者還發表了一份聯合聲明，呼籲對AI監管採取更透明的方法。一場圍繞AI監管的口水戰也就此展開。
前NSA黑客、IANS Research的教員 Jake Williams 表示：「我不認為我們可能會看到對消費者可用的生成式AI工具的任何直接變化。」
Meta首席AI科學家Yann LeCun在X上指責OpenAI、Anthropic和Google子公司DeepMind利用恐懼宣傳來確保有利的結果。
Sam Altman則表示，雖然這項規定中有一些好的部分，但政府在實施時不應拖慢小公司或研究團隊的創新速度。他表示支持對「前沿系統」或大型基礎模型進行規範，但是反對「監管俘獲」。
其實，AI可能造成的問題早已受到國際社會的廣泛關注。早在今年10月，聯合國就成立了一個高級別人工智慧諮詢機構，專門針對AI技術帶來的風險和機遇進行探討，同時為國際社會加強治理提供支持。中國科學院自動化研究所研究員曾毅與中國政法大學數據法治研究院教授張凌寒成為我國在該機構的代表。
本月初，英國政府主辦的人工智慧安全峰會（AI Safety Summit）上，美國、中國、歐盟等28個國家的代表和企業簽署了《布萊切利人工智慧安全宣言》，這份宣言重申了「以人為中心、可信任的和負責任的」（human-centric, trustworthy and responsible）AI發展模式，呼籲國際社會的合作，並強調AI的實施以保障人權和實現聯合國可持續發展目標為目的。
曾毅在峰會的發言中表示，雖然先進人工智慧有可能通過解決當前健康、教育、環境、科學等領域的未解挑戰，但創造這些好處的人工智慧系統，本身的屬性也成了巨大的風險來源。當規模更大、不確定性更大的模型向所有人開放時，誤用、濫用問題將不僅是人工智慧科學家面臨的挑戰，也是全世界面臨的挑戰。他還提出，我們需要建立一個涵蓋全世界的人工智慧安全網路，以解決不可預知的進展和失敗。
國際社會、科技巨頭和AI公司對AI技術都表現出一種謹慎的態度，但是在另一邊，華爾街的人工智慧軍備競賽仍在升溫。先鋒集團（Vanguard）已經在使用人工智慧生成退休投資組合；摩根史坦利已經推出了由ChatGPT驅動的金融顧問助手，稱生成式AI會「革命性地改變客戶互動」；摩根大通為名為「IndexGPT」的產品申請了專利，以幫助交易員決定投資方向……華爾街似乎一直難掩對AI的喜愛。
摩根大通首席執行官Jamie Dimon表示，他相信這項技術在未來將非常重要，並在今年4月份致股東的一封信中稱：「AI和為其提供動力的原始材料——數據，將對我們公司的未來成功至關重要。」根據他們公司2月份的一項調查，他的同行也有同樣的感覺，調查顯示，有一半的機構交易員相信，在接下來的三年中，AI將是華爾街最具影響力的技術。
高盛資訊科技總監Marco Argenti表示，人工智慧「可能是我見過的最巨大的革命之一， 我們相信，人工智慧不僅可以深刻顛覆我們的行業，而且可以顛覆所有數碼、所有資訊科技和知識行業。」
AI已經滲透到銀行的「每一個角落和縫隙」，包括法律、交易、貸款、索賠甚至電子郵件管理，倫敦Evident公司的經濟學家Alexandra Mousavizadeh表示，華爾街——尤其是大型美國銀行——在AI方面表現出「巨大的熱情」和「毫不猶豫」，這導致他們急於聘請具有AI技術經驗的人員。她聲稱：「如今銀行的每一項工作都受到AI的影響。」
Giuseppe Sette是前對沖基金經理，現在是Toggle AI的總裁，該組織試圖訓練大型語言模型來處理財務問題。他說，將指揮權交給一個人工智慧系統只是時間問題：「由於便利和效率的法則，總有一天我們會給予這些系統權限。」
不過金融監管部門就沒那麼樂觀了，華爾街對AI的狂熱引起了SEC主席Gary Gensler的注意，他在接受《金融時報》的一次採訪中表達了對人工智慧融入金融服務行業的擔憂。Gensler認為，這一被大肆宣傳的技術在未來十年內導致金融危機的可能性「幾乎是不可避免的」。
Gensler擔心的是，大量的金融機構會開始圍繞「相同的基礎模型或基礎數據聚合器」重新設計其策略，他擔心這可能導致華爾街出現從眾心態，進而造成危險的後果。Gensler表示，這對監管部門來說將是一個「艱難的金融穩定問題」，因為基礎模型可能不是基於金融公司，而是基於「大型技術公司」，從而導致整個行業出現「橫向問題」。
不過一些研究人員和金融AI領域的人員表示，雖然Gensler的擔憂有道理，但可能過於誇張。哈佛商學院的Robin Greenwood教授表示，研究表明，金融危機的「根本原因」「通常」是信貸泡沫，而不是技術創新。但他也認同，AI的確也有可能在未來成為「潛在的觸發因素」。
歐洲大學學院的金融穩定教授和佛羅倫薩銀行和金融研究所的資深研究員Thorsten Beck也同意這一觀點，他說：「儘管信貸泡沫可能是金融危機的主要原因，但其他因素也可能是危機的觸發因素。從這個角度看，Gary Gensler的擔憂不無道理。」
科技大佬、金融機構和監管部門這場圍繞AI監管的口水戰仍在持續的當下，已經有公司打算採取行動了。也許是為了規避新規的影響，這家名為「Del Complex」的公司做出一項另類的舉動——把一堆用來訓練AI的硬體設備放在公海的駁船上。
Del Complex自稱為一家專注AI研究的公司，於周一在X上宣布推出「BlueSea Frontier Compute Cluster」（或稱BSFCC）。據稱，BSFCC是一艘載有10000台Nvidia H100 GPU的太陽能駁船，這些GPU專為AI訓練設計，每台售價30000美元。Del Complex認為，新的AI法規和歐盟的AI法案「旨在在安全的幌子下集中控制」，所以它決定把這些用來訓練AI的硬體放在國際水域。
Del Complex在發布的內容中附帶了一幅很逼真的BSFCC照片，還包括駁船的圖表。隨後的推文詳細描述了BSFCC的假設特點。這篇內容迅速走紅，很快獲得了超過200萬次的瀏覽。回復顯示許多人完全相信這一消息，其中包括對該計劃的批評和質疑。
然而有一個明顯的問題——Del Complex不是一個真正的AI公司，其駁船同樣是假的。
Del Complex將自己描述為一個「另類現實公司」（An Alternate Reality Corporation）。其網站上的一些圖像看起來是AI生成的，包括混亂的文本和奇怪的臉部特徵。一張圖片展示了兩名身著防護服的女子，用巨大的勺子吃著看起來像湯和沙拉混合的東西。
不過在被問到有關BSFCC的問題時，自稱Del Complex研究員的開發者Sterling Crispin卻也說得頭頭是道。Crispin表示，BSFCC符合他們的總體使命，並聲稱已經在LinkedIn上招聘員工，而且已經收到30個應聘申請。
Crispin表示：「最近的法規，主要問題之一，是它們過於關注訓練層和硬體，而不是應用層。今天的超級電腦就是明天的懷表，而政策往往落後於時代，而不是領先於時代。」
結合Crispin表達的觀點，還有網站上如此明顯的AI生成痕跡，Del Complex和它頗具諷刺意味的BSFCC更像是一種行為藝術，似乎是在以這樣的形式來告訴人們警惕AI的風險。
儘管有這些針對AI潛在風險的顧慮，但技術發展與監管之間的平衡問題，一直以來都沒有一個確切的答案。在金融界，由AI引發的「腥風血雨」，早在ChatGPT尚未問世的2017年就已經出現了。根據Coalition在2017年公布的調研數據，自2012年起，華爾街累計削減崗位達12700個，已經是連續第5年減聘。當時就還有諸如「10年內股市AI斗AI」、「華爾街精英更該擔心AI搶走飯碗」這類說法。
多年以後的今天，金融監管機構對AI風險的擔憂，則更聚焦在可能引發金融危機的層面上。儘管存在諸多疑慮，一些研究者依然認為，AI和機器學習是未來的方向，而且這會是一場沒有終點的競賽，只要有新的技術和數據，它就會持續下去。
