Meta在這兩周可謂風生水起。上周,就在Twitter被馬斯克搞得雞飛狗跳時,Meta突然宣布上線Threads,並以驚人的速度獲取上億用戶。在本周,眼看Threads逐漸「退燒」,Meta又與微軟在AI領域強強聯合,發布最新的大語言模型Llama 2,並且把它開源放到微軟Azure,讓更多企業與研究人員免費使用。
在微軟Inspire 2023活動當天,Meta宣布Llama 2的重大規劃,並稱微軟是Meta在Llama 2和未來拓展生成式AI成果的首選合作夥伴,微軟CEO納德拉也在大會上同步公開了這一消息。
Llama 2是Meta今年2月發布的LLaMA 1的疊代,後者提供各種規模的版本,包括70億、130億、330億、650億個參數等版本,通過大量未標註的數據訓練,用戶可以結合不同的需求進行微調。當時,這個初代版本只提供人工智慧研究人員使用。
即便是這樣,LLaMA 1在當時已經深受研究人員的歡迎,Meta共收到10萬個針對LLaMA 1的存取請求。如今的Llama 2更將用途擴展到商業使用,並且免費提供,開源內容包括預訓練模型和經過調校模型的權重與起始訓練代碼,Llama 2模型有70億、130億和700億個參數三個版本。
Llama 2用於訓練的數據比LLaMA 1多出40%,Llama 2預訓練模型總共使用2兆token,上下文長度(Context Length)也是LLaMA 1的兩倍,這意味著模型能夠讀取和生成更長的文字內容,能夠讓模型更好地理解複雜的對白。
值得注意的是,經調校模型Llama 2-Chat,運用人類回饋增強學習(Reinforcement Learning from Human Feedback,RLHF)的方式,讓AI模型在人類的指導下學習,結合了人類的智慧與機器的高效學習能力,已經具備與ChatGPT相當的可用程度。
經過這樣一番折騰,結果居然只是與「ChatGPT相當」?其實Llama 2-Chat還有一大優勢——它使用了Llama 2的授權方式,也就是說,你可以免費將它用於學術和商業目的。
目前我們在商用大模型上的選擇十分有限,有的甚至使用OpenAI API產生的指令數據集訓練而成,但OpenAI明令禁止用戶將其用於其他語言模型的開發。Meta的這一系列舉動,最直接的好處便是讓企業開發人工智慧應用的成本大幅降低,想必也會給OpenAI的商業模式帶來影響。
開源只為更快的追趕
祖克柏在自己的Facebook帳號上表示,如果生態體系可以更加開放,我們就能解鎖更多進展。這麼看,Meta似乎就是「救世主」一樣的存在了,但考慮到這家公司以往的行事風格,難免還是會產生懷疑,Meta開源Llama 2真算得上善舉嗎?
這就要結合當前的環境來看了,目前較為知名的商用AI模型主要來自OpenAI、Google等科技企業,它們設置了嚴格的訪問限制,儘管官方總是以「數據安全」為由為自己開脫,但這種做法依然被批評為反競爭,同時也給外界深入了解人工智慧設置了障礙。與之相對的,Meta全球事務總裁Nick Clegg在接受《金融時報》採訪時曾表示,開放是解除人工智慧恐懼的良藥。
Clegg說得沒錯,實際上,開源在很多時候都是一種雙贏的模式,用戶和不同規模的公司都可以自由使用、修改代碼;對於Meta來說,更多人一起參與,也能快速找出潛在隱患,提升發展速度,最重要的是,能夠加快Meta追趕競爭對手的步伐。
相比OpenAI和Google,Meta已經算是起步比較晚的了,想要超越它們,開源也許是一條捷徑。
儘管號稱開源,Meta卻還是給自己留了條後路。有用戶發現,Llama 2也存在一些限制:在使用規範上,Meta要求用戶不能用Llama 2的代碼去訓練其他大預言模型,月活躍用戶超過7億的還需要得到「特別授權」。此外,Meta並沒有公開Llama模型本身的訓練方法,只是公開了範例模型的代碼,並非完全透明。
不過這些限制對於普通開發者和小型企業來說,通常不會構成多大影響,所以Meta更多的目的應該還是為了防止Google、AWS這樣的巨頭獲取太多資訊。Hugging Face的研究科學家Nathan Lambert在接受Fortune採訪時也強調,儘管Llama 2並非完全開源,但以目前的環境來看,這已經算是更加開放的大模型了。
市場格局將被誰改變
OpenAI在上半年風頭無兩,而更加開放的Llama 2能否成為它的強勁對手呢?在討論這個問題之前,我們不得不留意一個尷尬的事實:微軟曾向OpenAI投資數十億美元,如今又與Meta合作推出Llama 2,這行為無異於挖坑給自己跳。
其實換個角度看,這也說明了微軟並不想把雞蛋放進同一個籃子裡,一邊與OpenAI合作研發閉源產品,一邊和Meta聯手發力開源,可謂左右逢源了。但是兩者的產品依然屬於同一領域,並且可以看到各自的長處和短板,《金融時報》也在一篇文章中指出,Meta的目標就是削弱OpenAI的領先優勢。
不過在Meta真正讓OpenAI的主導地位遭受打擊之前,另一家科技巨頭似乎也坐不住了,它就是蘋果。Mark Gurman表示,蘋果已經在內部啟動一個能「與ChatGPT媲美」的人工智慧項目,雖然目前還沒有更具體的資訊透露出來,但也能看出它已經蠢蠢欲動。如今各大科技巨頭幾乎都參與到這場競爭,Meta的免費商用模式顯然具有很強的吸引力,接下來OpenAI的地位會不會被動搖?誰又能夠率先超越OpenAI?我們就拭目以待吧。