宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

與ChatGPT交鋒?Meta推Llama 3,號稱「最強開源大模型」

2024年04月19日 首頁 » 熱門科技

Meta發布最新開源模型Llama 3,號稱「有史以來最強大的開源大模型」。在Llama 3發布後沒多久,就破紀錄地登頂了全球開源AI社區Hugging Face排行榜,還使Meta股價在大盤小跌的情況下上漲了1.54%,影響力可見一斑。

與ChatGPT交鋒?Meta推Llama 3,號稱「最強開源大模型」

據了解,此次Meta推出的Llama 3模型共有8B和70B兩個版本,大版本的Llama 3將有超過4000億參數,相比上一代有顯著提升。Meta的CEO馬克·祖克柏表示,「根據我們目前看到的基準測試結果,Llama 3無疑是市場上目前免費提供的同類產品中最智能、性能最出色的大模型。」

官方介紹,Llama 3在兩個定製的24K GPU集群上基於超過15T的數據新型了訓練,這比Llama 2使用的數據集大7倍,代碼也多出4倍,支持的8K上下文長度也是Llama 2容量的兩倍。 

與ChatGPT交鋒?Meta推Llama 3,號稱「最強開源大模型」

Llama 3與競爭對手的對比

Meta還在Llama 3的開發中採用了多種創新技術,包括數據並行化、模型並行化和管道並行化,極大提高了訓練效率。同時,Meta也高度重視模型的安全性,推出了包括Llama Guard 2、Code Shield和CyberSec Eval 2在內的新版信任和安全工具,確保模型不會輸出有害內容。

Meta還計劃在未來幾個月陸續推出更多功能豐富的Llama 3模型,包括支持多語種的版本,Llama 3將會被深度整合到Meta主要平台的搜索功能中,包括Facebook、Instagram、WhatsApp和Messenger等,升級後的Meta AI還將能夠直接對鏈接內容進行簡單總結。

此外,Meta選擇以開源的方式發布Llama 3,意味著全球開發者都可以免費使用並改進這一模型。不過作為對比的是,百度創始人李彥宏也在近期表示,開源模型將會越來越落後,「大家以前用開源覺得開源便宜,其實在大模型場景下,開源是最貴的。所以開源模型會越來越落後。」

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新