宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

DeepMind:GPT-5正在訓練中 比當前模型大100倍

2023年09月03日 首頁 » 熱門科技

DeepMind聯合創始人Suleyman表示,GPT-5仍在秘密訓練中,未來將會比現在的GPT-4大100倍。

其實,Open AI CEO Sam Altman此前曾否認訓練GPT-5的這一說法。有消息人士表示,OpenAI可能給它起了一個新名字,所以他們才說沒有訓練GPT-5。

 

DeepMind:GPT-5正在訓練中 比當前模型大100倍

 

Suleyman目前是Inflection AI的CEO,Inflection AI正在建造世界上最大的超級電腦之一,並且他認為在接下來的18個月內,他們可能會進行一次比製造GPT-4的語言模型訓練運行大10倍或100倍的訓練運行。

今年3月份GPT-4正式發布,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4實現了幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至2.5萬字;回答準確性顯著提高;能夠生成歌詞、創意文本,實現風格變化。

GPT-3.5有1750億參數規模,OpenAI沒有公布過GPT-4的具體規格,但之後的分析認為它擁有16個專家模型,每個MLP專家大約有1110億個參數,總計1.8萬億參數,是GPT-4的10倍規模。

GPT-5如果按照這個比例來提升,那要突破10萬億參數了,有可能成為最大規模的AI大模型,遠超其他所有對手。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新