宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

‌全球最小AI超算誕生:300克掌中設備可運行千億參數

2025年12月11日 首頁 » 遊戲速遞

科技媒體Wccftech報道,初創公司Tiiny AI近日發布了號稱全球最小的AI超級電腦——Tiiny AI Pocket Lab。這款設備僅重300克,尺寸如手掌大小(14.2 × 8 × 2.53厘米),卻搭載了ARMv9.2 12核CPU、80GB LPDDR5X內存和1TB SSD存儲,AI算力高達190 TOPS。

‌全球最小AI超算誕生300克掌中設備可運行千億參數

其最大亮點在於能成功部署並本地運行1200億(120B)參數的大語言模型(LLM),支持「博士級推理、多步驟分析和深度上下文理解」任務。這得益於其兩項核心技術:TurboSparse(神經元級稀疏激活技術)和PowerInfer(開源異構推理引擎),它們顯著提升了推理效率。

‌全球最小AI超算誕生300克掌中設備可運行千億參數

該設備支持一鍵部署GPT-OSS、Llama、Qwen等數十種主流開源模型,完全離線操作,功耗控制出色(TDP 30W)。Tiiny AI計劃在CES 2026上正式展示這款產品。

‌全球最小AI超算誕生300克掌中設備可運行千億參數

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新