科技媒體Wccftech報道,初創公司Tiiny AI近日發布了號稱全球最小的AI超級電腦——Tiiny AI Pocket Lab。這款設備僅重300克,尺寸如手掌大小(14.2 × 8 × 2.53厘米),卻搭載了ARMv9.2 12核CPU、80GB LPDDR5X內存和1TB SSD存儲,AI算力高達190 TOPS。

其最大亮點在於能成功部署並本地運行1200億(120B)參數的大語言模型(LLM),支持「博士級推理、多步驟分析和深度上下文理解」任務。這得益於其兩項核心技術:TurboSparse(神經元級稀疏激活技術)和PowerInfer(開源異構推理引擎),它們顯著提升了推理效率。

該設備支持一鍵部署GPT-OSS、Llama、Qwen等數十種主流開源模型,完全離線操作,功耗控制出色(TDP 30W)。Tiiny AI計劃在CES 2026上正式展示這款產品。







