華碩宣布，推出UGen300 USB AI加速器
。這是華碩推出的首款人工智慧USB設備，可以將AI推理直接帶到任何設備上。
UGen300 USB AI加速器的整體尺寸為105 x 50 x 18 mm，非常地小巧，配備了Hailo-10H晶片，可提供40 TOPS的AI算力，支持LLM和VLM等大型語言模型，加上與TensorFlow、PyTorch和ONNX等主要AI框架的廣泛兼容性，具備典型出廠即用功能。其內置了8GB的專用LPDDR4內存，通過USB 3.1 Gen2 Type-C接口與其他設備連接，在典型工作負載下僅消耗2.5W的電力。
由於採用了便捷的即插即用設計，確保了與Windows、Linux和Android的跨平台兼容性，適配很好地補充了主機CPU和NPU的計算需求，為AI加速，從而釋放系統資源，使設備端生成式AI推理無需依賴雲計算。通過運行諸如文本生成、影片摘要、事件觸發、語音到行動、以及實時感知等對性能要求較高的通用AI應用，從而能夠在邊緣實現高效、高性能的AI。
華碩表示，UGen300 USB AI加速器由一個精簡的生態系統支持，旨在加快AI開發進程。即將推出的UGen通用工具將允許用戶通過使用超過100個預訓練模型進行快速驗證，從而實現輕鬆起步。用戶還可以選擇連接到Hailo開發者社區，實現更快地構建和部署。
