人工智慧（AI）晶片大廠英偉達（NVIDIA）今天宣布推出4款全新NVIDIA NIM微服務，用於利用日本和台灣當地語言數據訓練的大型語言模型（LLM），讓開發人員更容易構建與部署高性能的生成式AI應用。
英偉達發布新聞稿說明，NIM微服務支持社交媒體常用的各種模型，並針對地區需求量身打造，可以按照當地語言和文化傳統，通過準確理解和改善的回應，強化與用戶的互動。
英偉達指出，使用日文數據訓練出的Llama-3-Swallow-70B，以及用中文數據訓練出的Llama-3-Taiwan-70B，都屬於區域語言模型，可以更深入了解當地法律、法規和其他習俗。
台灣的長庚紀念醫院目前正在構建該院專屬的AI推論服務（AIIS），以集中管理醫院體系內的所有LLM應用。長庚醫院使用Llama 3-Taiwan 70B，提供患者能夠理解、更細膩的醫療語言，提高第一線醫護人員的工作效率。
代工廠和碩將採用Llama 3-Taiwan 70B NIM微服務，開發供內部及外部使用的應用。和碩已將這款微服務與旗下PEGAAi Agentic AI系統進行集成，以達到流程自動化，提升製造與運營效率。
此外，石化產品製造商長春集團、印刷電路板公司欣興電子、科技媒體公司科技報橘、線上合約服務公司律果科技，以及生成式AI創業公司APMIC，也正在使用Llama-3-Taiwan 70B NIM。
（首圖來源：英偉達）
