SemiKong是由Aitomatic及其「AI聯盟」(AI Alliance)合作夥伴訓練而成的新型大型語言模型(LLM),為世界上第一個專為半導體業需求而設計的大型語言模型。該模型旨在成為半導體設計公司工作流程的一部分,充當數字專家,加速新晶片的研發和上市。
負責開發SemiKong的公司Aitomatic指出,半導體業迫切需要收集專家資訊,許多年邁的專家陸續退休加劇知識斷層,幾家公司正飽受專業知識嚴重不足之苦。針對產業需求量身打造的LLM有望成為新進工程師維持競爭力、快速獲得專業知識的可靠途徑。
基於Meta的Llama 3.1平台,SemiKong最近推出70B參數版本。該模型由Aitomatic與新AI聯盟成員共同開發,包括Meta、AMD和IBM等企業。其中,Aitomatic的DXA系統成為SemiKong部署的核心架構。
DXA(領域專家代理)將較小的LLM模型與SemiKong 70B的核心功能集成。通過對客戶公司技術庫及專家工程師提供的項目進行訓練,DXA可根據公司需求進行調整。經過訓練的DXA能進一步集成到核心SemiKong部署中,自動執行開發任務,或充當工程師與員工間的互動界面。
在目前70B版本中,加上基於SemiKong的小型DXA使用,LLM在半導體領域的應用價值已遠遠超越通用AI模型。SemiKong宣稱,該模型可將新晶片設計的上市時間縮短20%-30%,首次正確製造的分數提高20%。此外,該模型能加速新進工程師的學習曲線高達50%,這個說法也獲得Meta的支持。
SemiKong是新「AI聯盟」(AI Alliance)推出的首批合作成果之一,該聯盟於2023年12月成立,匯集IBM、AMD等科技巨頭及耶魯大學和東京大學等學術機構,目標是抗衡NVIDIA在人工智慧與科技產業的主導地位。
(首圖來源:SemiKong)