宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

英特爾CTO建議使用AI將CUDA代碼移植上自家晶片

2023年09月25日 首頁 » 熱門科技

Greg Lavender堅稱,這是為了突破英偉達方面的供應商鎖定。

身負一大堆專為英偉達CUDA平台編寫的遺留代碼?英特爾公司CTO Greg Lavender建議構建一套大語言模型(LLM),將這部分代碼轉換成可以在其他AI加速器上運行的模型,包括英特爾自己的Gaudi2或GPU Max硬體。

英特爾CTO建議使用AI將CUDA代碼移植上自家晶片

他在上周三的Innovation大會主題演講中打趣道,「我想向全體開發人員提出一個挑戰,就是使用大語言模型配合Copilot等技術來訓練機器學習模型,嘗試將所有CUDA代碼都轉換成SYCL。」所謂SYCL,是英特爾一款面向加速器的編程工具。

目前,英特爾、AMD和其他加速器製造商在推廣AI硬體時的一大挑戰,就是客戶必須對原本為英偉達CUDA運行時編寫的大量代碼進行重構,而後才能在新平台上正常使用。

英特爾軟體產品與生態系統副總裁Joe Curley評論稱,在某些情況下,哪怕只是調用CUDA庫的幾行代碼,都可能對應用程序的功能至關重要,這就導致原有代碼「被牢牢粘在一種微架構上」。

而英特爾已經在這方面取得一定進展。這家晶片巨頭投入巨資打造出名為oneAPI的跨平台並行編程模型,以及OpenVINO人工智慧推理產品。Lavender在演講中誇耀稱,自2021年面世以來oneAPI的安裝量增長了85%,表明市場正對該平台表現出日益增長的熱情。

雖然由英特爾主導開發,但值得注意的是,oneAPI和OpenVINO均為開源項目,並不限於特定晶片廠商的硬體架構。

晶片巨頭還發布了數十個開源參考套件,用於解決各種常見的AI/機器學習工作負載,包括聊天機器人、其他生成式AI、乃至更為傳統的機器學習類工作負載(例如對象檢測、語音生成和財務風險預測等)。

SYCL是英特爾打破CUDA在AI軟體生態中壟斷地位的最新舉措。根據去年年初的相關報道,SYCL(全名是SYCLomatic)屬於免版稅的跨架構抽象層,能夠為英特爾的並行C 編程語言提供支持。

簡言之,SYCL能夠處理大部分繁重工作(據稱占比高達95%),幫助用戶將CUDA代碼移植可能在非英偉達加速器上運行的格式。但大家可以想見,後續還要再做一些細微調整才能讓應用程序保持全速運行。

Curley解釋道,「相對於AMD GPU和英偉達GPU,如果大家想要發掘出英特爾GPU的全部潛力,還得再配合一些措施,包括採用SYCL的擴展機制或者調整原本的代碼結構。」

Lavender則認為,配合大語言模型也許能進一步提升這種微調的自動化水平。

Curley預測稱,「未來肯定會出現這方面的研究努力。我們今天所熟知的低代碼/無代碼世界,在五年之後將完全不同。所以這不只是個好主意,更是個即將落地的現實方案。」

Curley認為,其中最大的挑戰在於如何為模型訓練選擇適當的源數據。

另外值得注意的是,SYCL絕非編寫加速器中立代碼的唯一選項。Curley提到,OpenAI的Triton和谷歌的Jax也是兩款具有類似定位的重要框架。

「如果大家出於某種原因而不太喜歡我們的SYCL開發方向,也可以選擇其他標準化解決方案。我們整個行業都在努力為各種硬體打造編譯鏈,希望給全體用戶帶來統一的助益。」

除了SYCL等軟體運行時之外,英特爾還會在其Developer Cloud中以軟體、支持和加速器等形式提供大量資源,幫助AI初創公司針對Gaudi2、GPU Max或最新至強搭載的高級矩陣擴展(Advanced Matrix Extensions)等優化自己的代碼。

英特爾的Liftoff項目也得到了推廣,該計劃旨在提供專業技術知識來吸引剛剛起步的AI軟體初創公司,幫助他們構建起可在英特爾產品上運行的應用成果。

挺身而出應對挑戰的廠商當然不止英特爾一家。日前,Linux基金會與Arm、富士通、Google Cloud、Imagination Technologies、英特爾、高通及三星合作,共同成立了統一加速(UXL)基金會。該組織的目標是開發oneAPI,從而適配由不同廠商提供的各種加速器產品。

Lavender最後總結道,「整個行業都將受益於這種面向加速器硬體進行編程的開放式標準化語言,每位參與者都能在不受供應商鎖定的情況下做出貢獻、開展協作。」

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新