Luminal AI公司在完成2300萬美元早期融資後，公布了一項計劃，旨在打破英偉達公司在人工智慧晶片行業建立的強大軟體壁壘。
此次A輪融資由Standard Capital領投，Y Combinator、SagaVC、Liquid 2和Felicis等現有投資者參投，使Luminal迄今為止的融資總額超過2800萬美元。此前該公司曾在約一年前完成530萬美元的種子輪融資。
如今，英偉達已是家喻戶曉的名字。這家晶片製造商藉助生成式AI浪潮，市值一度飆升至5萬億美元的驚人水平，超越蘋果公司、Alphabet公司和亞馬遜公司，成為全球市值最高的上市公司。但如果有人認為僅憑圖形處理器就能讓英偉達脫穎而出，那就大錯特錯了——其真正稱霸AI計算行業的原因不僅在於晶片本身，更在於軟體。
近二十年來，英偉達專有的統一計算設備架構（簡稱CUDA）
軟體框架才是真正的差異化所在，它如同一道幾乎無法突破的屏障，讓超威半導體公司、谷歌公司和亞馬遜雲科技等競爭對手難以撼動其市場領先地位。儘管這些競爭對手已經開發出一些性能強勁的圖形處理器和定製化專用集成電路，能夠以比英偉達硬體更低的成本運行AI工作負載，但它們始終無法在軟體生態規模上與英偉達匹敵。
包括TensorFlow和PyTorch在內的幾乎所有主流AI框架，都是基於英偉達的CUDA軟體原生構建的，這使得開發者無需做任何修改即可在英偉達的圖形處理器上運行AI模型。但若想在其他晶片上運行這些模型，開發者就需要重寫大量底層代碼，這項工作既具挑戰性又耗時。正因如此，絕大多數AI工作負載仍然運行在英偉達晶片之上。
許多開發者不願支付租用或購買英偉達圖形處理器所需的高昂費用，但他們也不想花費數月時間去微調代碼庫，以便讓AI模型在其他硬體上實現最優運行——而這正是Luminal致力於為他們解決的難題。
這家初創公司的解決方案是一個雙管齊下的架構平台，由其專有的搜索編譯器和一個全託管的推理雲組成，二者結合，消除了將AI工作負載遷移到不同晶片上所帶來的種種麻煩。
聯合創始人兼首席執行官喬·菲奧蒂向SiliconANGLE表示，該編譯器的工作原理是系統性地探索在目標晶片上運行神經網路的不同方式，從而找出最優路徑。它會對每種變體進行基準測試，直到找到最佳解決方案，然後自動生成開發者所需的代碼。
代碼生成完成後，系統會緩存該實現方案，以便在重複出現的推理工作負載中復用。菲奧蒂表示，通過這種方式，開發者能夠以極低的成本在異構晶片架構上運行其AI應用。
談及公司的起源，菲奧蒂說：「我們最初是在GitHub上開放式構建這個項目的，當時AI的普及勢頭正勁，我們很快就發現，市場對一種能夠在不同硬體上更高效運行AI模型的方式存在巨大需求。」
Luminal的編譯器和推理雲主要面向需要大規模可擴展推理能力的高吞吐量、持續運行AI應用而設計，比如AI編程工具、自動化圖像生成引擎、AI影片生成器和實時語音智能體等應用場景。
「運行AI的成本不應該限制誰有機會去構建它，」菲奧蒂說。「我們正在構建的基礎設施旨在讓高性能推理變得更加觸手可及，為開發者提供英偉達生態系統之外的更多選擇，同時不必在速度或成本上做出妥協。」
Luminal在四個月前剛剛推出其編譯器和基於公有雲的推理基礎設施，目前採用率正在快速增長。該平台目前每月處理的Token數量已超過45萬億個——這一數字大約相當於Together AI公司迄今為止處理的Token總量的10%。Together AI是一家估值高達80億美元的基礎設施獨角獸企業，已在該市場深耕四年有餘。Luminal已經與亞馬遜雲科技建立了牢固的合作關係，並將大量工作負載運行在該公司的Tranium處理器上。
展望未來，Luminal計劃擴充工程團隊，擴大市場推廣規模，並持續優化其編譯器和推理基礎設施，以支持更多晶片硬體和AI模型。
Standard Capital的道爾頓·考德威爾表示，他看好Luminal是因為AI推理是全球增長最快的市場。「我們投資這家公司，是因為它擁有深厚的技術實力，並已證明自己能夠從異構硬體中榨取出出色的性能，」他說。「Luminal能夠最大限度地發揮已購買圖形處理器的性能……這是一種極具槓桿效應的能力。」
儘管Luminal已經有了一個頗具前景的開端，但它絕非唯一一家試圖打破英偉達在AI行業CUDA壟斷地位的公司。谷歌和亞馬遜雲科技都各自在推進相關布局，尤其是推出了PyTorch的替代性AI框架，讓開發者能夠更輕鬆地創建可在其原生處理器上運行的AI模型和應用。
Luminal還面臨著來自Spectral Compute等初創公司的競爭，後者提供一套編程工具包和編譯器，使基於CUDA的代碼能夠在任何AI加速晶片上原生運行。此外還有一些開源項目，比如UXL基金會推出的OneAPI，它可以將CUDA代碼轉換為能夠輕鬆在任何晶片上運行的軟體。
