用光進行計算的設想已存在超過70年,但直到最近,它大多還停留在研究領域。不過,過去幾年間,光計算
已逐漸成長為一個快速發展的產業:該領域公司的市場估值總計已達22.2億美元,相較2022年的4億美元大幅增長。有預測認為,這一市場在未來幾年還將繼續呈指數級增長。
這股熱潮的成因不難猜到:AI。尤其是AI推理——也就是利用AI模型響應用戶查詢的過程——很大程度上推動了龐大且耗電驚人的數據中心的建設,而相對節能的光學系統,被視為一條潛在的出路。
「業界對光子學的興趣,很大程度上是因為AI推理已經真真切切地受制於功耗,而且這種限制相當顯著,」康奈爾大學應用與工程物理學副教授彼得·麥克馬洪(Peter McMahon)說,他從事光計算研究已逾十年。
至少在理論上,光學計算承諾能以遠低於當今GPU的功耗,完成同樣的數學運算。從電子器件轉向光學器件,是一個頗為激進的方案。然而,就像暴雨後冒出的蘑菇一樣,光計算初創公司正在美國、中國、德國和以色列如雨後春筍般湧現。儘管要與英偉達這樣的GPU巨頭競爭是一個雄心勃勃的目標,但對光計算的投入已經催生了一系列配套方案的發展,比如設計替代性的AI算法、承接科學計算任務,以及增強網路內計算能力。
英國公司Optalysys正把光計算元件嵌入數據中心本已使用光信號的網路傳輸路徑中。該公司基本的片上光學元件(如插圖所示)是一個傅里葉變換計算器。
"我認為,如果這些公司中有不少都能認真嘗試一番,對這項技術本身會是件好事,"耶魯大學應用物理助理教授、麥克馬洪實驗室前博士後洛根·賴特(Logan Wright)說。"我認為通過這個過程發展出來的技術將會非常、非常有用,能讓光子系統即便搭不上這波AI浪潮,也具備完成一些相當特別任務的能力。"
光學能否拯救AI推理
推理占據了AI能耗的大頭。業界已投入數十億美元設計先進晶片,力求儘可能高效地運行推理任務。推理計算的核心,是一種被反覆執行、每秒要做無數次的運算:向量-矩陣乘法。
早在1978年,光計算先驅約瑟夫·W·古德曼(Joseph W. Goodman)及其同事就提出了一種用光完成向量-矩陣乘法的方法。其裝置相對簡單:假設一個長度為N的向量需要與一個N×N的矩陣相乘。一排N個發光二極體將向量的各個元素編碼為光的強度——某個二極體發出的光越亮,代表該元素的數值越大。接著,一個柱面透鏡將光在垂直方向上展開,本質上把這個向量複製了N份。隨後,光線穿過一個N×N像素的衰減器,每個像素都按矩陣中對應位置的數值對光進行衰減,這一過程完成了乘法運算。最後,另一個方向與第一個透鏡垂直的柱面透鏡,把每一行的光重新匯聚起來,完成求和。最終的向量結果由一排探測器測得。
向量-矩陣乘法
當今AI中計算量最大的部分,是向量-矩陣(或矩陣-矩陣)乘法。對於長度為N(此處N=3)的向量,需要N?(此處為9)次乘法步驟和3次累加步驟——即一次性完成的多次加法。光學之所以可能優於電子器件,論據大致如下:將一個N×N矩陣與長度為N的向量相乘,需要N?次乘法。在電子器件中,每一次乘法都要消耗一定能量,因此總能耗按N?的量級增長。而在光學中,乘法步驟是被動的:只要矩陣保持不變,光穿過衰減器幾乎不消耗任何能量。唯一的能耗來自把向量編碼為光信號以及讀出結果,但這部分能耗是按向量長度N計算的,而非N?。因此,隨著相乘的向量和矩陣規模增大,光學方案的能耗將按N而非N?的量級增長。
自古德曼1978年提出該設想以來,現有光學元件的質量已大幅提升。事實上,2022年,由麥克馬洪領導的康奈爾大學研究團隊就展示了一種光學神經網路,其每次乘法運算消耗的能量不到一個光子——約為2.5×10???焦耳。而在標準電腦中,單次乘法運算的能耗在10???到10???焦耳之間,這意味著光學方案或許能將能耗降低10萬倍。
但麥克馬洪提醒不要對此過度外推。首先,上述計算並未包含將數據編碼為光信號的成本。即便光學方案在能耗的增長規律(標度關係)上更具優勢,實際應用中起決定作用的不只是標度關係,還有具體的係數。假設用電子器件完成一次乘法的能耗是1皮焦,而用光學方案編碼一個向量元素的能耗是1000皮焦,那麼只要向量長度N小於1000個元素,電子方案仍然勝出。
麥克馬洪說,這個例子與現實情況相差不遠:"其中一個關鍵問題是,系統要做到多大規模,才能開始顯現優勢?很多人針對各種神經網路都做過這類計算,粗略的答案大致落在N等於1000到N等於10000這個區間。"
此外,還有一條重要的計算原理需要牢記,即所謂的阿姆達爾定律。
"阿姆達爾定律其實根本不該被稱為'定律',它不過是一條簡單的常識,"麥克馬洪說。"如果你有某種方法能加速計算,它能加速代碼的90%,但剩下10%的代碼無法加速,那麼你能獲得的最大加速比就是10倍。"
對AI推理而言,關鍵目標是節省能耗,而非節省時間,但阿姆達爾的這一洞見依然適用。當今AI推理代碼中有多大比例能更好地用光學方案處理,是一個複雜的問題,因方案而異,但答案絕不是100%。向量-矩陣乘法(或矩陣-矩陣乘法)只是推理工作負載的一部分——數據還需要經過其他非線性運算的處理。
綜合考慮上述種種局限,當今的光計算公司目標是在能效上比現今的GPU提升10到80倍。問題在於,它們能否在傳統電子器件追上這些能效增益之前,就實現規模化落地。
在自由空間中彌合差距
總部位於英國牛津的初創公司Lumai,或許是從古德曼及其團隊的工作中獲得了最直接的啟發。Lumai的產品負責人菲利普·伯爾(Phillip Burr)表示,光在空氣中(而非在片上波導中)傳播的自由空間方案,正是該公司技術得以超越GPU的關鍵。
Lumai沒有採用古德曼方案中那種固定的衰減器,而是使用了一種現代可編程設備,即空間光調製器——一種類似於高級液晶顯示器的像素化薄膜,能夠同時調製光的強度和相位。其餘設計在實際操作上更為複雜,但原理與古德曼的設計類似:向量被編碼為光信號,經由透鏡複製N份,穿過空間光調製器,再由另一個透鏡匯聚,最終結果轉換回數字電信號。電子器件隨後負責處理非線性函數運算。伯爾說:"一次完整的向量-矩陣乘法在單個光學周期內即可完成。"
要準確比較光學方案與GPU方案的能耗,首先必須明確所考察的是工作負載的哪一部分。現代推理過程通常分為兩個階段:預填充(prefill,即處理輸入查詢並使其在模型中傳播)和解碼(decode,即逐字——或者說逐個Token——生成輸出)。兩者之中,預填充的計算強度更大,其過程基本上就是針對同一矩陣反覆進行向量-矩陣乘法。解碼階段也涉及向量-矩陣乘法,但強度不及預填充——解碼階段真正耗時的環節,是在內存中讀寫所需的矩陣數據。
自由空間光學中的向量-矩陣乘法
古德曼的光學電腦是光子向量-矩陣乘法器中最簡單的版本。在此方案中,向量元素被編碼為三個光源(如LED)發出的光的強度。隨後,一個柱面透鏡將光在垂直方向上展開。矩陣元素則被編碼為衰減器的不透明度,使得光穿過每個像素時,都會被該位置對應的矩陣數值衰減(相乘)。最後,另一個柱面透鏡在水平方向上匯聚光線,完成累加步驟,光電探測器則測出輸出向量。Lumai及該領域的其他公司,目前都將重點放在計算密集的預填充階段。Lumai表示,其Iris Nova光學伺服器已於2026年4月開放評測,這是一個概念驗證產品,而其下一代產品Iris Aura伺服器完成預填充所需的能耗,將僅為GPU的十分之一左右。
總部位於德克薩斯州奧斯汀的初創公司Neurophos,則為古德曼的電腦設計賦予了不同的變化。為了在小型設備中實現更強的性能,該公司發揮了自身在超材料方面的專長——超材料是一種能夠在小於單個光波長尺度上操控光線的複雜結構。該公司設計的結構尺寸大於一個波長,但依然相當微小,每邊只有幾微米。
"如今用標準矽光子學能做出的光學電晶體的等效器件,長度大約有2毫米,"Neurophos首席執行官派屈克·鮑恩(Patrick Bowen)說。"你根本沒法在晶片上塞下足夠多這樣的器件,以達到能與台積電最新最先進制程相媲美的計算密度。"
總部位於德克薩斯州奧斯汀的Neurophos,正利用密集排布在晶片上的微型超材料來操控入射光,從而實現高效的向量-矩陣乘法。
鮑恩的團隊設計了基於超材料的調製器,可通過編程在微米尺度上操控光的相位和強度,最終在邊長5毫米的方形晶片上實現了一個1000×1000的調製器陣列。據鮑恩介紹,Neurophos的調製器切換速度是標準液晶空間光調製器的1萬倍以上。
鮑恩還聲稱其產品在性能上優於英偉達的Blackwell GPU:"我們的目標是達到Blackwell B200速度的50倍、能效的35倍,並且已有明確路線圖,將在後續幾代產品中把速度提升到250倍、能效提升到約90倍。"
鮑恩表示,該方案與CMOS工藝兼容,這意味著Neurophos能夠在半導體行業現有的大規模量產產線上生產其晶片。該公司目前正在選定生產基地,為2028年向客戶交付機櫃產品做準備。
Lumai和Neurophos都在押注,自己能趕在傳統CMOS工藝追上其能效優勢之前,率先將產品推向市場。伯爾表示:"矽工藝會持續進步,但如今數字電路的能效提升速度放緩,成本卻在攀升。光學提供了一種不同的標度關係,矩陣規模越大,效率提升越明顯。更大的模型、更長的上下文窗口,以及智能體工作負載,都在把預填充環節推向這個方向。"
在晶片上彌合差距
自由空間光學如古德曼的設計所展示的那樣,承諾實現近乎零能耗的乘法運算。但自古德曼20世紀70年代的工作以來,光學領域的另一項重大進展是集成光子學,它使得在片上引導和操控光成為可能。
"這項技術的關鍵,是儘可能實現大規模的向量運算,以最大化利用光學的優勢,正因如此,自由空間方案前景可期,"耶魯大學的洛根·賴特說。"但使用自由空間方案在根本上仍然更具挑戰,因為相較於矽光子學,它的基礎設施積累要薄弱得多。"
還有一些公司——比如總部位於上海的Lightelligence和總部位於德國斯圖加特的Q.ANT——則選擇放棄自由空間光學的三維優勢,轉而追求能夠直接集成在矽晶片上的光子器件所具備的可製造性。
"自由空間光學產品通常被限制在年產1000台左右的規模,這是有充分理由的,"Q.ANT的首席執行官兼創始人麥可·弗特施(Michael Fortsch)說。"原因在於透鏡檢測、組裝工藝等諸多環節。從目前來看,可用半導體工藝製造的集成光子電路,在實現規模化量產方面的前景要光明得多。"
集成光子學中的向量-矩陣乘法
在片上用光實現向量-矩陣乘法的一種方式,是將向量元素編碼為依次在波導中傳播的光脈衝的振幅。乘法運算由馬赫-曾德爾干涉儀完成:一條波導分成兩條支路,其中一條支路中傳播的光,其相位會受到一個受控電壓的調製而發生偏移。當兩條支路的光重新匯合時,所得到的光強取決於這個相位偏移量,從而完成了一次乘法運算。將矩陣元素編碼進這些相位偏移量中,就把這一過程變成了向量-矩陣乘法。隨後,光電探測器收集這三路脈衝的光,完成累加步驟。
在Q.ANT的方案中,輸入數據通過片上調製器被編碼為光脈衝的相位和振幅。在這套方案中,一個向量表示為一系列這樣的脈衝,每個脈衝代表一個向量元素。光通過波導在晶片上傳導。基本的計算單元是一個干涉儀:一條波導分為兩條支路,其中一條支路上傳播的光束會受到一個受設定電壓控制的相位偏移。當兩條支路重新匯合時,產生的干涉效應完成了一次計算。隨後,光電探測器和模數轉換器將結果重新轉換為數位數據。這種串行化的向量-矩陣乘法方案,比古德曼那種一次性完成全部運算的電腦要慢。不過,這種速度上的劣勢可以通過同時使用多個波長來彌補,即同時將多個向量編碼進光信號中,有效緩解這一問題。
Q.ANT的原生處理伺服器(Native Processing Server)已在德國慕尼黑的萊布尼茨超算中心和於利希的於利希超算中心等研究機構投入使用。今年早些時候,該公司宣布已向雲服務提供商Ionos完成一筆商業銷售。與之類似,Lightelligence的PACE2處理器能夠完成128×128元素矩陣的乘法運算。在2025年發布的一篇論文中,該公司描述了其在1吉赫茲頻率、3納秒延遲下完成向量-矩陣乘法的能力,並宣稱其延遲比傳統GPU低兩個數量級。
然而,光學方案在能效上的優勢尚未得到確鑿證明,Q.ANT的弗特施也承認目前仍有很長的路要走。主要問題在於模數轉換及其逆過程所產生的能耗。弗特施表示,只要還不存在一種快速、低能耗的轉換器,"我們就看不到……在光學中實現通用向量-矩陣乘法機器具有現實意義的可能性。"
超越向量-矩陣乘法
並非該領域的所有人都聚焦於向量-矩陣乘法,儘管這在當今AI推理領域炙手可熱。事實上,雖然光學向量-矩陣乘法這一構想可追溯到20世紀70年代,但用光學進行其他類型計算的探索,最早甚至可以追溯到20世紀50年代。例如,傅里葉變換——一種將複雜波形或信號分解為其構成頻率的常見運算——用一個透鏡在光學中即可完成。
"數字晶片必須用許多微小的步驟來逼近傅里葉變換,需要動用成百上千個電晶體以及更多的計算周期,"Q.ANT的弗特施說。"使用這類非線性函數的模型,能夠以更少的參數和更少的運算,達到同等甚至更好的精度。"
儘管Q.ANT的光學處理器一直被用於傳統的向量-矩陣乘法,但該公司認為,其最大的優勢其實在於那些利用更複雜函數的替代性AI架構。弗特施說:"諸如圖像分類和圖像分割這類任務,嚴重依賴傅里葉級數、變換以及其他非線性函數等運算,而這些正是光子學天然擅長處理的。我們認為生成式AI領域,尤其是圖像和影片生成,也存在類似的潛力。"
總部位於以色列的初創公司LightSolver,同樣瞄準了那些更天然適配其設備特性的算法。"如果你觀察電磁波的傳播過程,本質上,它們的本性就是在求解微分方程,"LightSolver首席執行官兼聯合創始人魯蒂·本-施洛米(Ruti Ben-Shlomi)說。她表示,相比傳統電腦,在該公司的雷射處理單元(LPU)上求解微分方程,速度更快,能效也更高。
LightSolver的LPU是對古德曼光學電腦設計的一種有趣改造。它同樣具備輸入光、以空間光調製器形式存在的可編程薄膜,以及輸出光,但整套裝置被置於一個諧振腔中,光會在腔內來回反射多次,才能達到穩定狀態。此外,該團隊還在腔內放置了一種增益介質,其作用原理與雷射器內部的增益介質十分相似,能讓來回反射的光不斷增強。
總部位於以色列的初創公司LightSolver,正利用自由空間光學以及光本身的天然特性,快速求解微分方程。
LightSolver團隊目前也在為其LPU開發AI應用,使用該公司自主研發的算法實現文本生成圖像。"我們並不是在飛快地做向量-矩陣乘法,我們做的是完全不同的事情。我們必須假設,訓練模型的方式和隨後進行推理的方式是完全不同的。但只要換一種方式去做,你就能在大幅降低能耗、提升速度的同時完成圖像生成,"本-施洛米說。LightSolver已經擁有一個可運行的LPU原型,團隊目前正在研發一款規模更大、可裝入機櫃的設備。
在傳輸途中完成計算
總部位於英國利茲的初創公司Optalysys,正在探索另一種發揮光獨特優勢的方式。該公司創始人兼首席產品官尼克·紐(Nick New)有自由空間光學的研究背景,因此他深知用光做傅里葉變換是一件非常容易的事情。
Optalysys技術背後的核心思路,是把自由空間光學中的傅里葉變換能力,移植到晶片上實現。紐說:"如今我們不再使用透鏡,而是用自己研發的一種元件,它是集成在矽平面內的無源元件,能完成和透鏡同樣的功能。"通過巧妙設計這一具有多個輸出埠的元件,該團隊還找到了實現不同運算的方法。紐說:"由於傅里葉變換響應的生成方式本身的特性,你實際上可以從中提取出不同的數學運算。我們能夠利用這種模擬光子學方法,以超高的效率產生非常大規模、高精度的數字函數功能。"
"我們實際上是在為目前完全沒有處理能力的地方,增添處理能力。"——尼克·紐,Optalysys
Optalysys沒有選擇從零設計一款加速器,而是瞄準了AI工作負載中一個往往已經處於光域的環節:網路傳輸。在數據中心裡,一排排電腦機櫃之間通過光纖相連,而這種光學連接正越來越貼近GPU和CPU本身。
事實上,有些計算已經在數據傳輸途中完成。這類計算(包括匯總多個GPU的運算結果)是在網路交換卡內部執行的。但這些板卡在完成這些數學運算時,自然也要消耗電力。而藉助無源光學元件,這些計算幾乎可以"零成本"完成。
紐表示,除了用於GPU之間的通信外,Optalysys的技術還可用於輔助GPU與內存之間的通信,比如即時完成數據壓縮和格式轉換等工作。回到AI推理的話題上,這種方法有望改善工作負載中的解碼部分。與預填充不同,解碼過程受限於內存頻寬:其中成本最高的環節,是模型數據在內存中的來回搬運。紐說:"我們更專注於那些受內存頻寬制約的應用,這與'在通信路徑中增添處理能力'這一原則十分契合。我們實際上是在為目前完全沒有處理能力的地方,增添處理能力。"
光計算未來可能的走向
光學電腦取代數據中心裡的GPU的可能性有多大?耶魯大學的賴特並不算太樂觀。"算法發展的方向,不會自動朝著對光學有利的方向演進,"他說。"事實上,它很可能朝著相反的方向發展,因為(AI模型開發者)希望自己的模型在GPU上運行得更好。"
不過,即便我們提交的AI查詢在未來幾年內還不會用光來計算,這些對該技術的投入也不會白費。賴特說:"我和這個領域的許多人之所以至少還抱有幾分樂觀,是因為英偉達、台積電這樣的公司確實在投入資源,開發封裝一體化的矽光子技術——雖然目的不是用於計算,而是用於電路交換和互連,但這恰恰為未來做更多嘗試打開了一扇門。"
無論這項技術最終會被用於向量-矩陣運算、定製化仿真,還是網路內計算,整個計算生態系統似乎都已為多元化方案的湧現做好了準備。Q.ANT的弗特施說:"我們認為,未來的數據中心將是異構的:CPU、GPU和光子神經處理單元(NPU)各自承擔最適合自己的任務。讓每項任務都運行在最合適、最高效的硬體上,能夠顯著降低能耗和運營成本。"






