英特爾業務暨營銷業務群商用業務總監鄭智成表示，在當前人工智慧市場需求激增的情況下，接下來人工智慧市場仍舊會有大量的商機出現。然而，與過去不同的是，過去會比較著重在雲計算的數據中心需求中，未來則會是在生成式人工智慧應用普及的情況下，邊緣運算的人工智慧需求與發展成為市場關切重點，這其中還包含了軟體與服務。
鄭智成在「AI應用拓新局，半導體技術新挑戰」的研討會中，在主題「人工智慧晶片架構解析」的主題中表示，接下去的幾年其中，邊緣運算的人工智慧會有很高速的增長。尤其，前面的主要都是在於雲計算的基礎建設部分，接下去更快的增長是在軟體跟服務。其中，應用軟體的發展與服務會是快速增長，這其實就是系統集成商的生意機會。因為有這麼多的企業與政府需求，市場必需要開始去做導入，那這是新的領域。所以，對於很多這個系統集成公司來講，這是個很好的這個機會。
而對於這樣的邊緣運算人工智慧需求，英特爾也提出了新人工智慧晶片架構產品來進一步應對。通過這樣構建的晶片架構。可以將人工智慧應用將會下放全新的嘗試其中，那就是AI PC的部分。過去大規模人工智慧的訓練幾乎不可能在邊緣處理的狀態，在Meta開源了Llama之後，許多企業都開始將應用架構在Llama之上。而由於Llama的參數量約在70億個上下，這數字約16GB大小，就可以下放到邊緣運算機制中，這就打開了相關邊緣人工智慧運算的契機。
鄭智成舉例指出，目前將人工智慧晶片用在AI PC可以降低影片會議的周邊噪音干擾。也就是當用戶在進行影片會議工作之際，可以通過邊緣運算人工智慧的協助，降低周邊的噪音進入到麥克風中傳出去，使得影片會議進行更加流暢順利。這樣的作業談起來可能簡單，但是要讓晶片算力能在長時間的影片會議中執行，而且還有低功耗的特點，這會是一個挑戰。另外，如果影片會議的對象是通過手語溝通，以當前的人工智慧應用來說，還是可以通過即時識別來了解對方表達的意思，達到雙向無礙溝通的情況。這些相關的應用，英特爾在2024年也將會有100個供應商的300個相似應用創建，讓英特爾新的人工智慧晶片發揮功用。
就晶片架構內容來說，鄭智成表示，以英特爾新一代Meteor Lake處理器來說，其具備人工智慧功能首先必須晶片中有NPU的功能。這個NPU是集成在整個處理器中，其與CPU、GPU、I/O、SoC等封裝在一個晶片內，不是單獨存在。另外，就是把NPU概念下放到邊緣的物聯網應用上，使物聯網也能在作業時有人工智慧的功能。例如，奧迪在汽車生產時，以IoT產品來檢查焊接點。相較於從前都要用人工去檢查這些焊接點，每天有五百萬個這個焊接點要檢查，這需要耗多少人力。但是現在當然全部都是用電腦的人工智慧檢查，百分之百全檢不是抽檢。所以，這個奧迪的這個車子在焊接點檢查將會的非常安全。
鄭智成強調，為什麼英特爾要強調新一代人工智慧晶片有NPU的價值。舉例來說，在通過機器學習讓人工智慧了解照片內的貓之後，當用戶跟電腦說畫一隻貓，它就能夠畫出一隻貓來。而這樣的應用，在過去必需要用CPU來執行，不僅時間很長，功耗也會很大。來到後來，用GPU執行，速度提升了，但是功耗仍很大。如今，通過NPU來執行，速度與公耗都能夠提升，還可以進一步應用落實到邊緣運算其中，這就是新一代處理器在人工智慧發展上的價值。
(首圖來源：網路攝)
