自2022年年底ChatGPT 3.5發布以來,AI的發展貌似進入了一個快車道。
如果說各種模型層出不窮的2024年是AI技術突破的一年,那2025年一定是AI應用落地的一年。
大量的企業從要不要用AI的糾結,開始轉變為了怎麼才能更好的使用AI…
半年過去了,企業的AI應用落地進展如何?AI到底是一場「泡沫」,還是通過AI確實搞到了錢?僅僅是工具的轉換,還是工作方式的一場變革?…
最近,知名的投資機構ICONIQ Capital發布了《開發者手冊:2025年AI現狀報告》,針對這些問題給出了比較真實的答案。
ICONIQ Capital是美國一家專注於服務高淨值客戶的投資企業,在科技領域尤其是風險投資方面有很強的實力,投資了包括Uber、Datadog和Snowflake等知名公司,同時管理著幾百位矽谷頂級大佬的財富,祖克柏,twitter的創始人傑克.多西,LinkedIn創始人里德·霍夫曼,好萊塢巨星湯姆漢克斯 等都是其客戶。
這份報告基於對300位企業高管的調研,包括CEO、工程負責人、AI負責人和產品負責人等關鍵決策者,涵蓋了從初創公司到十億美元巨頭的各個發展階段,深度剖析了當下企業AI產品應用的全貌,為我們呈現了一個從"如何構思、交付和規模化AI驅動業務"的完整路線。
從「企業AI」到「AI企業」,AI應用的三個階段
在這個AI重塑一切的時代,企業正在經歷一場前所未有的變革,大多數傳統的企業已經不再滿足於原有的業務模式,而是積極地向AI領域拓展。
這種演進目前可以分為三個相對清晰的路徑。
"AI賦能"階段,在現有的業務流程中加入部分AI應用的能力,整體業務流程不變,通過AI的能力提升業務流程中某一點或幾點的能力。
大約31%的受訪公司選擇了這種方式,他們將AI功能嵌入到現有產品中,比如在客戶關係管理系統中加入智能推薦功能,或者在數據分析工具中集成自動報告生成能力。這種方式的優勢在於風險較低,可以在不改變核心業務模式的前提下為用戶提供更智能的體驗。
"AI擴展"階段,基於原有業務流程進行優化,通過AI能力在原有業務的基礎上開展新的服務。
占比37%的公司採用了這種策略,這些公司會開發獨立的AI驅動產品或服務,作為原有產品組合的補充。比如一家傳統的項目管理軟體公司可能會開發一個基於AI的智能助手,專門幫助用戶優化工作流程和時間分配。
"AI原生"階段,整個業務模式都圍繞著AI技術展開,核心業務流程基於AI應用進行重建。
32%的公司選擇了這條道路,對這些公司來說,AI不是錦上添花的功能,而是產品的核心引擎,模型訓練和推理計算構成了他們為客戶創造價值和實現增長的根本驅動力。
報告中提到,AI原生公司在產品開發速度上顯著領先,約47%的AI原生產品已經達到了規模化階段,並證明了市場契合度,而AI賦能公司中只有13%達到了這個水平。
這種差異背後的原因其實也好理解,AI原生公司從一開始就將整個技術架構、團隊組成和資金配置圍繞AI展開,這使他們能夠更快地驗證產品市場契合度並實現規模化。傳統企業在整合AI功能時往往需要在保持原有業務穩定性的同時進行創新,這個過程可能錯過一些快速發展的機會窗口。
模型選擇與技術架構的實用主義
在模型的選擇上,大多數公司展現出明顯的實用主義傾向,80%的公司依賴第三方AI API,61%企業進行模型微調,32%開發專有模型。
特別是高增長公司,77%進行模型微調,54%開發專有模型,比例明顯高於其他公司,這也顯示出它們對定製化和差異化的更高追求。
在模型廠商選擇上,OpenAI的GPT模型仍然占據主導地位,達到了95%的使用率,但多模型策略正在成為主流,平均每家公司使用2.8個不同的模型,這種多樣化選擇讓企業能夠針對不同用例優化性能、成本和合規要求。
Anthropic的Claude、Google的Gemini和Meta的LLama分別占據第二到第四位,而DeepSeek等新興模型的出現也為市場注入了更多選擇。
技術架構方面,68%的企業採用完全雲端解決方案,這種偏好說明了當前AI基礎設施的成熟度還遠遠不夠,對大多數企業而言,自建基礎設施的複雜性和成本遠超過使用託管服務的邊際收益。只有23%的公司採用混合架構,僅有很少量的公司選擇完全本地部署,而且還主要集中在有特殊合規要求的行業。
調研企業選擇模型時,優先考慮的是模型精準度,有74%的受訪者將其列為三大考慮因素之一,其次是成本(57%)、微調/定製能力(41%)、隱私(34%)和延遲(25%)。
而在模型應用方面,企業面臨的主要挑戰包括:幻覺(39%)、可解釋性和信任(38%)、證明ROI(34%)、計算成本(32%)以及安全性(26%)。
企業AI應用的最優解:Agent智能體的崛起
在AI應用類型分布上,AI Agent成為最受青睞的選擇,79%的AI原生公司正在構建基於自己業務的AI 智能體。AI Agent之所以受到如此關注,是因為它們能夠自動執行複雜的多步驟任務,為用戶提供真正的價值增益而不僅僅是效率提升。
垂直領域AI應用(65%)和通用AI應用(56%)緊隨其後,反映了市場對專業化解決方案的需求。垂直領域的AI應用通常針對特定行業或功能,能夠深度理解領域知識和工作流程;通用AI應用則追求更廣泛的適用性,通過通用能力服務多個行業。
AI平台和基礎設施(55%)以及核心AI模型(48%)的比例相對較低,說明大多數公司專注於應用層而非底層技術棧的構建。
調研中,一位來自年收入為1000-2500萬美元的企業產品副總裁解釋道:"我們的許多用戶喜歡我們展示的見解和分析,但不願投入時間去了解具體的產品的資訊,我們正在構建AI Agent,這些智能體能有效地引導用戶,使之發現並了解我們客戶的產品。「
AI應用成本結構:從勞動密集型向計算密集型的轉變
AI應用的成本結構呈現出明顯的階段性特徵,在早期階段,人才成本占據預算的主要部分達到了57%,但隨著產品成熟,基礎設施和計算成本的比重顯著上升,到規模化階段,基礎設施成本占22%,推理成本占13%,數據存儲和處理成本占10%,而人才成本降至36%,這也反映了AI產品從勞動密集型向計算密集型的轉變。
在成本控制方面,API使用費用被認為是最難控制的成本(70%的受訪者),其次是推理成本(49%)和模型重訓練更新成本(48%)。這種不可預測性主要源於使用量的波動和外部API定價的變化,促使企業尋求更多的成本優化策略,包括轉向開源模型(41%)、優化推理效率(37%)以及模型蒸餾和量化(28%)。
報告進一步量化了各項成本隨產品成熟度的增長幅度,以月度成本為例:
模型訓練成本:從預發布階段的平均16.3萬美元,飆升至規模化階段的150萬美元 。
模型推理成本:從預發布階段的10萬美元,激增至規模化階段的160萬至$230萬美元(高增長公司更高) 。
數據存儲與處理成本:同樣呈現指數級增長,規模化階段的月度開銷可達百萬美元級別 。
內部生產力提升:AI重塑企業工作方式
報告詳細分析了各類AI工具的企業應用情況。
在模型訓練和微調方面,核心深度學習框架如PyTorch和TensorFlow仍然受歡迎,但AWS SageMaker和OpenAI的微調服務等全託管平台也占據了半壁江山,這表明團隊在"自建"和"託管"方法之間存在一定分歧。
在LLM和AI應用開發領域,LangChain和Hugging Face的工具集領先,表明團隊明顯重視簡化提示工程、批處理和與公共或自託管模型接口的高級庫。大約70%的受訪者還表示他們使用私有或自定義LLM API。
對於監控和可觀察性,近一半的團隊依賴於其現有的APM/日誌堆棧(如Datadog、Honeycomb、New Relic等),而不是採用ML特定工具,這表明集成的易用性和組織標準化常常勝過專門的AI監控的好處。
在推理優化方面,NVIDIA的TensorRT和Triton推理伺服器共同占據了超過60%的採用率,凸顯了NVIDIA在GPU部署優化方面的主導地位。
在模型託管領域,大多數團隊直接通過OpenAI、Anthropic等提供商的API訪問模型,其次是AWS Bedrock和Google Vertex AI等統一的企業級ML平台。
對於向量資料庫,Elastic和Pinecone領先採用,反映了團隊如何改造現有的全文搜索平台以支持嵌入,或採用專門構建的託管向量引擎。
在代碼輔助工具方面,GitHub Copilot被近四分之三的開發團隊使用,其次是Cursor(50%的受訪者使用),這也表明市場對多種IDE集成的需求。
在內部生產力用例方面,編碼輔助遙遙領先,其次是內容生成/寫作輔助和文檔與知識檢索。高增長企業平均33%的代碼由AI編寫,而其他公司這一比例為27%。報告稱,這些GenAI的使用平均帶來15-30%的生產力提升。
AI時代帶來組織架構的適應性變革
AI時代,企業不僅需要先進的技術,更需要合適的組織結構來支撐,調研發現,隨著公司規模的擴大,組織架構呈現出明顯的演進模式。
在收入達到1億美元的關鍵節點時,許多公司開始設立專門的AI領導職位,收入在1億到2億美元的公司中,50%設立了專門的AI領導職位,而在10億美元以上的公司中,這個比例上升到61%。
這種趨勢也表明了AI治理複雜性的增加和對集中化AI戰略所有者需求的提升,當AI項目從少數幾個實驗性功能發展為企業核心競爭力的重要組成部分時,需要專門的人來協調跨部門協作、制定技術路線圖、管理風險和機遇。
在具體的AI專業角色方面,AI/ML工程師是最普遍的需求,88%的公司擁有這類職位,67%的公司計劃繼續招聘,數據科學家緊隨其後,72%的公司擁有,45%計劃招聘。
AI產品經理是另一個重要角色,54%的公司已經配備,46%計劃招聘。
但在招聘過程中,AI/ML工程師的平均招聘周期最長,需要70天,這反映了這類人才的稀缺性和競爭激烈程度。相比之下,數據科學家需要68天,AI產品經理需要67天,這些數字都明顯高於傳統技術角色的招聘周期。
在招聘挑戰方面,46%的公司認為他們的招聘速度不夠快,主要瓶頸是缺乏合格候選人(60%),其次是成本限制(49%)、競爭激烈(35%)和內部流程挑戰(25%)。這種情況就像是在一個新興行業中,每個人都在爭奪有限的專業人才資源。
關於工程團隊中AI專注比例的規劃,受訪企業平均預計2025年將有20-30%的工程團隊專注於AI工作,高成長公司的這個比例更高:他們計劃在2025年將28%的工程團隊投入AI工作,到2026年這個比例將上升到37%。相比之下,其他公司的相應比例分別為18%和28%。
高成長公司顯然將AI視為更核心的戰略重點,願意投入更大比例的工程資源。
透明度與合規的雙重考驗
在AI合規和治理方面,大多數公司已經建立了基本框架,66%的公司進行人工監督,42%提供可解釋性和透明度措施,38%實施偏見檢測和緩解技術。
但只有13%的公司設立了專門的AI合規和治理團隊,說明這一領域仍有很大發展空間。
隨著AI產品的成熟,透明度要求也在提升,尤其是在醫療、金融等受監管行業,在規模化階段,25%的公司提供詳細的模型透明度報告,47%提供AI影響結果的基本洞察。
這種漸進式的透明度增長反映了監管要求的提升和客戶信任建立的需要。
至頂AI實驗室洞見
ICONIQ這份報告,與其說是對2025年現狀的總結,不如說是吹響了AI下半場戰事的號角,我們可以看到企業AI應用正在從實驗階段快速邁向工業化階段。
仔細品味報告裡的這些數據,我們會發現幾個特別有意思的信號。
「OpenAI」的信仰時代已經過去,現在是「多模型時代」,報告裡提到平均每家公司用2.8個模型 ,這背後實際是極致的成本核算。大家都在搞模型路由,哪個API便宜好用、速度快,就調用誰,這不再是技術選型的信仰問題,而是精打細算的數學問題。
大家也終於從「AI能做什麼」的迷茫期,進入了「這玩意兒到底多少錢,能賺回來嗎」的賢者時間。
ROI這個詞在報告裡被反覆提及,尤其API費用被列為最難控制的成本 ,這說明什麼?說明GTM團隊和產研團隊現在必須坐在一張桌子上算賬了。否則模型一跑,GPU一轉,錢燒得比火箭還快。
AI原生公司和AI賦能公司的差距,正在無情拉開,報告數據很誠實,原生派跑得就是快 。
技術棧依然是「戰國時代」,雖然有幾個大家耳熟能詳的品牌,NVIDIA、OpenAI、LangChain等看似地位穩固,但每個細分領域都有一堆小玩家在瘋狂湧現 。這說明市場格局遠未塵埃落定,對於創業公司來說,到處都是機會。你的工具只要能解決某一個「痛」點,無論是幫人省錢、提升精準度,還是簡化部署,都就能在這場混戰中分一杯羹。
2025年的AI戰場,不再是空談概念和demo的表演賽,而是進入了比拼工程能力、成本控制和商業化落地的殘酷淘汰賽。
各位Builder,彈藥備足,準備開干吧!
END
本文來自至頂AI實驗室,一個專注於探索生成式AI前沿技術及其應用的實驗室。致力於推動生成式AI在各個領域的創新與突破,挖掘其潛在的應用場景,為企業和個人提供切實可行的解決方案。
Q&A:
Q: 企業應用AI產品最多的是什麼類型?
A: AI Agent智能體最受歡迎。79%的AI原生公司正在構建AI智能體,因為它們能自動執行複雜多步驟任務,提供真正價值增益而非僅僅效率提升。其次是垂直領域AI應用(65%)和通用AI應用(56%),反映市場對專業化解決方案的需求。
Q: 企業中哪個模型用得最多?
A: OpenAI仍是主流但不再獨霸。95%的企業使用OpenAI的GPT模型,但多模型策略成為主流,平均每家公司使用2.8個不同模型。企業開始精打細算,哪個API便宜好用就用哪個,不再是技術信仰問題而是成本核算問題。
Q: 企業大量應用AI後會不會帶來組織架構的變化?
A: 會顯著改變組織架構。收入達1億美元的公司中,50%設立專門AI領導職位;10億美元以上公司這一比例達61%。88%的公司需要AI/ML工程師,但平均招聘周期長達70天。高成長公司計劃2025年將28%的工程團隊投入AI工作。