AI 正在重塑世界，與此同時也催生了一套全新的專業語言。無論是參加產品會議、路演還是行業論壇，你都會聽到大語言模型、RAG、RLHF 等各種術語滿天飛，即便是科技圈裡的聰明人，有時也難免感到困惑。本文旨在解決這個問題：用通俗易懂的語言，解釋你在日常工作中最可能遇到的 AI 術語，無論你是在用這些技術構建產品、投資相關賽道，還是只想通過閱讀科技資訊跟上行業動態。隨著這一領域持續演進，本文也會定期更新，是一份與它所描述的 AI 系統一樣"活著"的文檔。
通用人工智慧（AGI
）
通用人工智慧，即 AGI，是一個含義頗為模糊的術語，但總體上指在大多數任務上能力超越普通人類的 AI。OpenAI CEO 山姆·阿特曼曾將 AGI 描述為"相當於一個你可以雇用的普通人類同事"。OpenAI 的章程則將其定義為"在大多數具有經濟價值的工作中超越人類表現的高度自主系統"。谷歌 DeepMind 的理解略有不同，將 AGI 視為"在大多數認知任務上至少與人類同等能力的 AI"。感到困惑？別擔心——就連 AI 研究領域的頂尖專家也對此莫衷一是。
AI 智能體（AI Agent）
AI 智能體是指能夠代替你執行一系列任務的工具，其能力遠超普通 AI 聊天機器人，例如報銷費用、預訂機票或餐廳座位，甚至編寫和維護代碼。不過，這一新興領域涉及諸多變量，"AI 智能體"的具體含義因人而異。相關基礎設施也仍在建設中。但其核心概念指向一個自主系統，它可能調用多個 AI 系統來完成多步驟任務。
API 端點（API Endpoints）
可以把 API 端點理解為軟體背後的"按鈕"，其他程序可以通過按下這些按鈕來觸發相應操作。開發者通過這些接口構建集成功能，例如讓一個應用從另一個應用中拉取數據，或讓 AI 智能體直接控制第三方服務，無需人工逐一操作。大多數智能家居設備和互聯平台都具備這些隱藏"按鈕"，即便普通用戶從未直接接觸過它們。隨著 AI 智能體能力的不斷增強，它們越來越能夠自主發現並調用這些端點，為自動化帶來了強大甚至出乎意料的可能性。
思維鏈推理（Chain-of-Thought Reasoning）
面對簡單問題，人腦幾乎不假思索就能給出答案，比如"長頸鹿和貓哪個更高？"但很多時候，你需要藉助紙筆才能得出正確結論，因為中間有若干推導步驟。例如，一個農場主養了雞和牛，總共有 40 個頭、120 條腿，你可能需要列方程才能算出答案（20 只雞和 20 頭牛）。
在 AI 語境中，大語言模型的思維鏈推理是指將問題拆解為更小的中間步驟，以提升最終結果的質量。這種方式通常需要更長的響應時間，但答案的正確率更高，尤其在邏輯推理和代碼編寫等場景中表現突出。推理模型正是在傳統大語言模型的基礎上，通過強化學習優化而成，專為思維鏈推理設計。
編程智能體（Coding Agent）
這是"AI 智能體"的一個更具體的概念，專指能夠在軟體開發領域自主完成任務的程序。與僅向人類提供代碼建議不同，編程智能體可以自主編寫、測試和調試代碼，處理開發者日常工作中那些反覆試錯的疊代過程。這類智能體可以跨越整個代碼庫運行，自動發現漏洞、執行測試、提交修復，幾乎無需人工介入。可以把它想像成一個反應極快、永不疲倦、永不分心的實習生——不過和真實的實習生一樣，最終還是需要人工審核其工作成果。
算力（Compute）
算力是一個多義術語，通常指支撐 AI 模型運行所需的計算能力。這種處理能力是 AI 行業的核心驅動力，使其能夠訓練和部署強大的模型。該術語通常也用來指代提供算力的硬體類型，包括 GPU、CPU、TPU 以及構成現代 AI 行業基礎的其他基礎設施形式。
深度學習（Deep Learning）
深度學習是機器學習的一個子領域，其 AI 算法採用多層人工神經網路（ANN）結構，能夠實現比線性模型或決策樹等簡單機器學習系統更複雜的關聯推斷。深度學習算法的結構靈感來源於人腦中神經元的互聯路徑。
深度學習 AI 模型能夠自主識別數據中的重要特徵，無需人工工程師手動定義這些特徵。其結構還支持算法從錯誤中學習，通過反覆疊代和調整不斷優化自身輸出。然而，深度學習系統需要大量數據（通常達到數百萬個以上）才能取得良好效果，訓練時間也通常比簡單的機器學習算法更長，因此開發成本往往更高。
擴散模型（Diffusion）
擴散技術是許多圖像、音樂和文本生成類 AI 模型的核心。受物理學啟發，擴散系統通過持續添加噪聲，逐步"破壞"數據的結構——例如照片或音樂——直至原始資訊完全消失。在物理學中，擴散是自發且不可逆的，溶於咖啡中的糖無法還原成方糖。但 AI 中的擴散系統旨在學習一種"逆擴散"過程，從噪聲中恢復被破壞的數據，從而獲得生成內容的能力。
知識蒸餾（Distillation）
知識蒸餾是一種利用"教師-學生"模型從大型 AI 模型中提取知識的技術。開發者向教師模型發送請求並記錄其輸出，有時還會將答案與數據集對比以評估準確性，再將這些輸出用於訓練學生模型，使其學習逼近教師的行為。
知識蒸餾可以在儘量減少性能損失的前提下，基於大型模型創建更小、更高效的模型。OpenAI 的 GPT-4 Turbo（GPT-4 的加速版本）很可能就是通過這種方式開發的。
儘管所有 AI 公司都在內部使用知識蒸餾，但部分公司也可能將其用於追趕前沿模型。從競爭對手的模型進行蒸餾通常違反 AI API 及聊天助手的服務條款。
微調（Fine-Tuning）
微調是指對已有 AI 模型進行進一步訓練，以優化其在特定任務或領域上的表現——通常是通過輸入新的專項數據來實現。
許多 AI 初創公司以大語言模型為起點構建商業產品，並藉助自身領域知識和專業積累對模型進行微調，以提升其在目標領域或任務上的實用價值。
生成對抗網路（GAN）
GAN，即生成對抗網路，是一種機器學習框架，是生成式 AI 在生成逼真數據方面的重要技術基礎，包括（但不限於）深度偽造工具。GAN 由一對神經網路組成：生成器根據訓練數據生成輸出，並將其傳遞給判別器進行評估。
兩個模型被設計為相互競爭：生成器試圖讓自己的輸出通過判別器的檢測，判別器則努力識別人工生成的數據。這種對抗機制可以在無需額外人工干預的情況下優化 AI 輸出，使其更加逼真。不過，GAN 更擅長處理較為專項的任務（如生成逼真的圖像或影片），而非通用型 AI。
幻覺（Hallucination）
"幻覺"是 AI 行業對模型"胡編亂造"現象的慣用術語，即 AI 生成了錯誤資訊。這顯然是影響 AI 質量的一大問題。
幻覺會導致生成式 AI 輸出誤導性內容，甚至在現實中引發風險——後果可能相當危險（試想一個健康諮詢返回了有害的醫療建議）。
AI 捏造資訊的問題被認為源於訓練數據的不足。幻覺問題正在推動行業向越來越專業化和垂直化的 AI 模型發展，即專注於特定領域的 AI，以降低知識缺口的概率，減少錯誤資訊的風險。
推理（Inference）
推理是運行 AI 模型的過程，即讓模型根據此前從數據中學到的模式進行預測或推斷。需要明確的是，推理必須以訓練為前提，模型必須先在數據集中學習規律，才能有效地從訓練數據中進行外推。
多種硬體都可以執行推理，從智慧型手機處理器到高性能 GPU，再到定製 AI 加速晶片，不一而足。但並非所有硬體都能同等高效地運行模型。超大型模型在筆記本電腦上生成預測可能需要極長時間，而在配備高端 AI 晶片的雲伺服器上則會快得多。
大語言模型（LLM）
大語言模型是 ChatGPT、Claude、谷歌的 Gemini、Meta 的 Llama、微軟 Copilot、Mistral 的 Le Chat 等主流 AI 助手所使用的底層模型。當你與 AI 助手對話時，你實際上是在與一個大語言模型交互，它直接處理你的請求，或藉助網頁瀏覽、代碼解釋器等工具來響應。
大語言模型是由數十億個數值參數（即權重）構成的深度神經網路，能夠學習詞語和短語之間的關係，構建語言的多維度表徵。這些模型通過對數十億本書籍、文章和文字記錄中規律的編碼來訓練生成。當你向大語言模型輸入提示時，模型會生成與提示最為匹配的概率最高的文本序列。
內存緩存（Memory Cache）
內存緩存是一種重要機制，用於提升推理效率（即 AI 響應用戶查詢的過程）。本質上，緩存是一種優化技術，旨在讓推理過程更加高效。AI 運算依賴大量數學計算，每次計算都會消耗額外的算力。緩存通過保存特定計算結果以供未來查詢復用，減少模型需要重複執行的計算量。緩存有多種類型，其中較為知名的是 KV（鍵值）緩存。KV 緩存適用於基於 Transformer 的模型，通過減少生成答案所需的計算時間（和算法負擔）來提升效率、加快響應速度。
模型上下文協議（MCP）
模型上下文協議，即 MCP，是一種開放標準，允許 AI 模型連接外部工具和數據——包括你的文件、資料庫，或 Slack、谷歌雲端硬碟等應用——而無需開發者為每對組合單獨構建定製連接器。可以將其理解為 AI 的"USB-C 接口"。Anthropic 於 2024 年推出 MCP，隨後將其移交給 Linux 基金會，此後 OpenAI、谷歌和微軟相繼採用，使其成為近期 AI 歷史上傳播最快的標準之一。
混合專家模型（MoE）
混合專家模型是一種模型架構，將神經網路拆分為多個較小的專用子網路（即"專家"），並在每次任務中僅激活其中一小部分。與每次請求都調用整個模型不同——就像每有一個問題都把全體員工召集起來開會——MoE 模型內置一個"路由器"，負責為每項任務挑選最合適的專家。這使得構建體量龐大卻仍能保持較高運行速度和較低成本的模型成為可能，因為任何時刻只有一部分網路在實際工作。Mistral AI 的 Mixtral 模型是一個廣為人知的例子；OpenAI 較新的 GPT 模型也被普遍認為採用了某種形式的 MoE 架構，但該公司從未官方確認。
神經網路（Neural Network）
神經網路是深度學習的底層算法結構，也是整個生成式 AI 熱潮和大語言模型興起的基礎。
儘管將人腦密集互聯的神經通路作為數據處理算法設計靈感的想法早在 20 世紀 40 年代就已出現，但真正釋放這一理論潛力的，是近年來通過遊戲產業發展起來的圖形處理晶片（GPU）。這些晶片非常適合訓練層數遠超以往的算法，使基於神經網路的 AI 系統在語音識別、自動駕駛、藥物研發等眾多領域實現了大幅性能提升。
開源（Open Source）
開源是指軟體——或者越來越多的 AI 模型——的底層代碼對外公開，任何人都可以查看、使用或修改。在 AI 領域，Meta 的 Llama 系列模型是典型例子；在作業系統領域，Linux 是廣為人知的歷史先例。開源方式允許全球的研究者、開發者和企業在彼此的工作基礎上繼續推進，既能加速技術進步，又能進行獨立的安全審計，而這是封閉系統難以做到的。封閉源代碼則意味著代碼不對外公開——你可以使用產品，但看不到其工作原理，OpenAI 的 GPT 模型就屬於這種情況。這一差異已成為 AI 行業最核心的爭議之一。
並行化（Parallelization）
並行化是指同時執行多項任務，而非逐一順序完成——就像讓 10 名員工同時處理項目的不同部分，而非由一人依次完成所有工作。在 AI 領域，並行化對於訓練和推理都至關重要：現代 GPU 專為並行執行數千次計算而設計，這也是它們成為行業硬體支柱的重要原因。隨著 AI 系統日趨複雜、模型規模持續擴大，跨多個晶片和機器並行處理的能力，已成為決定模型構建和部署速度及成本效益的關鍵因素之一。針對更優並行化策略的研究，如今已發展成為一個獨立的研究方向。
內存荒（RAMageddon）
"RAMageddon"是業界對一種令人頭疼趨勢的戲稱：隨機存取儲存器（RAM）晶片持續短缺，而這種晶片幾乎是我們日常使用的所有科技產品的核心組件。隨著 AI 行業的蓬勃發展，各大科技公司和 AI 實驗室爭相採購大量 RAM 來驅動數據中心，導致其他行業的供應所剩無幾，供應瓶頸也使剩餘產品的價格水漲船高。
受波及的行業涵蓋遊戲（大型廠商不得不提高主機售價，因為難以為設備找到足夠的內存晶片）、消費電子（內存短缺可能導致智慧型手機出貨量出現十餘年來最大幅度的下滑），以及企業計算（企業同樣無法為自身數據中心獲取充足的 RAM）。價格的飆升預計只有在短缺結束後才會停止，但遺憾的是，目前這一局面並沒有太多好轉的跡象。
遞歸自我改進（RSI）
與 AGI 類似，遞歸自我改進（RSI）是衡量 AI 能達到多高智能水平、以及對人類依賴程度有多低的一個門檻概念。在 RSI 場景下，AI 模型無需人類干預便能自我改進，從而實現能力和自主性的大幅躍升。在某些描述中，這將是類似"奇點"的災難性時刻，AI 模型將不再受外部干預的制約。但 RSI 也描述了一種基礎能力——AI 模型能否設計出自己的下一代？——這使工程師更容易嘗試構建它。近年來，多家 AI 初創公司致力於開發具備遞歸自我改進能力的模型，但大多數公司對末日論調不以為然，將 RSI 視為研究領域的下一個前沿。
強化學習（Reinforcement Learning）
強化學習是一種通過嘗試與反饋來訓練 AI 的方式——系統通過嘗試不同操作、並在得到正確答案時獲得獎勵來學習，類似於用零食訓練寵物，只不過這裡的"寵物"是神經網路，"零食"是表示成功的數學信號。與監督學習（模型在固定的標註數據集上訓練）不同，強化學習讓模型自主探索環境、執行動作，並根據反饋持續調整行為。這種方式在訓練 AI 玩遊戲、控制機器人方面已被證明尤為有效，近年來也越來越多地用於提升大語言模型的推理能力。來自人類反饋的強化學習（RLHF）等技術，如今已成為領先 AI 實驗室微調模型、使其更有幫助、更準確、更安全的核心手段。
Token
在人機通信中，人類使用自然語言，而 AI 程序通過由數據驅動的複雜算法流程執行任務，兩者之間存在明顯的鴻溝。Token 正是填補這一鴻溝的橋樑：它是人機通信的基本單元，代表大語言模型處理或生成的離散數據片段。Token 通過一種稱為"分詞"的過程生成，將原始文本拆解為語言模型可消化的小單元，類似於編譯器將人類語言轉換為電腦可理解的二進制代碼。在企業應用場景中，Token 還決定了使用成本——大多數 AI 公司按 Token 數量對大語言模型的使用收費，使用越多，費用越高。
Token 吞吐量（Token Throughput）
Token 是 AI 語言模型在處理語言時將其拆解成的文本小塊，通常是詞語的一部分而非完整的詞，在理解 AI 工作負載時大致相當於"單詞"的概念。吞吐量是指在給定時間內能處理的數據量，因此 Token 吞吐量本質上是衡量一個系統在單位時間內能處理多少 AI 工作負載的指標。高 Token 吞吐量是 AI 基礎設施團隊的核心追求，因為它決定了一個模型能同時服務多少用戶，以及每位用戶獲得響應的速度。AI 研究員安德烈·卡帕西曾表示，當他的 AI 訂閱資源處於閒置狀態時會感到焦慮，這與他讀研究生時昂貴計算硬體未被充分利用時的感受如出一轍——這種心情恰好說明了為何最大化 Token 吞吐量在業界已近乎成為一種執念。
訓練（Training）
訓練是機器學習 AI 開發的核心過程，簡單來說，是指向模型輸入數據，使其從數據規律中學習並生成有用的輸出。本質上，這是系統通過響應數據中的特徵來調整輸出，以趨向目標結果的過程——無論目標是識別貓的圖片，還是按需生成一首俳句。
訓練成本較高，因為它需要大量輸入數據，且所需數據量呈上升趨勢。因此，混合方法（例如用有針對性的數據對基於規則的 AI 進行微調）可以在無需從頭開始的情況下有效控制成本。
遷移學習（Transfer Learning）
遷移學習是指將已經訓練好的 AI 模型作為起點，用於開發針對不同但通常相關任務的新模型，從而將此前訓練周期中積累的知識加以復用。
遷移學習可以通過縮短模型開發周期來提升效率，在目標任務的可用數據較為有限時也尤為有用。但需要注意的是，這種方法存在局限性：依賴遷移學習獲得通用能力的模型，往往還需要在額外數據上進行訓練，才能在其專注的領域中表現良好。
驗證損失（Validation Loss）
驗證損失是一個數值，用于衡量 AI 模型在訓練過程中的學習效果——數值越低越好。研究人員將其作為實時"成績單"密切追蹤，並據此決定何時停止訓練、何時調整超參數，或是否需要排查潛在問題。它所幫助發現的關鍵問題之一是過擬合，即模型死記訓練數據，而非真正學習可推廣到新情境中的規律。這就像區分一個真正理解知識的學生和一個只會死背去年考題的學生——驗證損失有助於揭示你的模型正在成為哪種類型。
權重（Weights）
權重是 AI 訓練的核心要素，決定了訓練系統所用數據中不同特徵（或輸入變量）被賦予的重要程度，從而塑造 AI 模型的輸出結果。
換言之，權重是數值參數，定義了數據集中哪些內容對特定訓練任務最為關鍵。它們通過對輸入值進行乘法運算來發揮作用。模型訓練通常以隨機分配的權重為起點，隨著訓練的推進，權重不斷調整，直至模型輸出越來越接近目標結果。
舉例來說，一個用於預測房價的 AI 模型，以目標地點的歷史房地產數據為訓練集，其權重可能涵蓋臥室和浴室數量、房屋是獨棟還是半獨棟、是否有停車位和車庫等特徵。最終，模型賦予每個輸入的權重，反映了該數據集中各項因素對房產價值的影響程度。
本文將隨領域發展持續更新。
Q&A
Q1：大語言模型和普通 AI 有什麼區別？
A：大語言模型（LLM）是由數十億個數值參數構成的深度神經網路，能夠學習詞語和短語之間的關係，並構建語言的多維度表徵。它通過對數十億本書籍、文章和文字記錄中規律的編碼來訓練生成，是 ChatGPT、Claude、Gemini 等主流 AI 助手的底層模型。與簡單的規則型 AI 相比，大語言模型能夠理解上下文、生成自然語言，並藉助工具（如網頁瀏覽、代碼解釋器）完成更複雜的任務。
Q2：AI 幻覺是怎麼產生的，有辦法解決嗎？
A：AI 幻覺是指模型生成錯誤或捏造資訊的現象，被認為主要源於訓練數據的不足或存在知識盲區。當模型在某一領域缺乏足夠的訓練數據時，就可能"編造"看似合理卻實為錯誤的內容。目前，行業正通過開發更專業化、垂直化的 AI 模型來應對這一問題，即專注於特定領域的 AI，以縮小知識缺口、降低錯誤資訊的風險。此外，結合實時數據檢索（如 RAG 技術）也是常見的緩解手段。
Q3：開源 AI 模型和閉源 AI 模型有什麼區別？
A：開源 AI 模型的底層代碼對外公開，任何人都可以查看、使用或修改，Meta 的 Llama 系列是典型代表。這種方式有助於加速技術進步，也允許獨立機構進行安全審計。閉源模型則不對外公開代碼，用戶只能使用產品而無法了解其工作原理，OpenAI 的 GPT 系列模型屬於此類。兩種路線的利弊之爭，已成為當前 AI 行業最核心的議題之一。
