隨著中國開放權重AI模型的能力不斷增強、受眾持續擴大，圍繞如何應對這些模型的爭論再度升溫。
有傳言稱，川普政府可能考慮對其實施禁令，但目前尚未付諸行動。與此同時，OpenAI、Anthropic等專有模型廠商對此表現出日益明顯的憂慮。
Moonshot AI的Kimi K3、阿里巴巴的Qwen等開放權重模型，其推理成本僅為上述大型美國實驗室閉源模型的一小部分。外界擔憂這些模型可能構成某種威脅，它們對大型專有AI實驗室的利潤空間確實形成了衝擊。
但對於那些在自有數據中心部署這些模型的企業來說，是否真的需要擔心它們會成為中國黑客的攻擊跳板？
對此，正在構建開源模型、為美國企業提供國產替代方案的Arcee公司首席技術官盧卡斯·阿特金斯給出了否定答案。
如果對中國模型的禁令真的落地，Arcee或許是最直接的受益者之一。但阿特金斯表示，中國的開源模型並不比企業日常使用的其他任何開源軟體更危險，甚至在某些方面對他自己的公司也有所裨益。
"很多人把這看作類似於一個中國軟體程序，認為它是帶著某種特定意圖被編寫出來的，壞人只需一聲令下就能激活。"他說道。
"但這從根本上就不是這些模型的訓練方式。無論是Arcee還是阿里巴巴，都沒有任何辦法在別人自己的環境中運行一個模型時，還能對其保有任何訪問權限。"他解釋道。
儘管大多數此類模型屬於"開放權重"而非真正意義上的完全開源軟體，但其源代碼（即實際在伺服器上運行的部分）如果從Hugging Face等開源平台下載，同樣基本上是可見且可審查的。（真正不對外公開的，是用於訓練模型的方法和數據。）
大型組織在使用任何模型之前，都應將其核心部分納入安全測試與檢查流程。同時，企業通常還會針對自身特定用途對模型進行後續訓練，並可對偏見、毒性、幻覺以及對特定話題的敏感性等方面進行評估。因此，在用戶開始輸入提示詞之前，企業已經對模型完成了充分的了解、優化與掌握。
一個用於編碼的模型，是否可能向其生成的代碼中植入惡意後門？理論上存在這種可能性，但要實現這一點，需要克服重重技術障礙。
"沒有理由認為一個足夠複雜的攻擊者不能訓練出一個在各種情境下都表現出色的編程模型，但當它遇到某種特定類型的代碼庫時……某些隱藏的訓練機制會被激活。"阿特金斯推測道。他同時補充說："但我不知道這具體要怎麼實現。"
由於大語言模型本質上具有創造性，要讓當前的模型在一套預謀好的特定上下文與提示詞組合下生成惡意代碼，概率極低。更何況，企業再將這些代碼實際投入使用的可能性就更小了。
未來是否存在這種可能？目前還沒有定論。不過，企業也在將AI應用構建為模型無關的架構，並同時使用多個模型。因此，即便中國模型在當下性價比最高，企業也不會永遠鎖定於使用它們。
"我認為，與其討論如何禁止中國模型，不如思考如何在美國培育一個良好的開源生態系統。"阿特金斯說。
Arcee同樣從中國模型中獲益。由於這些模型是開放的，這家初創公司"受益於這些模型的優秀，因為我們可以從中學習，可以在其基礎上構建，他們也可以從我們的工作中汲取經驗"。他說："我們對那些構建這些模型的人，尤其是一線研究人員，懷有深深的敬意。"
歸根結底，與中國模型競爭的方式"就是發布一個更好的模型"，阿特金斯說，"我們需要拿出真正有說服力的東西。"
Q&A
Q1：開放權重模型和完全開源模型有什麼區別？
A：開放權重模型是指模型的權重參數對外公開，用戶可以下載並在自己的環境中運行，源代碼也基本可見可審查。但與完全開源不同的是，訓練這些模型所使用的方法、數據集等核心資訊並不對外公開。因此，"開放權重"並不等於"完全開源"，兩者在透明度上存在差異。
Q2：企業部署中國AI模型時，應該如何降低潛在安全風險？
A：企業在使用任何模型前，都應將其納入完整的安全測試與檢查流程，評估偏見、毒性、幻覺及對敏感話題的響應方式。此外，企業通常會針對自身業務場景對模型進行後續訓練與優化，並構建模型無關的AI應用架構，同時使用多個模型，從而避免對單一來源產生依賴，有效分散潛在風險。
Q3：Arcee公司為什麼不支持禁止中國AI模型？
A：儘管禁令在商業層面對Arcee有利，但其CTO阿特金斯認為，中國的開源模型並不比其他開源軟體更危險，且Arcee自身也能從這些模型中學習並受益。他主張，與其討論禁令，不如專注於在美國培育健康的開源AI生態系統，通過發布更優質的模型來實現競爭。
