埃森哲近日宣布推出基於Nvidia新AI Foundry服務開發的Accenture AI Refinery框架。該產品旨在使客戶能夠使用 Llama 3.1 模型構建定製的大型語言模型，使企業能夠使用自己的數據和流程完善和個性化這些模型，以創建特定領域的生成式 AI 解決方案。
生成式AI走向Nvidia AI Foundry的旅程
在一次簡報會上，Nvidia公司AI軟體副總裁Kari Briski表示，她經常被問及生成式AI相關的問題。
「這是一段旅程，是的，生成式AI是一項巨大的投資。企業會問，『我們為什麼要這樣做？用例是什麼？』當你想到員工生產力時，你是否希望自己一天有更多的時間？我知道我會的。也許如果有10個人，你可以完成更多的事情。這就是生成式AI的用武之地——自動執行重複、平凡的任務，例如總結、最佳實踐和後續步驟。」
AI Foundry：全面的基礎設施
「Nvidia AI Foundry是一項服務，使企業能夠使用加速計算和軟體工具，結合我們的專業知識來創建和部署可以為企業生成式AI應用增強的自定義模型，」Brisk說。
AI Foundry平台提供了用於開發和部署自定義AI模型的基礎設施，包括：
基礎模型：一套Nvidia和社區模型，包括Llama 3.1。
加速計算：DGX Cloud提供可擴展的計算資源，這對於大型AI項目來說至關重要。
專家支持：Nvidia AI Enterprise的專家協助開發、微調和部署AI模型。
合作夥伴生態系統：與埃森哲等合作夥伴的合作，為AI驅動的轉型項目提供諮詢服務和解決方案。
Brisk表示，一旦企業定製了模型，就必須對其進行評估。她指出，這正是一些客戶陷入困境的地方。她提到了她從客戶那裡聽到的一些話：「『我的模型做得怎麼樣？我只是定製了它。它能做我需要的事情嗎？』因此，NeMo為客戶提供了多種評估方式，除了學術基準，你還可以上傳自己的自定義評估基準，可以連接到第三方人工評估者生態系統，還可以使用大型語言模型來進行評判。」
行業採用
正如Brisk在簡報中指出的那樣，有幾家公司正在使用AI Foundry，包括Amdocs、Capital One和ServiceNow。據Nvidia稱，這三家廠商正在將AI Foundry集成到他們的工作流程中，而且他們通過開發結合行業特定知識的定製模型獲得了競爭優勢。
Nvidia NIM的優勢
Nvidia的NIM具有Briski提及的一些獨特優勢。
她解釋說：「NIM是一個通過標準API訪問的定製模型和容器，這是我們多年工作和研究的成果。」她在Nvidia工作了八年時間，期間Nvidia也一直在研究它。
「它是基於雲原生堆棧的，可以在任何GPU上開箱即用，其中涵蓋了我們1億多台Nvidia GPU的安裝基數。有了NIM，你就可以非常快速地定製和添加模型。」
她補充說，NIM現在支持Llama 3.1，包括Llama 3.1 8B NIM（單GPU大型語言模型）、Llama 3.1 70B NIM（用於高精度生成）和Llama 3.1 405B NIM（用於合成數據生成）。
部署定製的大型語言模型
此外，埃森哲宣布與Nvidia合作開發AI Refinery框架，該框架是運行在AI Foundry上的。埃森哲表示，該框架推動了企業級AI領域的發展。該框架集成在埃森哲的基礎模型服務中，承諾幫助企業開發和部署根據其需求量身定製的大型語言模型。據兩家公司稱，這個框架包括了四個關鍵要素：
領域節點定製和培訓：這使企業能夠使用自己的數據和流程來完善大型語言模型，從而提高模型對特定業務需求的相關性和價值。定製部門是運行在AI Foundry上的，讓模型訓練變得強大而高效。
Switchboard Platform：使用戶能夠根據特定的業務環境或標準（例如成本和準確性）選擇和組合模型。
Enterprise Cognitive Brain：該組件會掃描和矢量化企業數據和知識，創建一個企業範圍的索引，以增強生成式AI系統的能力。
代理架構：該架構旨在使AI系統能夠自主運行，支持負責任的AI行為，同時最大限度地減少人工監督。
戰略重要性和影響
埃森哲的AI Refinery框架有機會改變企業職能，從營銷開始，然後擴展到其他領域，能夠快速創建和部署針對特定業務需求的生成式AI應用，彰顯了埃森哲對創新和轉型的承諾。在向客戶提供框架之前，埃森哲內部應用了該框架，展示了它所看到的潛力。
重塑企業
埃森哲董事長兼首席執行官Julie Sweet在公告中強調了生成式AI在重塑企業方面的變革潛力，強調了部署由定製模型驅動的應用以滿足業務優先級和推動全行業創新的重要性。
此外，Nvidia公司創始人、首席執行官黃仁勛指出，埃森哲的AI Refinery將提供必要的專業知識和資源，幫助企業創建定製的Llama大型語言模型。
最後的一些想法
埃森哲推出的AI Refinery框架可能對企業採用和部署生成式AI至關重要。通過採用Briski在簡報中大加讚賞的Llama 3.1模型和AI Foundry的功能，埃森哲使企業能夠創建高度定製且有效的AI解決方案。
隨著企業繼續探索生成式AI的潛力，埃森哲AI Refinery等框架將在實現定製且有效的AI解決方案方面發揮關鍵的作用。
埃森哲與Nvidia之間的合作有望推動AI技術的進一步發展，為企業提供增長和創新的途徑，也強調了所有AI道路都通向Nvidia。
