宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

甲骨文站在生成式AI革命的前線

2024年07月05日 首頁 » 熱門科技

ChatGPT現在也在Oracle Cloud Infrastructure(OCI)中訓練了!

甲骨文通過與微軟的合作,將Azure平台擴展到OCI,支持OpenAI的持續發展。不僅是OpenAI,甲骨文在第四季度簽署超過30項人工智慧銷售訂單,總金額超過125億美元。這一利好也反映在財報上,Oracle 2024財年第四財季營業收入為143億美元,同比增長3 %。

Oracle Database 23ai能夠讓企業客戶與資料庫進行自然語言交流,並在幾分鐘內開發新應用程序,客戶無需編寫任何代碼,還可以跨越系統與地域與所有數據進行交互,實現「4個Any」——Anytime、Anywhere、Any Data、Anyone。

未來23ai還將推出本地版,幫助企業更好地進行RAG(檢索增強生成),目標是讓管理、開發和生成更簡化。

用一條SQL貫通各類數據

企業都知道應用生成式AI好,但是具體應該怎麼做?甲骨文為企業提供了一個使用生成式AI的平台「Oracle Database 23ai」。

在日前舉辦的甲骨文數據·AI論壇2024上,甲骨文公司副總裁及中國區董事總經理吳承楊強調了甲骨文的資料庫願景:輕鬆生成和運行現代應用和分析,並適用於任何規模的項目。

甲骨文站在生成式AI革命的前線

甲骨文公司副總裁及中國區董事總經理吳承楊

甲骨文融合資料庫中的最新版本Oracle Database 23ai的新功能主要體現在,面向數據的AI(AI for Data)、加速應用程序開發(Dev for Data)和關鍵任務數據(Mission Critical for Data)。

融合資料庫的重要性體現在,能夠在同一平台上運行不同的數據類型,包括圖數據、空間數據、結構化數據、非結構化數據、向量數據。

但平台上的各種數據如何貫穿起來?答案就是SQL。

甲骨文通過大語言模型生成SQL,SQL可以在平台上融會貫通的切入到各種數據類型。吳承楊用地鐵來舉例,比如你進入地鐵的一個線路,就可以達到這條線路的每一站,但是問題是如何進入,現在只需要說一句話就可以進入。

當然這裡最重要的一點是,甲骨文把向量資料庫嵌到整個資料庫里,而不是將資料庫的內容拿出來給AI,這讓用戶應用和數據的使用更加簡單化。

甲骨文公司中國區技術諮詢部高級總監李珈談到一個手機應用客戶,他們收到的投訴資訊有文本、語音等類型,他們之前的做法是將投訴資訊向量化後,放在向量資料庫,通過相似性搜索檢索出最有意見的20個人,再去關係型資料庫查詢。這樣往往會檢索出不是需要分析的地區的客戶,這就需要回到向量資料庫把搜索範圍擴大,而現在只需要一條SQL就能將匹配的內容準確的搜索出來,效率的提升是不可比擬的。

在企業中,除了DBA(資料庫管理員),可能很多人都未必知道資料庫是什麼。甲骨文能做到的就是讓企業用戶在使用資料庫時根本感受不到資料庫的存在,卻能夠擁有穩定、流暢的體驗,就像我們無需知道一個房間的Wi-Fi安裝在哪裡,便能體驗到滿格的信號。

OCI 成為企業AI發展中的關鍵角色

今天算力資源是緊俏的,幾乎每一個企業都要進行訓練、優化、推理,而且GPU資源的使用有些時候還跟數據中心的地點有關係,比如推理需要和應用在一起,那麼數據中心就不能隨意挪動。

「大模型進化所需要的計算量呈指數級增長,Oracle AI 基礎設施有自己的優勢。」吳承楊說。首先是容量問題,這不同於虛擬機,因為像OpenAI這類的公司需要的資源是龐大的;其次是需要怎樣的GPU去支撐,比如GPU的互聯問題,如何保證更低的延時。

「甲骨文的優勢在於與英偉達一同設計基礎設施,同時使用基於以太網的RoCE,並對以太網進行優化形成無損網路。」甲骨文公司中國區技術諮詢部高級總監嵇小峰說,這使得整個GPU擁有更好的可擴展性,現在可以達到3萬張卡,未來量級可能會更大。

通過新的OCI Compute裸機實例、超低延遲RDMA網路和高效能儲存,OCI Supercluster的速度將顯著加快。OCI Compute同時採用NVIDIA GB200 Grace Blackwell Superchip與 NVIDIA Blackwell B200 Tensor Core GPU,協助客戶應對 AI 模型不斷增長的需求。

Oracle雲技術運用一系列NVIDIA堆棧,例如NVIDIA加速計算基礎設施和NVIDIA AI Enterprise軟體平台,其中包括新推出的NVIDIA NIM™推理微服務。這些微服務建立在 NVIDIA TensorRT™、NVIDIA TensorRT-LLM和NVIDIA Triton Inference Server™等NVIDIA 推理軟體的基礎上。

甲骨文除了將Microsoft Azure AI平台擴展到OCI,為OpenAI 提供更多的算力支持外,還與Google Cloud合作,讓客戶可以將OCI和 Google Cloud 技術結合使用。

例如,銳明技術正基於OCI構建以AI為核心的商用車安全和資訊化解決方案,通過使用AI 影片監控技術保障商用車行車和公共安全,業務模塊包括駕駛員行為檢測、高級輔助駕駛系統等。

OCI的強勁算力幫助銳明技術構建了數據預處理、標註、訓練和推理平台。此外,在全球擁有48個雲區域的OCI,還滿足其業務全球化和數據合規的需求,保障業務穩定高效運行,且綜合性價比高。

今天甲骨文正在助力中國出海企業,無論是訓練還是推理,OCI都可以幫助企業在應對市場挑戰時,實現快速發展和跨越式增長,為全球業務拓展提供堅實的後盾。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新