微軟正在通過對Azure雲平台進行一系列更新來提高對AI開發者的吸引力。
微軟在近日舉行的年度Ignite 2023大會上解釋說,任何AI計劃的成功都受到可用數據的限制,因此主要關注點之一就是數據和AI的集成。為此,微軟宣布Microsoft Intelligent Data Platform平台中的Microsoft Fabric新產品已經全面上市,該產品匯集了各種資料庫、分析和治理服務,以確保企業能夠將他們最重要的數據資產與AI運營相集成。
此外,微軟還宣布推出了Azure AI Studio,帶來增強的AI搜索功能和內容安全等創新。
Microsoft Fabric現已上市
微軟Azure數據、AI、數字應用和營銷副總裁Jessica Hawk在一篇博文中解釋說,數據是每個AI應用的基礎,因此,企業需要全面的數據資產來推動AI創新,但這對他們來說在數據系統碎片化的時代構建起來可能是具有挑戰性的。
據微軟稱,5月在微軟年度開發者大會Build 2023期間宣布推出的Microsoft Fabric匯集了構建尖端AI應用和系統所需的所有數據和分析工具,將Data Factory、Synapse和Power BI等平台集成到一個軟體即服務產品中,用一款簡單、易於管理且經濟高效的產品取代這些不同的系統,從而用於構建和集成AI。
微軟表示,Fabric涵蓋了數據專業人員所需的一切,包括數據集成、數據工程、數據倉庫、數據科學、實時分析、應用可觀察性和商業智能的工具。微軟已經提供了一個全面的AI開發平台Azure OpenAI,用於構建各種下一代AI體驗,但構建這些應用需要源源不斷的乾淨數據和集成分析。
微軟表示,現在開發者藉助Fabric就可以訪問完整的數據平台,而不是複雜的、迷宮般的、斷開連接的工具。Microsoft Fabric提供了從數據中提取洞察並將其提供給AI系統所需的所有功能,很快將在預覽版中集成copilot工具,使開發者能夠使用自然語言命令與其進行交互。
Microsoft Fabric構建在名為OneLake的開放數據湖平台之上,該平台提供了單一事實來源,並且無需提取、移動或複製數據。微軟表示,通過OneLake,Fabric還可以實現持久數據治理和單一容量定價模型,這種模型可以隨著使用量的增長而擴展,同時其開放性消除了被鎖定的風險。其他功能還包括和Microsoft 365應用例如Excel、Dynamics 365和Microsoft Teams的原生集成。
Azure AI Studio
除了Fabric之外,微軟還面向AI開發者推出了Azure AI Studio的公開預覽版,提供了在一個地方處理生成式AI模型所需的一切。Azure AI Studio有助於訪問最新的大型語言模型、數據集成以支持檢索增強生成,也就是一個可以利用企業私有數據集、智能搜索、全生命周期模型管理和內容安全工具的AI系統。
Azure AI Studio最重要的功能是Prompt Flow,一個用於管理提示編排和LLMOps的工具。微軟表示,Azure Machine Learnin服務中也提供了Prompt Flow,可簡化原型設計、實驗、疊代和部署AI應用的過程。
Azure AI Studio中還提供了Azure AI Search(以前的Cognitive Search)。Azure AI Studio支持有效的數據檢索,以提高AI響應的質量並減少延遲。Azure AI Studio被用於支持一種稱為檢索增強生成的技術,該技術允許大型語言模型整合來自其他來源的數據並提高響應的質量。
RAG對於某些類型的應用至關重要,例如客戶服務代理,必須根據準確的信息生成可靠的答案。這種技術由矢量搜索提供支持,矢量搜索是一種在各種數據類型(包括圖像、音頻、文本和影片)中搜索信息的方法,是確保AI能夠訪問更全面數據的一項重要能力。
Azure AI Search還擁有一項稱為語義排名器的功能,提供了和Microsoft Bing搜索結果採用的相同搜索重新排名技術,可根據響應的相關性對響應進行排名。
與此同時,Azure AI Content Safety為開發者工具可提供評估模型響應、確保其準確性並消除偏見和其他安全風險,主要功能是Responsible AI Dashboard、模型監控以及微軟承諾為Azure客戶辯護和賠償,使其免受指控版權侵權的訴訟。
這種Customer Copyright Commitment適用於所有使用Azure OpenAI服務的客戶,證明了微軟對其保護AI開發能力的信心。Hawk表示:「通過將CCC擴展到Azure OpenAI Service,微軟正在擴大我們的承諾以保護我們的商業客戶,並在他們因使用Azure OpenAI Service或其生成的輸出內容而被起訴侵犯版權時為任何不利的判決承擔費用。」
AI更新無處不在
儘管所有這些公告已經非常全面了,但微軟還有很多可以帶給開發者的東西。例如,微軟宣布即將在Azure OpenAI Service和Azure AI Studio中推出帶有Vision的GPT-4 Turbo,這是微軟合作夥伴OpenAI提供的最強大的大型語言模型,為開發者提供了一種在其AI應用中「解鎖多模式功能」的方法,意味著AI應用現在可以使用對象檢測來查看、理解並根據所看到的內容做出推斷,無論是在現實世界、影片中還是其他地方。
Azure Cosmos DB資料庫服務也得到了大量增強,微軟致力於使該平台成為AI開發者的首選資料庫。現在Azure Cosmos DB支持動態擴展,或者根據需求靈活地擴大或者縮小資料庫,以確保他們始終使用最優化的雲資源以優化雲成本。
其他新功能還包括Azure Cosmos DB for MongoDB vCore的正式發布,以及Azure Cosmos DB for MongoDB vCore中的矢量搜索功能。藉助此功能,開發者現在可以構建智能應用完全支持MongoDB存儲在Azure Cosmos DB中,意味著MongoDB開發者將獲得Azure原生集成和降低總擁有成本,同時享受該資料庫服務熟悉的使用體驗。
至於矢量搜索功能,它可以使用Azure Cosmos DB將非結構化數據存儲為嵌入,這樣就無需將數據從平台傳輸到具有矢量搜索功能的專用平台上。
此外,微軟正在增強Azure Kubernetes Service,一個開源Kubernetes工具的託管版本,用於編排託管AI應用組件的軟體容器。
微軟表示,AKS現在支持專門的機器學習工作負載,例如大型語言模型,只需最少的配置即可啟動和運行。新的Kubernetes AI工具鏈操作工具可以在AKS上跨可用的CPU和GPU自動部署大型語言模型。
它的工作原理是根據可用的選擇,為每個模型選擇最優化的基礎設施。通過這種方式,開發者可以在多個GPU數量較少的虛擬機之間分攤推理成本,這不僅降低了成本,還增加了可以運行大型語言模型工作負載的區域數量,同時消除了GPU數量較多的虛擬機的等待時間。微軟表示,客戶還可以運行AKS上託管的預設模型,從而縮短整體推理服務設置時間。
此外在AKS中還新增了Azure Kubernetes Fleet Manager,可用於管理跨Kubernetes集群的工作負載分配並促進平台和應用更新,因此開發者會知道他們正在運行最新、最安全的軟體。
最後,微軟宣布了適用於Windows、Linux和macOS操作系統的最新版本.NET計算框架。據稱,新版本.NET 8為ASP.NET和.NET開發者帶來了性能和生產力上的飛躍,為可與Azure緊密集成的新一代智能雲原生應用奠定了基礎。
其新功能包括對Azure Functions、Azure App Service、AKS和Azure Container Apps的支持,以及Visual Studio的更新、集成開發環境以及與GitHub和Microsoft DevBox的集成。