雲計算、微服務等技術越來越多的應用,帶來的是IT運維環境的日益複雜。過去一年,可觀測技術備受關注,Gartner也將其列為2023年十大戰略技術之一。
可觀測平台要做的是隱藏所有後台環境的複雜性,對客戶提供可見、可操作、自主性的服務。所以對於開發角度而言,可觀測性最大的難點在於要適配不同的技術。Cloudera大中華區技術總監劉隸放說道。
現在企業正處於觀念疊代的階段,也就是從監控升級到可觀測性,在企業都注重降本增效的階段,可觀測平台的價值就尤為凸顯。
可觀測帶來的變化
Workload Management是Cloudera的一個監控調優工具,可以確保最佳性能、減少停機時間,並提高分析工作負載整個生命周期的利用率。
但是在混合雲環境下,僅有調優是不夠的。因為混合雲帶來了三個主要挑戰,第一,有平台可控性和穩定性,由容器、調度器、服務等組成的複雜系統;第二,資源管理和控制,對資源消耗情況和效率的可見性有限,導致浪費和超支;第三,支持力度和體驗,故障排除麻煩,提供支持的人員需要頻繁地來回奔波。
現在財務治理、工作負載優化、主動系統監控、自助式分析、服務健康監控、更快的問題解決速度通通可以由Cloudera Observability來實現。
Cloudera Observability是覆蓋了整個CDP的一站式可觀測性應用管理平台,使客戶能夠監控、了解和優化其CDP部署。客戶還可以通過可自定義的自動操作和預先構建的操作,發出警報、主動避免問題並優化工作負載。
目前Cloudera Observability推出的版本是公有雲的SaaS版本,考慮到很多企業的數據敏感,以及監管要求,接下來也將推出本地部署版。Cloudera Observability可以支持Hive、Impala、Spark等用於處理數據工程工作負載的最常用數據引擎。
對比發現,使用Cloudera Observability集群利用率提升超過30%,提高了基礎設施的投資回報率、SLA和SLO遵守率提高43%,直接增加收入、RCA和故障排除速度加快50倍,減少了運營開支。
讓企業用好生成式AI
據統計,平均有90%的企業選擇Cloudera管理他們的數據資產。目前Cloudera解決方案管理的數據量突破了2500萬TB,這和很多雲運營商的整體數據體量接近。
現在每一個人都在談生成式AI,這對於Cloudera而言是一個機會。但是背景資訊缺失、關聯性與準確性、可信與安全、風險與合規都是企業有所顧慮的因素。
最近Cloudera發布了全新的現成大型語言模型(LLM)藍圖將幫助客戶基於自身數據和企業環境,安全可控地使用生成式AI。
現在企業可以將大模型嵌入Cloudera Machine Learning(CML),對模型進行訓練,並在平台上部署AI應用。作為CDP的服務組件,CML的安全體系遵循CDP整體平台,無論是私有部署、私有雲,還是公有雲。
劉隸放說,在幫助企業落地大模型上,Cloudera首先要幫助客戶解決的就是合規問題,在這個基礎上用自己的數據進行訓練得到準確有意義的答案並進行調整,這是Cloudera平台所提供的能力。
目前Cloudera還在初期嘗試階段,CML中內嵌了很多模型,在使用過程中滿足了合規要求,數據安全,保證數據不會泄露的同時注重交互性。
另外Cloudera的數據服務除了集成CML,還集成了Cloudera Data Engineering(CDE),通過CDE平台和基礎平台結合,通過算法算法可以幫助CML加工處理提供數據,同時可以使用GPU讓平台的處理速度加速。