近日Max Chan和我們分享了Avnet公司在現代數字領域得到的經驗教訓，從優化雲支出到利用AI提高客戶滿意度。
Avnet公司是最大的技術分銷商和供應鏈解決方案提供商之一，作為該公司的首席資訊官，我負責IT堆棧並監督數字化轉型和戰略。支撐我們數字化方法的兩個關鍵領域，分別是雲和AI。
Avnet CIO Max Chan
雲和成本管理的重要性
我們在雲之旅的早期就意識到，如果沒有適當的FinOps能力和整體治理，成本就會飆升。但在制定了一些規則並確定了可以優化運營的方面之後，我們找到了更好的平衡點。
話雖如此，我們並不是100%使用雲的。相反，我們專注於真正支持雲功能的用例。我們優先考慮這些工作負載，然後將它們遷移到雲中。但是，我們並不打算將所有內容都轉移到雲中，其中一些操作和功能仍保留在內部。
當我們開始使用生成式AI和大型語言模型時，我們利用了廠商在雲中提供的功能。但我們從一開始就知道，憑藉我們的雲經驗和提供商的做法，成本是很高的。
現在我們在生產中有一些AI用例，我們開始嘗試內部託管和管理小型語言模型或者那些不需要放在雲中的、特定領域的語言模型。
我們看到的結果與許多研究結果是一致的，例如IDC發布的有關計算、冷卻和可持續性成本的研究。如果沒有適當的管理，將AI與雲結合起來的成本將是非常高昂的。
讓AI與雲結合使用變得合理化，這一點非常重要。作為分銷商，我們的業務利潤率很低，而雲可能占到營業收入的25%。因此，我們必須考慮如何以敏捷的方式部署AI和雲。我們必須能夠對業務需求做出反應，積極主動地提供業務所需的東西。除了我們自己接受它，沒有別的方法了。
超越生產力：使用AI來幫助滿足客戶
當談到AI或者生成式AI時，就像其他人一樣，我們從我們可以控制的用例開始，包括內容生成、情感分析和相關領域。
隨著我們探索和理解這些用例，我們開始涉足其他領域。例如，我們有一個令人興奮的數據清理用例，就是利用生成式AI和非生成式機器學習來幫助我們識別不準確的產品描述或者不正確的分類，然後對其進行清理，重新生成準確的、標準化的描述。
這可能會提高內部生產力，但同時你也必須這樣想：作為分銷商，我們在任何時候都要處理數百萬個零件。我們的供應商合作夥伴每個季度都會向我們發送他們的價格手冊、規格表和產品資訊。因此，讓一群人試圖瀏覽所有這些數據以查找不準確之處，是一項艱巨的、幾乎不可能完成的任務。
但藉助AI和生成式AI功能，我們能夠以超過人類的速度更快地清理任何不準確之處，有時只需24小時，有助於我們通過改善客戶體驗來提高轉化和推動業務的能力。
另一個AI的例子就是我們的設計服務。我們有一個設計中心，為客戶提供自助服務功能，生成機器人圖表並將其轉換為規格表和零件清單。藉助此工具，生成式AI讓客戶可以提出諸如「幫我將物理占用空間減少30%」或者「如何將上市時間縮短至三個月？」之類的問題。有了正確的數據，這個工具就可以整合這些請求並創建替換規格、零件清單和建議。在這種情況下，採用生成式AI為客戶提供了全新的無縫體驗。
數據和專注的重要性
對於那些希望納入更多AI用例的組織來說，正確的數據至關重要。這就是我們談論乾淨數據和AI就緒型數據的原因，這一點非常重要。回到雲端，我們確保帶到雲端的所有數據都能被下游使用。
在開始任何AI計劃之前，我的第一條建議是確保你的數據處於最佳狀態。
其次，不要再被困在我所謂的概念驗證（POC）牢籠中。你必須確定優先級。尋找一個、二個或者三個可以擴展的用例，然後進行擴展。因為如果你不進行擴展，你就要應對數百個項目，卻不會取得任何進展或產生任何影響。
IDC最近的一份報告發現，企業可能正在應對大約39個POC，但其中只有5個投入到了生產中。我的問題是：為什麼要應對這39個？你只需要專注於這5個，然後擴展其中的1、2個就行了。
最後，市面上有這麼多提供商和這麼多模型，選擇一個並嘗試一下。因為到最後，你會從中學到一些東西。如果你需要更多或不同的東西，決定要做什麼，然後從那裡開始，不要什麼都試，這種方法會讓你回到POC牢籠中，阻礙你的組織取得真正的進展和影響。
