AWS全球渠道負責人Ruba Borno表示,AWS讓全球客戶都有機會使用生成式AI,並計劃通過合作夥伴推動新發布的AI解決方案。
AWS副總裁、全球渠道和聯盟負責人Borno在接受採訪時表示:「我們對AWS現在如何讓客戶都有機會訪問基礎模型和生成式AI感到非常興奮。我們幫助客戶取得的主要成果,是讓他們能夠靈活地選擇他們想要使用生成式AI進行構建的方式。」
她表示,客戶和合作夥伴可以從三個選項中進行選擇:使用專門的機器學習基礎設施構建自己的基礎模型,利用預訓練的基礎模型作為基礎模型來構建他們的應用,或者使用帶有內置生成式AI的服務,而無需基礎模型方面的任何特定專業知識。
在AWS生成式AI並不是新鮮事
在談及AWS推動合作夥伴和客戶消費生成式AI解決方案和計劃(例如Amazon Bedrock和免費訪問Amazon CodeWhisperer)之前,Borno表示,關鍵是要記住,Amazon並不是AI市場中的新手。
OpenAI ChatGPT(得到AWS雲競爭對手微軟的支持)等產品的流行,讓生成式AI成為了2023年的新聞頭條。Borno希望提醒市場,AWS幾十年來一直在投資機器學習。
她說:「AI和機器學習對亞馬遜來說並不陌生。二十年來,我們一直大力投資這項技術的開發和部署,不管是面向客戶還是內部運營。至今我們已經累計幫助100000多家客戶通過機器學習和人工智慧進行創新。」
生成式AI是一種可以根據提示生成圖像、文本、音頻和合成數據的應用。Borno表示:「我們的合作夥伴在幫助客戶利用生成式AI的潛力方面,發揮著關鍵作用。儘管我們仍處於生成式AI的早期階段,但合作夥伴不應該推遲在AWS上構建生成式AI產品。」
Borno在接受採訪時,解釋了AWS最重要的生成式AI產品和渠道計劃,稱合作夥伴應該在當今市場上利用這些產品。
Amazon Bedrock:「構建和擴展」生成式AI的最簡單的方式
Amazon Bedrock是一項用於構建和擴展生成式AI應用的新服務,讓客戶可以輕鬆訪問創新的基礎模型。
Borno說:「Amazon Bedrock為客戶提供了構建和擴展企業級生成式AI應用一種最簡單的方法。Bedrock使來自AI初創公司的預訓練基礎模型,如Anthropic和Stability AI,可以通過API輕鬆獲得,此外還提供由AWS開發的Amazon Titan基礎模型。」
Amazon Bedrock的啟動合作夥伴包括Accenture、Deloitte、Infosys和Slalom,這些合作夥伴正在打造實踐以幫助企業更快速地行動起來。她說:「Amazon Bedrock的託管服務讓我們感到非常興奮。」
新的Amazon EC2 Inf2使「生成式AI具有成本效益」
AWS最近全面推出了由AWS Inferentia2晶片提供支持的Amazon EC2 Inf2實例,旨在降低運行生成式AI工作負載的成本。
Borno說:「我們從一流的基礎設施角度出發,使生成式AI具有成本效益。」
她說:「如果你考慮生成式AI,有兩種類型的工作要做:一種是推理,另一種是必須要做的訓練。因此,訓練模型然後從模型中推斷答案。與上一代產品相比,Amazon EC2 Inferentia2實例的吞吐量提高了4倍,延遲降低了10倍。 推理性能比其他任何EC2實例都高出40%,所以我們真的是在進行推理。」
Borno表示,降低成本和能源消耗,讓生成式AI更容易被更廣泛的客戶所用。
開發人員免費訪問Amazon CodeWhisperer
AWS正在推動更多的開發人員和合作夥伴訪問Amazon CodeWhisperer,這是一個AI編碼助手,可以生成整行和全功能的代碼建議。AWS現在提供對Amazon CodeWhisperer 的免費訪問,對個人開發人員沒有任何使用限制。
Borno說:「CodeWhisperer現在支持10多種編程語言,我們進行了生產力挑戰賽,使用Amazon CodeWhisperer的參與者完成任務的速度,比那些沒有使用的參與者快57%。他們成功完成任務的頻率比沒有完成任務的人高27%。」
她說:「因此,當你考慮推廣使用生成式AI的時候,就意味著開發人員生產力的巨大飛躍,我們對此感到非常興奮。」
運行Trn1n實例的Trainium晶片
Borno說,生成式AI模型需要經過訓練才能提供正確的答案、圖像和洞察力,運行這些訓練運行需要大量的計算資源,而且眾所周知,這麼做成本是很高的。
不過,AWS新推出的Trn1n實例現在運行在AWS定製的Trainium晶片上,提供強大的網路功能,Borno表示,這是快速且經濟高效訓練這些模型的關鍵。
她說:「這些晶片旨在為大型網路密集型模型提供比上一代Trainium1高出20%的性能。」在運行Trn1n實例的時候,開發人員能夠以更低的成本更快速地訓練模型。
AWS合作夥伴的角色:專業化、熟悉客戶的基礎模型
Borno表示,2023年AWS將在合作夥伴方面採取四個步驟和行動。
「首先是專業化。投資開發行業專有的生成式AI實踐和解決方案,例如來自垂直行業的洞察,包括廣告和營銷、醫療和生命科學、金融服務等。」
例如,AWS最近與3M Health Information Systems展開合作,加速AI在臨床文檔中的使用,為醫生提供醫療筆記和虛擬助手解決方案。「這些是生成式AI可以增加價值的關鍵成果。我們希望我們的合作夥伴專注於這些領域,因為結果才是最重要的。」
第二是讓合作夥伴了解適合他們客戶用例的正確的基礎模型。
「Amazon Bedrock提供的廣泛選擇匯集了當今市場上最強大的基礎模型。但並非所有基礎模型都是放之四海而皆準的。熟悉哪種基礎模型最適合他們的客戶用例,這是非常關鍵的。我們可以幫助他們,因為今天他們可以通過Amazon JumpStart獲得其中一部分基礎模型。這就是SageMaker的機器學習中心要做的,提供數百個預訓練的模型和模板,讓我們的合作夥伴快速入門。」
AWS致合作夥伴:如何吸引客戶和構建解決方案
另外兩項措施,是開始與客戶接觸並儘快圍繞生成式AI構建解決方案。
AWS正在為合作夥伴提供資源,幫助他們開始或者推進他們的生成式AI客戶之旅,包括AWS Solutions Library、AWS Solutions Construct和Partner Solutions Factory等加速器。
例如,AWS的Partner Solutions Factory讓合作夥伴能夠與AWS專家就系統架構、設計、演示以及其他資源展開協作。與此同時,AWS Solutions Constructs是AWS Cloud Development Kit的開源擴展,可提供多服務、架構良好的模式,用於在代碼中快速定義解決方案,以打造可預測的、可復用的基礎設施。
Borno說:「這些都是為了幫助我們的合作夥伴開發高質量的、值得信賴的生成式AI解決方案和產品。」
「我們的客戶對這項技術非常熱情,但不知道從哪裡開始,以及他們可以從中獲得什麼價值。我們希望確保我們的合作夥伴能夠吸引客戶,並且他們正在確定一些用例子集。然後我們可以通過概念驗證、領域專家和逆向工作的方法為他們提供支持。在這方面,我們希望確保我們儘快將技術和利益交到客戶手中,我們的合作夥伴至關重要。」