每年亞馬遜雲科技在紐約峰會,亞馬遜雲科技都會給我們帶來人工智慧上的驚喜。今年,亞馬遜雲科技一如既往地帶來了生成式AI令人矚目的一系列更新,這些更新再次降低了生成式AI的使用門檻,將生成式AI的應用推向了一個新的高度。更新包括生成式AI驅動的企業級應用Amazon App Studio的預覽版、Amazon Bedrock及Amazon Q的增強。
Amazon App Studio企業級生成式AI應用輕鬆打造
「自2023年以來,有326個生成式AI功能全面投入使用。」亞馬遜雲科技全球AI產品副總裁Matt Wood表示,在過去18個月中,亞馬遜雲科技推出的機器學習和生成式AI功能是其他主要雲提供商總和的兩倍多。
紐約峰會最大的亮點無過於Amazon App Studio,讓用戶可以通過自然語言輕鬆打造企業級應用程序。用戶可以指定應用程序的功能和應該提取的數據源,Amazon App Studio將在幾分鐘內生成一個「專業開發人員可能需要幾天時間才能從頭開始構建」的應用程序。
現場展示了庫存跟蹤系統、索賠審批流程:用戶輸入應用程序的名稱,調用數據源,然後描述要生成的應用程序。同時系統附帶了一些示例提示提供幫助,用戶可以根據需要輸入描述,Amazon App Studio會根據描述生成應用程序的要求列表以及它將執行的操作。
Amazon App Studio使用了Amazon Bedrock上的多個模型,包括Amazon Titan、Claude 3等模型,具體會取決於工作來選擇。
從數據連接到智能代理,Amazon Bedrock全面升級
現在用戶可以在Amazon Bedrock中微調模型了,微調Anthropic Claude 3 Haiku功能現已推出預覽版,允許企業根據其需求和用例指定模型,從而使定製更容易,這是Claude 3模型首次可用於微調。
眾所周知,更好的數據意味著更好的生成式AI內容輸出。Amazon Bedrock增強了數據連接器範圍,加入了對廣泛使用的第三方Web域數據源的連接,包括Confluence、Salesforce、SharePoint上的數據都可以輕鬆接入到Amazon Bedrock當中。知識庫可以讓模型讀懂用戶專屬的內容以擴充模型的知識面,很多用戶在這些Web域中存儲日常使用的數據,更新使用戶能夠更方便地將生成式AI帶入到其日常應用場景當中。
而且Amazon Bedrock還提供了過濾器,在Guardrails中推出了基於上下文基礎檢查的幻覺檢測功能,研究顯示Guardrails可過濾高達75%的幻覺。這項功能是通過對上下文的基礎性檢查來提供的,用戶可以在Amazon Bedrock的Guardrails中設置針對生成結果準確性的關聯值,低於這一設定閾值的生成結果就會被Guardrails判定為不相關的幻覺結果並不予顯示。
Amazon Bedrock還為代理提供了兩項新功能:內存保留和代碼解釋。
Amazon Bedrock的代理(Agent)功能推出了跨多個交互的記憶保留特性,來解決生成式AI記不住的問題。基於該功能構建的代理(現在也被稱為智能體),能夠隨時間推移學習並適應每個用戶的獨特需求和偏好,同時多個記憶之間完全分離,每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下。這項功能將有助於提升預訂航班或是處理客戶反饋等複雜任務代理下的用戶體驗。
Amazon Bedrock還推出了代碼解釋支持功能,允許Agent代理在安全的沙箱環境中動態生成和運行代碼片段,從而顯著提升其處理複雜任務的能力,包括數據分析、可視化、文本處理、方程求解和優化問題等,並支持多種數據類型和格式,同時在需要時由大型語言模型(LLM)決定是否調用該功能,以確保靈活性和安全性。
針對模型的集中治理,Amazon Bedrock推出了ApplyGuardrail的API用於評估所有基礎模型的輸入提示和響應。不論你的生成式AI應用使用的是哪款基礎模型,或者哪幾款基礎模型,構建者都可以配置一套標準化的防護措施以確保其應用中的模型輸入提示和模型響應擁有更加一致的表現。
Swami Sivasubramanian談到,藉助Amazon Bedrock中的新功能,企業可以更輕鬆地利用數據、增強代理,並快速、安全且負責任地將生成式AI部署到生產中。
Amazon Q的後綴日益豐富,功能也日益擴展
亞馬遜雲科技將Amazon Q Developer擴展到Amazon SageMaker Studio中,以簡化並加速機器學習的工作流程。
在SageMaker Studio中,數據科學家和ML工程師可以獲得Amazon Q Developer的所有現有功能,如代碼生成、調試和建議,以及數據準備、模型訓練和模型部署等任務的專業幫助。
Amazon Q Developer現在還擴展至在用戶自己的集成開發環境IDE中,並提供自定義功能,以在用戶的IDE代碼編輯器和聊天中提供基於開發者私有代碼庫生成的代碼建議,這使得開發者能夠更好地打造其專屬的代碼助手。
另外,Amazon Q Business的一項功能Amazon Q Apps現已正式發布。用戶可以通過自然語言對話的方式,構建基於企業數據的生成式AI應用,並安全地將其發布到企業內部的應用程序庫Amazon Q Apps Library中,並添加多個應用類型標籤,從讓企業內的使用者方便地進行檢索,以查找其所需的Amazon Q Apps應用。
比如,用戶提出「請從會議記錄中提取行動要點」或「我需要協助撰寫公司文件」,Amazon Q可以快速生成應用程序自動完成這些任務,並持續提供高效服務。「我們讓任何人都能夠使用Amazon Q Apps構建生成式AI應用程序,只需在幾秒鐘內編寫簡單的自然語言提示即可。」Sivasubramanian說。
至此,亞馬遜雲科技的生成是AI技術棧已經越來越豐滿,一系列強大而便捷的工具,極大地降低了企業使用生成式AI的門檻,幫助企業用生成式AI在競爭中保持領先地位。
亞馬遜雲科技公布全球第二批生成式AI能力認證合作夥伴
今年3月,亞馬遜雲科技在全球推出業內首個生成式AI能力認證,旨在驗證、認可在利用亞馬遜雲科技生成式AI技術方面擁有專業知識、實踐經驗和成功案例的合作夥伴。
在2024紐約峰會上,亞馬遜雲科技宣布了全球第二批獲得該能力認證的合作夥伴,其中有11家來自中國的合作夥伴,包括伊克羅德、柯基數據、八鬥智能、墨奇科技、神州數碼、聚雲科技、神州泰岳、靈奧科技、Zilliz、跨海科技和華訊網路。
截止目前,全球已有60餘家合作夥伴獲得了該認證。亞馬遜雲科技生成式AI與機器學習市場推廣全球副總裁Rahul Pathak表示,「我們非常興奮迎來新一批獲得亞馬遜雲科技生成式AI能力認證的合作夥伴。自該能力認證推出以來,這些合作夥伴已經在全球範圍內幫助客戶構建和部署了許多生成式AI工作負載,取得了顯著成就和積極影響。」