在Amazon Bedrock發布一周年之際，其迎來多個重磅更新。
自從亞馬遜雲科技去年推出這一服務以來，Amazon Bedrock已經徹底改變了生成式AI領域，引領著技術前沿。最近，亞馬遜雲科技的官方博客發布了8篇關於Amazon Bedrock的相關文章，闡述了最新的更新內容。
Amazon Bedrock是亞馬遜雲科技首次針對生成式AI發布內容之一，其是一項完全託管的服務，通過單個API提供來自AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和Amazon等人工智慧公司的高性能基礎模型（FM），以及通過安全性、隱私性和負責任的AI構建生成式人工智慧應用程序所需的一系列廣泛功能。
新功能包括了客戶運行專屬完全託管模型的專有模型導入功能，為特定應用場景選擇最佳模型的模型評估功能，為生成式AI應用程序提供易於實施的保護措施的Guardrails功能，以及新增了更多可選擇的新模型。
下面我們將詳細介紹這些功能更新和模型的新特性，展示Amazon Bedrock如何持續推動生成式AI技術的邊界。
功能更新1：Amazon Bedrock專有模型導入功能現已推出預覽版，並支持三種最受歡迎的開放模型架構：Flan-T5、Llama和Mistral，並計劃未來支持更多模型。
客戶可以在Amazon SageMaker上使用定製模型，該模型提供超過250種預訓練基礎模型。基礎模型包括Mistral、Llama2、CodeLlama、Jurassic-2、Jamba、pplx-7B、70B等尖端型號，以及令人印象深刻的Falcon 180B。現在，用戶在Amazon SageMaker中定製的模型將能夠在Amazon Bedrock中使用，以獲得後者提供的更多強大功能。
藉助全新的Amazon Bedrock專有模型導入功能，用戶能夠將本地微調後的開源模型（Llama，Mistral及Flan-T5框架)上架Bedrock，以託管API方式來調用，無需運維。只需通過點擊操作，客戶即可以在Amazon Bedrock中訪問其定製模型，無論這些模型是它通過Amazon SageMaker開發的還是用其他的工具開發的。只需模型通過自動驗證流程後，即可使用Amazon Bedrock的一系列功能來加速其生成式AI應用開發。
功能更新2：Amazon Bedrock Guardrails功能正式可用，可以控制FM輸出內容合規性，實現負責任AI。
Amazon Bedrock在基礎模型的原生能力之上提供了行業領先的安全保護，能夠幫助客戶阻止高達85%的有害內容。Guardrails是唯一一項由頂級雲服務商提供的解決方案，它允許客戶在單一服務中同時擁有內置和定製的防護機制，並可與Amazon Bedrock中的所有大語言模型（LLMs）以及經過微調的模型一起使用。
功能更新3：Amazon Bedrock模型評估功能正式可用，支持默認測試集程序自動評估，內部測試集人工評估等多種方式評價模型效果。
企業可以快速分析和比較Amazon Bedrock上模型，讓評估模型的時間從幾個星期縮短到幾個小時，從而促使他們更快地推出新的應用程序並改善用戶體驗。客戶可以通過選擇預定義的評估標準（例如準確性和魯棒性）並上傳自有數據集/提示詞庫，或者從內置的、公開可用的資源中進行選擇。對於主觀標準或需要細緻判斷的內容，Amazon Bedrock使客戶能夠輕鬆將人工審核融入工作流程中，以根據特定應用場景的指標（如相關性、風格和品牌聲音）對模型進行評估。
功能更新4：Amazon Bedrock代理（Agent）功能引入簡化的創建和配置體驗，使得開發人員輕鬆上手，同時推出了控制權返還（return of control）功能，允許在代理調用工具的時候接管控制權，為用戶提供更多的選擇權。
針對代理功能的簡化，包括快速創建代理、在代理構建器（Agent builder）中進行代理配置的操作、無需提供API架構的簡化配置等。其中控制權返還功能使得開發時可以跳過使用Amazon Lambda函數，並將控制權返回給調用代理的應用程序。
應用程序可以直接調用自己的內部系統或外部系統的API，而不必通過代理作為中間人。這意味著開發者可以更精細地控制如何處理數據和API調用，提高了系統的響應速度和靈活性。代理仍然負責處理複雜的邏輯和任務分解，但在執行具體的API調用時，控制權可以歸還給應用程序，以適應更複雜或特定的集成需求。這種方式可以簡化配置，減少對額外中間層的依賴，從而在系統設計中實現更直接的控制和更高的效率。
功能更新5：Amazon Bedrock 代理功能加入對支持Claude 3 haiku和Claude3 sonnet的支持，以Claude 3作為大腦的代理將更加智能。
Amazon Bedrock正式推出來自Anthropic的Claude 3 Opus模型，該模型是Claude 3家族中最智能的模型，在高度複雜的任務上表現卓越，並擁有驚人的流暢性和類似人類的理解能力，能夠高效應對開放性提示和未知的全新場景。至此，Amazon Bedrock也成為了首個提供所有Claude 3系列模型的全託管服務，其中包括Claude 3 Opus和此前推出的Claude 3 Sonnet與Claude 3 Haiku。
功能更新6：Amazon Bedrock知識庫功能支持通過跨賬號的數據源構建知識庫。
Amazon Bedrock知識庫現在支持在單個知識庫中添加多個S3存儲桶作為數據源，包括跨賬戶訪問。這一增強功能允許用戶無縫地聚合和使用來自各種來源的資訊，從而提高了知識庫的全面性和準確性。通過支持多個S3桶作為數據源，客戶無需創建多個知識庫或冗餘數據副本，從而優化成本。
功能更新7：Amazon Bedrock知識庫功能支持Ephemeral RAG（chat with your document），用戶直接上傳文件而無需使用向量資料庫的方式來快速構建RAG，便於快速測試驗證。
現在用戶無需配置知識庫即可通過本地上傳的文檔或存儲在Amazon S3中的文檔聊天，以詢問有關該文檔的問題，並進行分析、創建摘要、逐項列出編號列表中的欄位或重寫內容。
模型更新1：Meta Llama 3 (8B和70B兩個版本）正式可用，最強開源模型已經登錄Amazon Bedrock。
Amazon Bedrock中現在可以使用兩種新的 Llama 3 模型，Llama 3 8B非常適合有限的計算能力和資源以及邊緣設備。該模型擅長文本摘要、文本分類、情感分析和語言翻譯。Llama 3 70B 非常適合內容創建、對話式 AI、語言理解、研究開發和企業應用程序。該模型擅長文本摘要和準確性、文本分類和細微差別、情感分析和細微差別推理、語言建模、對話系統、代碼生成和遵循指令。
模型更新2：預發布Titan Text Embedding v2，更好的準確性及更加靈活的向量空間維度（256, 512及1024）及更低的價格({zhiding_content_info_22}.02/m tokens)。
Amazon Titan Text Embeddings V2模型降低了存儲和計算成本，同時提高了準確性。通過為客戶提供靈活的嵌入（embeddings）功能，將存儲需求降低至原來的四分之一，顯著降低了運營成本，同時在RAG應用場景中保持97%的準確性，表現優於其他領先模型。
模型更新3：Titan Image Generator正式可用，支持版權問題賠償及水印檢測功能。
Amazon Titan Image Generator 現已在Amazon Bedrock中全面推出，這將為用戶提供了一種簡單的方法來構建和擴展具有新圖像生成和圖像編輯功能（包括即時自定義圖像）的生成式 AI 應用程序。同時Titan Image Generator 的水印檢測現已在Amazon Bedrock 控制台中全面推出，新的 API（預覽版），用於檢查此水印是否存在，並幫助您確認圖像是否由 Titan Image Generator 生成。
在官方博客文章中，亞馬遜雲科技展示了創建「鸚鵡吃香蕉」圖像的成果：
模型更新4：宣布即將支持Cohere的Command R和Command R 企業級基礎模型。
Cohere的兩款模型具有高度可擴展性，並針對長上下文任務進行了優化，例如檢索增強生成 (RAG)，通過引用來減輕幻覺，使用多步驟工具自動執行複雜的業務任務，並支持 10 種語言進行全球運營。Command R 是Cohere最強大的模型，針對長上下文任務進行了優化，而Command R則針對大規模生產工作負載進行了優化。
現在越來越多的客戶已經開始使用Amazon Bedrock，球領先的資訊和分析提供商LexisNexis Legal & Professional在Lexis AI上開發了個性化法律生成人工智慧助手；全球領先的綜合營銷和技術服務提供商之一電通，在過去的三個月里，利用Amazon Titan Image Generator模型的預覽版，通過自然語言提示詞創造了大量逼真的專業級圖像；全球AI客戶關係管理（CRM）領域的領導者Salesforce，通過Amazon Bedrock新的模型評估功能提供自動化與人工評估兩種方式加速模型比較和選擇。
亞馬遜雲科技AI和數據副總裁Swami Sivasubramanian博士表示，企業應用Amazon Bedrock正呈現出爆炸式的增長。成千上萬不同規模，來自不同行業的企業選擇Amazon Bedrock作為他們生成式AI戰略的核心基礎，它極大加速並簡化了企業從試驗階段到實際生產的轉變。
