亞馬遜云科技（AWS）是云服務的發(fā)明者，而一年一度的AWS re:Invent大會，也被視為是云服務行業(yè)的風向標。隨著近日在美國拉斯維加斯的大會落幕，亞馬遜云科技也馬不停蹄地展開了re:Invent的中國行活動，我們也滿懷期待地參與了re:Invent中國行的北京站活動，并為大家?guī)砥渥钚碌脑品债a品和技術動向。

據亞馬遜云科技大中華區(qū)產品部總經理陳曉建介紹，本次re:Invent大會上一共發(fā)布了200多項新服務和功能，以及超過350項持續(xù)的更新。而此次北京站分享的重點落在兩部分：一是從云計算的底層去重塑這些功能；二是如何利用生成式AI重塑未來。

圖：亞馬遜云科技大中華區(qū)產品部總經理陳曉建

重塑云計算底座，讓計算更強大

AI為數(shù)據與計算帶來更龐大的需求。而在不斷增長的數(shù)據量以及越來越具挑戰(zhàn)的功耗限制等雙重因素影響之下，全球的數(shù)據中心與網絡基礎設施正面臨著巨大壓力。亞馬遜云科技一方面不斷增加數(shù)據中心的數(shù)量和分布，另一方面在存儲和計算的底層技術上進行自研突破創(chuàng)新。

作為全球最大的云服務商，亞馬遜云科技的數(shù)據中心數(shù)量比行業(yè)第二名多三倍，服務數(shù)量多了60%，功能多了40%。

而在存儲方面，Amazon S3已經支持了全球數(shù)百萬用戶的各級存儲需求，但隨著數(shù)據密集型應用增加，在一些應用上對于數(shù)據訪問的速度提出了更高的要求，客戶可能要達到每分鐘數(shù)百萬次的數(shù)據集訪問，每一毫秒的延遲都會對其業(yè)務產生影響。針對這些用戶對于高性能存儲的需求，亞馬遜云科技此次推出了全新的高性能對象存儲——Amazon S3 Express One Zone。

據悉，Amazon S3 Express One Zone是采用專門設計的軟硬件來實現(xiàn)數(shù)據加速處理，同時能夠以一致的毫秒級延遲處理每分鐘數(shù)百萬次的請求，相比Amazon S3標準存儲快了10倍，同時請求成本降低了50%。從實際客戶案例來看，這項新存儲服務幫助Pinterest提升了10倍以上的寫入速度，并將其機器學習驅動的視覺靈感引擎的總成本降低了40%。

圖：Amazon S3 Express One Zone工作原理

除了存儲外，高性能計算依賴于高性能的芯片。為了緩解未來基礎設施的壓力，行業(yè)需要依賴強大的生態(tài)系統(tǒng)，在高效、可擴展的多核計算基礎上，打造專用處理的能力。

而為了提高云服務的能效表現(xiàn)，亞馬遜云科技早在幾年前就著手開始自研芯片，包括服務器級CPU、專用推理芯片和訓練芯片，并且成功將諸多服務部署在自家高性能計算芯片上，幫助客戶進一步節(jié)約了業(yè)務成本。

值得一提的是，此次re:Invent大會上發(fā)布的全新的Amazon Graviton4芯片，該芯片采用了96個Neoverse V2核心，每個核心獨享2MB的L2緩存，內存方面提供12個DDR5-5600通道。相比上一代，Amazon Graviton4的平均性能提升30%，對某些工作負載的加速更明顯，數(shù)據庫應用程序速度提升40%，大型Java應用程序速度提升45%。

圖：Graviton3和Graviton4

據陳曉建介紹，基于Amazon Graviton 4的Amazon EC2 R8g實例的預覽版已經推出。而基于Amazon Graviton3的Amazon EC2 C7g、M7g、R7g實例在亞馬遜云科技中國（北京）區(qū)域和中國（寧夏）區(qū)域也已經正式可用，將為中國客戶帶來提供更高性能、更快內存，以及更加節(jié)能的體驗。

圖：EC2 R8g實例

推進無服務器服務創(chuàng)新，讓云服務更易用

對于絕大多數(shù)客戶而言，無服務器（Serverless）提供了更好的成本效率?？蛻艨梢栽跇I(yè)務高峰時拓展更多資源，而在低谷時降低資源占用，并且無需自己進行服務器維護升級，這使得整體投入和風險降低，并獲得了更好的業(yè)務靈活性。

Serverless已經成為了云服務的必然趨勢，而針對Serverless的重塑，也將支持到絕大多數(shù)客戶的業(yè)務創(chuàng)新。亞馬遜云科技也在re:Invent大會上宣布了三項無服務器服務創(chuàng)新，助力客戶以任意規(guī)模分析和管理數(shù)據。陳曉建也在北京站的活動中針對這三大無服務器服務創(chuàng)新進行了分享。

首先是Amazon Aurora Limitless Database，正如其名字Limitless所言，它簡化了跨單臺服務器讀寫吞吐量限制進行擴展，能夠讓客戶超越單個Aurora寫入器實例的限制，擴展數(shù)據庫的寫入吞吐量和存儲容量。對于大規(guī)模應用程序而言，客戶無需再構建復雜的跨多個數(shù)據庫的方案，可以實現(xiàn)真正意義上的無擴展上線的關系性數(shù)據庫。

圖：Amazon Aurora Limitless Database

而另一個新發(fā)布是Amazon ElastiCache Serverless，可以幫助客戶在一分鐘內創(chuàng)建高可用的緩存，并實時進行垂直和水平擴展以支持客戶復雜的應用程序，且無需管理基礎架構。

第三個新發(fā)布的服務是Amazon Redshift Serverless，它大大簡化了數(shù)據庫管理的工作，讓企業(yè)的數(shù)據分析人員無需管理數(shù)據倉庫基礎設施即可輕松運行任何規(guī)模的分析工作負載，并且可根據多個工作負載維度自動調整資源并執(zhí)行優(yōu)化操作以完成客戶預設的性價比目標。

而以上Serverless創(chuàng)新服務的基礎，來自亞馬遜云科技的關系型數(shù)據庫服務Amazon Aurora。陳曉建也在此次活動中揭秘了Amazon Aurora得以支撐各種無服務器云服務的兩大底層技術。首先是底層Grover系統(tǒng)，這一系統(tǒng)自2014年以來，幫助Amazon Aurora實現(xiàn)了數(shù)據和計算資源的分離，可提供跨多個可用區(qū)的數(shù)據持久化支持，能橫向擴展讀取副本，實現(xiàn)了數(shù)據庫存儲的無服務器擴展。另一個底層技術是“協(xié)同資源管理”的系統(tǒng)Caspian。自2018年以來，Caspian采取重塑全新的Hypervisor+熱點調度系統(tǒng)的方式來工作，讓Amazon Aurora serverless數(shù)據庫可以在毫秒內響應變化的數(shù)據庫負載并調整大小。

圖：Grover讓Amazon Aurora數(shù)據庫存儲系統(tǒng)IO需求顯著降低

布局生成式AI三大層，助力各類客戶重塑業(yè)務未來

從去年年底至今，生成式AI的熱度不減。這一技術已經被視為是新一輪的生產力變革，無數(shù)領先企業(yè)紛紛思考和實踐，如何在自己的業(yè)務中用好生成式AI，助力業(yè)務提升。而亞馬遜云科技的目標，是讓生成式AI降低門檻，讓AI能力做到普惠，重塑千行百業(yè)，改變每個人的生活。

圖：生成式AI三層架構

陳曉建表示，要實現(xiàn)生成式AI的業(yè)務賦能，需要考慮到方方面面的因素。包括如何兼顧規(guī)模與成本，真正讓業(yè)務收益；如何選擇最適合業(yè)務場景的模型，如何用企業(yè)自己的數(shù)據定制并快速行動；當然還有如何充分保護數(shù)據的安全隱私的前提下負責人的應用生成式AI。而要兼顧所有這些要素的實現(xiàn)，亞馬遜云科技選擇從生成式AI的三層架構進行全面布局。

首先是在底層，提供用于基礎模型訓練和推理的基礎設施。亞馬遜云科技在此次re:Invent大會上最新發(fā)布了第二代的自研訓練芯片——Amazon Trainium2處理器，該芯片具有65 exaflops的按需超級計算性能，可以針對訓練具有數(shù)千億至數(shù)萬億參數(shù)的基礎模型進行優(yōu)化，相較上一代有了4倍性能提升。同時，亞馬遜云科技也發(fā)布了全新的Amazon SageMaker HyperPod服務，可幫助客戶大規(guī)模加速基礎模型訓練，縮短高達40%的訓練時間，并可以確保持續(xù)數(shù)周或數(shù)月的不中斷訓練過程。

圖：亞馬遜云科技自研推理優(yōu)化芯片和訓練優(yōu)化芯片

此外，亞馬遜云科技還與英偉達強強聯(lián)手，宣布達成多項最新合作。亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級芯片和亞馬遜云科技UltraClusters技術的云AI超級計算機；首款使用NVIDIA最新芯片GH200 NVL32的NVIDIA DGX云也即將登錄亞馬遜云科技。雙方還將共同開展“Project Ceiba”項目， 將全球最快的GPU驅動AI超級計算機和NVIDIA DGX云超級計算機用于NVIDIA AI的訓練、研發(fā)、定制化模型的開發(fā)。這一超級計算集群中集成了1.6萬個GH200超級芯片，可提供高達65 ExaFLOPS的驚人算力。

圖：亞馬遜云科技與英偉達合作推出全球首個云上GH200 AI超級計算集群

看完了在AI底層技術的布局，再來看下亞馬遜云科技在中間層工具層的創(chuàng)新。工具層面的布局旨在幫助客戶實現(xiàn)最貼近業(yè)務場景的模型選擇和定制，實現(xiàn)更輕松的模型集成，同時還要確保數(shù)據安全和隱私。而Amazon Bedrock則是亞馬遜云科技提供的利器，能夠幫助客戶利用大模型構建和擴展生成式人工智能應用的最簡單方法。

圖：Amazon Bedrock簡化模型的選擇、定制和集成

基于多年來的AI和ML的技術積累，亞馬遜云科技為Amazon Bedrock提供全面的Amazon Titan模型，覆蓋了客戶從文本到多模態(tài)的業(yè)務場景。此次re:Invernt大會上，亞馬遜云科技就一口氣發(fā)布了四大新的模型：包括簡單高效的文本聊天模型Amazon Titan Text Lite，支持開放文本生成和對話聊天的Amazon Titan Text Express，支持多模態(tài)數(shù)據的Amazon Titan Multimodal Embeddings，以及具備圖像生成能力的Amazon Titan Image Generator預覽版。

而對于某些客戶而言，他們具有更強的研發(fā)能力，需要將AI模型與業(yè)務場景實現(xiàn)更緊密的耦合，來構建企業(yè)的差異化壁壘。針對這部分客戶需求，亞馬遜云科技為Amazon Bedrock新增了持續(xù)預訓練功能，當前Amazon Titan Text Lite與 Express均已支持。此外，Amazon Bedrock還提供了微調功能，支持的模型包括Cohere Command、Meta Llama 2和Amazon Titan，并將很快支持Anthropic Claude 2。此外，Amazon Bedrock還新增了具有知識庫的檢索增強生成功能以及支持跨公司系統(tǒng)和數(shù)據源執(zhí)行多步驟任務的代理功能。

在頂層的應用方面，亞馬遜云科技帶來一個有意思的AI助手——Amazon Q預覽版。這不禁讓我們聯(lián)想到了007電影中神秘角色“Q”。作為邦德的御用軍需官，他研發(fā)的五花八門的武器裝備，無數(shù)次幫助邦德化險為夷。而Amazon Q同樣也是用戶的一個智能專家，它具備多重化身。一方面，它是一個云應用專家，可以解決各種云服務相關的專業(yè)問題，并為用戶提供切實可行的實施代碼以及代碼轉換功能，幫助加速應用的維護和升級。另一方面，它又是一個企業(yè)業(yè)務專家，企業(yè)可以輕松將其連接至其業(yè)務數(shù)據和系統(tǒng)中。此外，它還是一個商業(yè)智能專家，支持將其引入多種服務和應用中以提供基于生成式AI的幫助。同時，它還是一個聯(lián)絡中心專家，能夠根據實時對話檢測客戶問題，并能夠自動回復、給出建議以及提供相關資料。

圖：Amazon Q

而除了上述提到的強大模型能力，生成式AI還需要擁有一個強大的數(shù)據底座。一個強大的數(shù)據基石，能夠讓企業(yè)的數(shù)據在不同的環(huán)境之中打通、在不同的產品之間流通。而亞馬遜云科技所提供的是一個完整的全面的端到端的數(shù)據服務，從Amazon S3、Amazon Aurora、Amazon DynamoDB到各式各樣的托管數(shù)據庫均有所支持。而在此次活動上，亞馬遜云科技還宣布將新增對另外一種商用數(shù)據庫的支持——Amazon RDS for Db2。生成式AI時代，客戶需要將向量數(shù)據和業(yè)務數(shù)據存儲在一起，于是，亞馬遜云科技的服務中啟用了向量檢索。包括在Amazon OpenSearch Serverless、Amazon DocumentDB和Amazon DynamoDB、Amazon MemoryDB for Redis中均新增了向量搜索的功能，客戶現(xiàn)在可以借助這一功能實現(xiàn)更快速的向量搜素。此外，亞馬遜云科技還推出了四項新的Zero-ETL特性，助力跨數(shù)據訪問和分析更加高效便捷。

“無論您在業(yè)務中想要做什么，都需要端到端的業(yè)務能力，需要數(shù)據能夠在整個全流程過程之中去進行最高效的流轉，同時也需要數(shù)據的治理能力?！标悤越ǚ窒淼剑巴ㄟ^我們提供的Amazon Q、Amazon Bedrock，亞馬遜云科技整個底層的能力就可以幫助我們每一個客戶最合理的使用生成式AI，為業(yè)務賦能?！?

結語

re:Invent即再造、重塑，這是一個持續(xù)的、沒有終點的旅程。而在不斷重塑的過程中，每個不同的階段推動重塑的動能是不同的。當下，生成式AI無疑是實現(xiàn)業(yè)務再造升級的關鍵技術動能，而亞馬遜云科技希望能夠通過re:Invent，為客戶突破復雜技術，用重塑實現(xiàn)科技技術的普惠，助力各類客戶實現(xiàn)業(yè)務重塑。