過去20多年時間,亞馬遜雲科技已經用不斷擴張的業務證明,沒有什麼問題是雲計算解決不了的。而面對如火如荼的ai趨勢,亞馬遜雲科技則在用全面更新的全家桶服務向全球用戶展示,這條雲計算之路依舊可以承載用戶,奔向彼岸。
時代在變,但創新的內核不變!
與所有it系統一樣,亞馬遜雲科技為用戶提供的雲服務也由基礎架構、中間件和應用組成。其中基礎架構提供計算、存儲和數據能力;中間層作為平台,提供面向上層應用的各類基礎能力;而應用層則直接與業務相對應,為用戶提供更直接的商業價值。
正如ai需求推動了整個it產業的全面進化一樣,新時代的來臨也意味著亞馬遜雲科技需要用三層架構的整體革新來滿足用戶的新業務、新需求。而這正是亞馬遜雲科技在re:invent 2024大會上用海量新品所傳達的聲音。
本次大會一開場,亞馬遜雲科技ceo matt garman就進行了精準的闡述:我們打破了傳統的應用和解決方案模式,並將其中的核心及精華部分作為雲服務的基礎組件。而通過將數百種基礎組件組合在一起,用戶便可構建出任意形態的業務。這一方式既能幫助初創公司開展業務,也能為大型企業及政府所用,來解決複雜問題。
在面對ai浪潮時,亞馬遜雲科技的這套創新模式同樣奏效。
用三層架構的全面革新贏得未來
re:invent 2024大會上,亞馬遜雲科技發布了數十個新產品、新功能,涵蓋了計算、存儲、資料庫、大模型、ai開發平台、ai業務平台和ai應用。換言之,亞馬遜雲科技正在用三層架構的全面革新來創造新的基礎組件,而後,用戶便可用這些新組建構建出適應ai時代的業務體系,再一次完成轉型。
01、基礎架構層性能全面提升
1)計算:龐然算力即刻呈現
亞馬遜雲科技宣布了面向ai訓練的trainium 3晶元,採用3nm工藝打造,可提供2倍的性能和40%的能效提升。首批基於trainium 3的實例預計將於2025年底可用。此外,蘋果也將成為亞馬遜雲科技定製ai晶元的用戶,用來支持其的搜索等關鍵ai業務。
在宣布新硬體的同時,亞馬遜雲科技高級副總裁peter desantis也表示,使用trainium 2晶元的amazon ec2 trn2實例現已正式可用。實例背後的硬體搭載了16顆trainium 2晶元,fp8算力可達20.8 pflops;而由4台amazon ec2 trn2組成的ultraserver則可通過neuronlink互聯實現更高的集群效率,將性能線性擴展至83.2pflops。而相對於前代產品,採用trainium 2晶元的amazon ec2 trn2實例可為用戶帶來30-40%的計算性價比提升。
此外,亞馬遜雲科技還宣布搭載新一代blackwell架構gpu的全新amazon ec2 p6實例也即將在25年早些時候可用,其性能將達到上一代產品性能的2.5倍。
2)新一代amazon sagemaker:更省、更快、更靈活
amazon sagemaker是亞馬遜雲科技於2017年推出的一款機器學習平台,開發者可在其上構建、訓練和部署各類ai模型,並對整個過程實施精確的管理與調度。而在2023年,亞馬遜雲科技也針對生成式ai和大模型訓練需求的快速增長,推出了新一代amazon sagemaker。本次大會上,亞馬遜雲科技也延續了amazon sagemaker快速迭代的風格,發布了一系列實用功能。
hyperpod靈活訓練計劃:能夠根據用戶的預算和時效需求自動創建模型訓練計劃, 並自動完成基礎架構和集群的配置工作,從而減輕頻繁變更和手動配置所帶來的巨大工作量,同時也能將用戶的雲端資源利用率提升至90%或更高。
hyperpod任務管理器:通過實時監控硬體的分配情況和利用率,以實現不同訓練任務之間的硬體資源動態分配;既能確保高優先順序任務能夠按時完成,也可大幅降低用戶成本支出
來自合作夥伴的ai訓練工具支持:來自comet、deepchecks、fiddler、lakera等生態夥伴的多款ai模型訓練工具目前已上架amazon sagemaker,可幫助用戶更好的解決訓練時間、部署、管理和安全等方面的痛點,提升模型構建、訓練和部署效率。
3)存儲:更快釋放數據價值
全新推出的amazon s3 tables存儲服務能夠幫助用戶更好的使用iceberg來管理、查詢和訪問底層的parquet文件,從而在大數據處理、bi數據分析及json嵌套數據等應用場景中獲得更多優勢。amazon s3 tables存儲服務將自動完成iceberg表的壓縮、快照、 體積管理等維護工作。因此相對於傳統存儲服務,amazon s3 tables能夠提供3倍的查詢性能和10倍的iceberg事務處理性能。
對此,matt也表示:用戶可以在無需僱傭專業團隊的情況下,跨越iceberg在管理、擴展、訪問控制等方面的複雜性問題,使用amazon s3 tables來獲得更好的存儲性能。
此外,亞馬遜雲科技還推出了面向元數據管理的amazon s3 metadata存儲服務。通過將所有元數據和其對應的object自動存儲在iceberg表中,用戶便可更方便的進行查詢和分析操作。而在object出現變動時,amazon s3 metadata也能以近乎實時的方式來更新與其對應的元數據,由此便能減少用戶在數據分析、ai建模等業務中所要承擔的工作量,繼而提升業務效率。
4)資料庫:海量優勢特性同時掌握
分散式關係型資料庫amazon aurora dsql最早於2014年推出,而經過連續10年持續不斷地更新,亞馬遜雲科技終於在本次大會上宣布,amazon aurora dsql同時實現了:
幾乎無限的可擴展性:通過橫向擴展來幫助用戶應對快速增長的數據容量並保持資料庫整體性能;
0基礎設施管理負擔:無需關注基礎架構的規劃、建設和運營,讓用戶專註於數據、業務和價值;
5個9的多region可用性:更高的可靠性和跨region特性能夠更好的承載用戶的關鍵業務;
更強的數據一致性:更高的數據一致性能夠避免數據衝突和可能導致的一系列系統錯誤,幫助用戶實現業務的安全及合規;
完整兼容postgresql:對開源資料庫的完整兼容將讓用戶獲得更高的業務靈活性,避免被綁定。
amazon aurora dsql的跨region讀寫延遲僅為1ms,比競爭對手的4.4ms低4倍,擁有更好的延遲表現。
對此,matt也在大會上表示:亞馬遜雲科技的業務邏輯不是讓用戶在a特性和b特性之間做選擇,而是要通過技術和產品創新,將所有可能的優勢全部交給用戶,使用戶收穫更多價值。
amazon dynamodb是亞馬遜雲科技推出的另一款nosql資料庫,能夠為用戶提供高性能、低延遲、5個9高可靠、高可擴展等眾多優秀特性,適用於實時分析、網路遊戲、物聯網、社交媒體、內容管理等眾多對實時性要求較高的業務。而在本次大會中,亞馬遜雲科技則宣布amazon dynamodb將獲得多region和多活能力,這對於跨國業務的統一管理和高效運營帶來諸多便利。
02、中間層功能答覆更新
1)amazon nova:大模型6+2,拓展ai新疆界
ai時代,模型代表了創新,是it廠商的核心競爭力。而在此次大會中,亞馬遜雲科技總裁andy jassy也一口氣發布了6款亞馬遜雲科技自研的大模型產品,並對接下來的產品方向進行了預告。
首先是包含micro、lite、pro和premier四大版本的大模型產品amazon nova。其中,amazon nova micro版是一款文本類模型,用於完成各類簡單任務,旨在為用戶提供行業最低的成本和延遲表現。而amazon nova的lite、pro和premier版本則是體積和智能程度依次遞增的多模態模型,具備文本、圖像和視頻輸入能力,用戶可根據對成本和任務複雜度在不同版本之間進行選擇。
在與競爭對手的對比中,amazon nova micro對標常見的8b級別模型,能夠在語言理解、通用推理、普通場景推理、深度推理、數學、python代碼生成、多步驟推理等十餘個項目中獲得領先。而在amazon nova lite版與常見11b級別模型、pro版與常見90b級別模型的對比中,亞馬遜雲科技依舊能獲得明顯優勢。
目前,amazon nova的micro、lite、pro版本已經可用,而premier版則會在25年q1正式上線。
其次是主打文生圖功能的amazon nova canvas,用戶可以通過自然語言生成精美圖片,並對圖像的顏色和布局進行控制和調整。同時,亞馬遜雲科技還為amazon nova canvas增加了用於追蹤圖片用途的水印功能,以及避免生成有害內容的內建控制功能。
而在與另外兩款常見文生圖模型的對比測試中,amazon nova canvas在圖片質量和按指作畫方面都具備明顯的優勢。目前amazon nova canvas已正式可用。
第三是則是面向視頻生成領域的amazon nova reel模型。亞馬遜雲科技為其提供了攝像機平移、360度旋轉、放大縮小等多種鏡頭控制功能。目前,amazon nova reel可以生成時長為6秒的視頻,而在未來幾個月的更新之後,這一限制則會放寬至2分鐘。
amazon nova reel模型目前已處於可用狀態。同樣的,亞馬遜雲科技也為amazon nova reel模型增加了避免生成有害內容的內建控制功能。
此外,亞馬遜雲科技也預告了即將在2025年上線的兩款新模型:
amazon nova speech-to-speech:亞馬遜雲科技即將在25年第一季度推出的語音對話模型。
amazon nova any-to-any:即將於25年中推出,用戶可以輸入文本、語音、圖像或視頻內容,並得到文本、語音、圖像或視頻內容。any-to-any是當今業界模型研究的前沿領域,也將是未來模型的終極形態。顯然,any-to-any模型的即將上架也預示著亞馬遜雲科技已經對ai模型巔峰挑戰的過程中取得了里程碑式進展。
2)amazon bedrock:用海量新功能連接ai與應用
當然,有了模型之後,用戶還需要一系列平台和工具來構建ai業務和應用。而amazon bedrock正是完成這些工作的理想平台。自2023年推出之後,亞馬遜雲科技一直在為該平台增加新功能、新能力,使用戶能夠更簡便、更順暢的完成ai工作流。
而才本次大會上,亞馬遜雲科技也宣布了眾多amazon bedrok的新功能:
prompt緩存功能:用戶可通過將prompt關鍵詞加入系統緩存來減少不同模型聯合生成內容時的調用數量,繼而實現最高85%的延遲降低和90%的成本降低。
prompt智能路由功能:允許用戶調用不同模型來應對複雜對話任務中的不同問題,從而獲得更好的內容生成效果。
生成式ai索引功能:亞馬遜雲科技為amazon bedrock平台增加了sharepoint、onedrive、salesforce等40多種數據源連接器,允許用戶在amazon kendra(一款企業智能搜索服務)等功能時聯接更多不同類型的數據源。
結構化數據檢索功能:允許amazon bedrock平台調用存儲在amazon sagemaker數據湖、amazon redshift數據倉庫以及amazon s3 tables表中的結構化數據,讓用戶的rag類應用獲得可定製、更精準的數據反饋。
graphrag功能:允許用戶在使用amazon bedrock的知識庫功能時獲得圖形化的知識圖譜,幫助用戶更好的理解知識庫所使用的各類數據源之間的關係。
數據自動化功能:允許用戶按照自定義規則,以多模態模型生成的內容為基礎,自動生成結構化的數據;同時也允許用戶以單一api形式調用此功能,從而降低工作複雜性、簡化工作流。
多模態毒性檢測功能:為amazon bedrock guardrail增加多模態能力,避免用戶開發的ai應用程序生成暴力、血腥、仇恨、歧視等的文字和圖片內容,提升用戶業務的合規性和安全性。
此外,亞馬遜雲科技也宣布poolside assistant的malibu和point模型、stability.ai的stable diffusion 3.5模型和luma ai模型也已登陸amazon bedrock市場。由此,amazon bedrock市場已經能夠為用戶提供包括amazon nova在內的40餘款基礎模型,大大提升了用戶在構建ai業務和應用時的靈活性。
大會上,亞馬遜雲科技人工智慧與數據部門副總裁swami博士也表示:amazon bedrock是生成式ai時代用戶構建ai業務的全新基石。amazon bedrock不僅為用戶提供了豐富的可選模型,更用海量工具創造了流暢、無縫的ai業務開發體驗。同時,amazon bedrock平台在數據聯接便利性、安全性等方面也處於業界領先水平。
03、應用層場景百花齊放
1)0代碼也能完成ai開發
amazon q developer是亞馬遜雲科技面向開發者推出的新一代生成式人工智慧助手,能夠幫助開發者完成編程、測試、診斷、安全掃描、修復、優化等一系列工作,可大幅降低開發者的工作量並提升工作效率。
而在本次大會上,亞馬遜雲科技也宣布amazon q developer功能已在amazon sagemaker canvas中可用。由此,開發者不僅可以獲得amazon sagemaker canvas圖形化界面的助力,更能通過自然語言來理解和使用其中海量功能,從而獲得真正的0代碼機器學習模型開發和ai應用開發體驗。
2)amazon q business:一句話就能獲得商業洞察
amazon q business則是亞馬遜雲科技面向企業員工推出的生成式人工智慧助手,可以整合企業內部的各類資料庫、數據源,為員工提供信息問答、摘要生成等功能,提升員工的數據能力和工作效率。
而現在,用戶也可以在amazon quicksight(亞馬遜雲科技推出的數據分析bi服務)中使用amazon q business,從而用自然語言來指導系統生成圖文並茂、數據詳實的業務簡報,並為企業經營管理提供專業洞察。
三層架構全面更新,一朵雲搞定ai業務
每一年,亞馬遜雲科技都會在re:invent大會上用海量的新產品、新功能讓觀眾和用戶大飽眼福,也讓企業對未來的業務效率和創新充滿遐想。而這正是re:invent大會想要達到的效果——讓理想發生。
生成式ai深刻的影響著企業的生產方式、經營管理模式、甚至商業邏輯,因此,面向ai的探索和創新正在無數企業和行業中頻繁發生。而在服務全球用戶的過程中,亞馬遜雲科技不僅看到了需求的變化,更將藏於其中的方法論和創新邏輯融入了新產品和新功能之中。由此,用戶也能通過部署和使用這些新產品、新服務來獲得其背後的經驗支撐,從而在業務創新的過程中少走彎路、快速向前。
顯然,在這條由需求——經驗——創新相互驅動的正循環之中,用戶、亞馬遜雲科技以及海量合作夥伴都將成為贏家,而其獎品則是ai時代,以及接下來的每個時代。