生成式AI時代已至 亞馬遜云科技如何引領云上創新?
從蒸汽機、電氣再到如今的互聯網,每一次工業革命的背后都代表著科技的飛速發展和人類文明的巨大進步,如今隨著生成式AI的火熱發展和廣泛應用,以人工智能為代表的新一輪科技浪潮正在引領整個社會走向第四次工業革命,作為一種模擬人類智能的前沿技術,AI可以通過自主學習、推理和和自我修正等方式,實現自主的決策和行動,并在醫療保健、金融、交通、教育等領域發揮重要作用。
在這種背景下,很多企業都希望抓住生成式AI的紅利,積極利用生成式AI為業務賦能,加速自身數智轉型的進程,不過高昂的開發成本和技術投入也讓不少企業望而卻步,而作為云計算的探索開創者,亞馬遜云科技這些年來始終踐行創新實踐,用來幫助客戶突破復雜的技術,實現對科技的惠普。
“亞馬遜云科技為千行百業應用生成式AI降低門檻,重塑每個產業,改變每個人的生活。這其中就包括如何兼顧規模與成本,真正讓業務收益,如何選擇最適合業務場景的模型,如何用企業自己的數據定制并快速行動,當然還有如何充分保護數據的安全隱私的前提下負責人的應用生成式AI,因此亞馬遜云科技選擇在應用生成式AI的端到端的三個層面進行持續投入。”亞馬遜云科技大中華區產品部總經理陳曉建表示。
自研芯片創新夯實基礎設施
早在13年前,亞馬遜云科技就看到了GPU加速計算芯片的價值,并成為了第一家將GPU部署到云端的云服務提供商,現在GPU服務器已經廣泛用于HPC、視頻、AI的工作負載等等多種應用。足見亞馬遜云科技對底層硬件的重視程度。
現如今面對生成式AI的熱潮,亞馬遜云科技在今年推出了用于生成式AI和機器學習訓練的專用芯片Amazon Trainium2處理器,與第一代相比,性能提升高達整整四倍,而延遲只有第一代的1/10,并針對數千億甚至數萬億參數的大模型訓練做了特別的調優。
但只有硬件顯然是不夠的,高效率的軟硬結合可以更好地釋放硬件潛力,因此亞馬遜云科技還推出了Amazon Neuron軟件開發工具包,可以幫助用戶通過很少的代價來更好、更快捷地使用定制化的訓練和推理芯片。兼容性方面,Amazon Neuron支持Tensorflow、PyTorch這樣常用的ML框架,客戶通常只需要幾行代碼,就能夠利用他們已有的知識構建訓練和推理管道,來移植到這些全新的硬件上來。
在本次re:Invent 2023全球大會期間,亞馬遜云科技還和英偉達共同宣布了幾項最新合作:亞馬遜云科技將提供首款搭載NVIDIA Grace Hopper超級芯片和亞馬遜云科技Ultra Clusters技術的云AI超級計算機;首款使用NVIDIA最新芯片GH200 NVL32 的NVIDIA DGX云即將登錄亞馬遜云科技;此外,兩家公司將共同開展“Project Ceiba”合作項目,將全球最快的GPU驅動AI超級計算機和NVIDIA DGX云超級計算機用于NVIDIAAI的訓練、研發、定制化模型的開發,它將擁有1.6萬個最新的GH200超級芯片,提供高達65 ExaFLOPS的驚人算力。
最后,為了提高分布式環境下模型訓練的效率,亞馬遜云科技提供了Amazon SageMaker HyperPod,能夠自動管理多達上千臺機器的大規模訓練環境,自動檢測和定位硬件故障,并且能夠更換故障的實例和更改配置來自動規避所遇到的這些問題。此外Amazon SageMaker HyperPod還能自動備份,從上次所保持的檢查點來恢復訓練,從而將訓練時間大幅縮短40%。
通過基礎模型構建和拓展生成式AI
對很多企業來說,自身在AI方面的需求是隨著業務場景和行業屬性而變化的,所謂一個模型走天下的情況在現實世界幾乎不可能存在。模型選的太復雜,可能會大材小用,選擇能力不足的模型,則會白白浪費企業的成本投入。
因此針對模型選擇,亞馬遜云科技為諸多企業提供了全托管式生成式AI服務Amazon Bedrock,Amazon Bedrock是利用大模型構建和擴展生成式人工智能應用的最簡單方法。各行各業的客戶已經在使用Amazon Bedrock 重塑他們的用戶體驗、產品和流程,并將人工智能帶入他們的業務核心。
目前Amazon Bedrock已經實現了對Anthropic Claude 2.1和Meta LLama 270B的支持。前者為企業提供了先進的關鍵功能,包括業界領先的200K標記上下文窗口,而后者則適用于大規模任務,如語言建模、文本生成和對話系統。
此外,由亞馬遜云科技自己構建并由Amazon Bedrock獨占的基礎模型Amazon Titan也包含了多種用例,例如能將文本轉換為向量的Amazon Titan Text Embeddings;可以支持聊天機器人問答或文本摘要的Amazon Titan Text Lite;可用于開放式文本生成和對話聊天的Amazon Titan Text Express;能夠創建豐富的多模態搜索和推薦體驗的Amazon Titan Multimodal Embeddings多模態嵌入模型;以及能夠使用自然怨言提示生成高質量圖像的Amazon Titan Image Generator等等。
在模型定制方面,Amazon Bedrock支持多種定制化技術,包括通過Amazon Titan Text Embedding實現的RAG增強檢索生成;對Meta Llama2、Cohere環境進行微調的能力以及持續預訓練。
“持續預訓練是一個使用大量未標記數據,比如內部報告、財務計劃或者研究成果等等原始文本來提升大模型對于定制領域的知識和推理能力。也就是說這種方式,如果您想在您的專業領域擁有專業的大模型最有效的工具,它可以產生一個實際的大模型的實例,在您的私有環境下跟您的數據相結合,進行持續地訓練,這種環境無疑是作為一個深度定制化的最有效方式。”陳曉建總結道。
在模型集成方面,Amazon Bedrock的代理功能可以使生成式AI應用跨公司系統和數據源執行多步驟任務。通過代理功能,客戶在進行訪問權限等簡單設置后即可用自然語言編寫要求,隨后代理即可自動分析請求并將其分解為邏輯序列,以及采取相應的行動。
最后在數據安全和隱私方面,Amazon Bedrock不會保存任何客戶數據用于底層模型的訓練,且所有數據在傳輸和靜態時均經過加密,同時支持GDPR和HIPAA等標準。
定制AI助手實現“開箱即用”
對很多企業來說,將生成式AI引入工作場景中后,往往會發現效果并不盡如人意,由于通用的生成式AI應用不了解企業的業務、數據、客戶、運營或者員工,因此能力會被極大限制,針對這一現狀,亞馬遜云科技在今年的re:Invent 2023上推出了專為企業業務量身定制的生成式人工智能工作助手Amazon Q。
Amazon Q的推出對企業來說意義非凡,首先它是亞馬遜云科技的專家,由亞馬遜云科技17年來積累的知識和經驗訓練而成,可以在多種界面回答客戶提出的各種亞馬遜云科技相關的專業問題,例如在Amazon CodeWhisperer中回答開發人員的各種代碼相關的問題并附上可一鍵實施的代碼,并提供代碼轉換功能。
其次,它也是企業業務的專家,其擁有40多個兼容流行數據源的內置連接器,并支持自定義連接器,企業可以輕松將其連接至其業務數據和系統中。Amazon Q可使用身份驗證系統來確認用戶職能和訪問權限,并支持指定話題屏蔽或關鍵詞過濾等管理控制功能。
然后,它也是商業智能專家,支持將其引入多種服務和應用中以提供基于生成式AI的幫助。將Amazon Q引入BI應用Amazon QuickSight中,它能夠在幾秒鐘內響應用戶要求,創建精準且美觀的月度業務變化的相關描述。
最后,它也是聯絡中心專家,將Amazon Q引入云聯絡中心應用Amazon Connect中,它能夠根據實時對話檢測客戶問題,并能夠自動回復、給出建議以及提供相關資料。
當然,生成式AI的潛力不止于此,隨著物聯網的發展和信息化的普及,在未來越來越多的數據都會產生自邊緣測,如何快速地將數據整合到數據湖中并將其用于生成式AI是未來的重要方向,亞馬遜云科技也在圍繞這一方向展開技術創新。
“亞馬遜云科技針對生成式AI所提供的三層的工作不光是為底層開發人員構建的,無論是對使用大模型環境的人員,或者對大模型并不了解的只是想使用生成式AI的業務人員,我們都提供了完整的解決方案。當然在生成式AI時代,擁有強大的模型是遠遠不夠的,通過亞馬遜云科技構建的強大數據基石,企業可以具備全面的數據能力,并使這些能力能夠在不同的環境中打通,在不同的產品之間流通,并且在應用中實現可治理和可管理。”陳曉建在最后表示。
(8487332)
- 今日立春|春天如約而至,歸途一路繁花~02-05
- 1志高掛機e3故障代碼(志高掛機E3故障代碼解析)
- 2三菱空調出現05故障(解析三菱空調05故障,完美應對的方法大揭秘)
- 3SUPOR空氣能售后服務(SUPOR空氣能專業售后服務)
- 4tcl老化模式怎么退出(退出tcl老化模式的正確方法)
- 5大金空調室內機拆解過程步驟
- 6上海immergas壁掛爐官網售后(壁掛爐e2怎么修)
- 7西門子洗衣機故障自檢(西門子洗衣機故障自檢:全面診斷與解決方案指南)
- 8Videocon空調廠家售后(如何聯系Videocon空調廠家售后服務?這個標題簡潔明了地表
- 9桂林三洋SANYO空調售后維修電話(空調外機一直轉不停怎么回事)
- 10夏普電視怎么鎖(夏普電視鎖機設置詳解)
-
特靈24小時人工客服(特靈空調P是什么意思?詳解常見特靈空調故障代碼)
2024-09-11
-
三菱重工空調廠家全國統一服務熱線(家用中央三菱空調格力好還是美的好如何
2024-09-11
-
三菱電子空調24小時人工客服(三菱空調故障f5三菱空調故障F5解決方案:詳細步
2024-09-11
-
三水LG電視24小時服務熱線(電視機碰級怎么辦)
2024-09-11
-
特靈中央空調24小時人工電話(特靈空調電壓低會出現什么情況特靈空調電壓低的
2024-09-11