前沿拓展：

機器之心原創

作者：張倩

一個隨風飄搖的塑料膜，就可以讓多趟列車晚點，數千名乘客滯留在火車站。這是每年多風的季節都可能發生的事故，「北京鐵路」更是在今年的 4、5 月份連續通報了數次。

「北京鐵路」官方微博今年 5 月份發布的「接觸網掛異物」相關視頻。圖源：https://m.weibo.cn/1916657595/4641508345778988

要想把這類事故的損失降到最低，我們就要在塑料膜掛上接觸網的第一時間將其識別出來并發出警告。這也是很多智能巡檢系統正在努力做的事情。

但其實，這件事做起來沒那么容易。一方面，鐵道動輒數百、上千公里，產生的數據會給數據中心造成巨大壓力，反饋的實時性很難得到保障；另一方面，戶外環境復雜多變，事故類型層出不窮，需要系統不斷迭代升級。

這兩個問題分別指向了兩種解決方案——邊緣計算和云計算。前者負責在邊緣側小范圍地進行數據及時處理和返回，以及 AI 負載中的推理過程，保證問題能夠被及時發現并作出響應；后者負責匯聚各個邊緣節點的數據并對其進行分析，完成算法訓練和升級，然后將升級后的算法推送到邊緣，不斷提高和優化邊緣設備識別問題的能力。二者之間相互配合的過程，就是云邊協同。

物聯網場景下云邊協同示意圖 。圖源：http://www.caict.ac.cn/kxyj/qwfb/bps/201907/P020190704540095940639.pdf

在 5G、AI、IOT 技術不斷發展的今天，云邊協同正變得越來越重要。

中國信息通信研究院 2021 年 7 月發布的《云計算白皮書》顯示，隨著物聯網、工業互聯網等行業應用的核心模塊都已完成云計算平臺的部署，5G 網絡促使無線接入側能力大幅提升，邊緣側業務場景逐漸豐富，各類型應用也將根據流量大小、位置遠近、時延高低等需求對整體部署架構提出更高的要求，因此傳統上相對獨立的云計算資源、網絡資源與邊緣計算資源不斷趨向融合，即需要在云計算、邊緣計算以及網絡之間實現云網融合、云邊協同，才能實現算力服務的最優化 [1]。

白皮書還顯示，2020 年應用和計劃應用邊緣計算的中國企業占比分別為 4.9% 和 53.8%。

這些青睞邊緣計算或云邊協同的企業通常存在以下痛點：

要解決這些問題，企業就要想辦法把原來的云基礎設施向終端和用戶側延伸，在接近數據生成點的地方對數據進行詳細分析，即引入邊緣計算。但只有邊緣計算也是不夠的，因為邊緣設備只能處理局部數據，無法形成全局認知，因此實際應用中仍然需要借助云計算平臺來實現信息的融合。正如信通院發布的另一份報告 [4] 所言，「邊緣計算本身就是云計算概念的延伸，即便是賦予其獨立的概念，也無法做到與云計算切割開，二者本就是相依而生、協同運作的，云邊協同將成為主流模式。」

由此看來，在已經到來的云邊協同時代，如何構建一個高效的云邊一體化架構將成為不少企業不得不思考的問題。

其實，在這個問題上，我們已經能夠看到一些比較成功的案例，比如國內知名制造類企業寧德時代、京東方、美的，以及美國 IT 服務集成商 Insight 等。他們對云邊協同的利用涉及產品缺陷檢測、不良根因分析、設備性能監測等諸多場景。其中，寧德時代的電池缺陷檢測平臺已經達到了 99.12% 的準確率和 99.16% 的檢出率；京東方的大數據不良根因分析系統帶來了 56% 的效率提升

京東方的云邊協同品質控制解決方案。

值得注意的是，這些企業在云邊協同架構的搭建上有一個共同點：都使用了來自英特爾的軟硬件和服務。

為什么是英特爾？

首先，從硬件來看，英特爾在云邊協同方面的產品組合是非常全的，不僅囊括通用處理器（CPU）、圖形處理器（GPU）、視覺處理單元（VPU）、現場可編輯邏輯門陣列（FPGA）等針對各種負載的產品，而且覆蓋計算、存儲和網絡整個鏈路。

在這些硬件產品中，最核心的當然是英特爾上半年發布的基于 Ice Lake 的第三代至強? 可擴展處理器。這款處理器采用了 10nm 制程，可以提供最多 40 個核心，在數據中心負載時性能平均提高了 46%，可在數據中心、云端或邊緣靈活部署。

重要的是，第三代至強? 還是業界唯一具有集成深度學習加速功能的主流數據中心 CPU，在前兩代已有的高級矢量擴展 512 技術（AVX-512）、深度學習加速技術 Intel Deep Learning Boost（顯著提高基于 INT8 推理的性能）的基礎上，又加入了對常用的 bfloat 16 浮點格式的支持。與 32 位浮點數（FP32）相比，bfloat16 只通過一半的比特數且僅需對軟件做出很小程度的修改，就可達到與 FP32 同等水平的模型精度。有了這一技術的支持，第三代至強? 可擴展處理器的訓練性能可以提升 1.93 倍，推理性能可提升 1.9 倍。

同時，英特爾? 至強? 可擴展處理器對英特爾? 傲騰? 持久內存有著良好的支持。工業生產線每秒處理的數據記錄可能高達千萬級，對大容量的內存要求非常迫切。英特爾? 傲騰? 持久內存有遠超固態盤，更接近 DRAM 的性能和延時，然而價格低于 DRAM。因此，寧德時代將其納入了自己的云邊協同解決方案。「實測顯示，它能把數據落盤的性能提升 6.2 倍，并把系統切換的效率提升兩倍，有效支持了大規模生產環境下的實時管控?！箤幍聲r代流程 IT 架構與解決方案部經理賴騰飛表示。

擁有同樣優異性能且得到第三代至強? 良好支持的硬件產品還包括英特爾? 傲騰? 固態盤 P5800X、英特爾? D5-P5316 NAND 固態盤、英特爾? 以太網 800 系列適配器以及英特爾? Agilex FPGA 等。這些產品構成了當前各種云邊協同解決方案的基石。

當然，要創建一個云邊一體化的架構，只有硬件是不夠的，還需要一套完整的軟件產品組合。

在軟件方面，選對生態非常關鍵。在云服務領域，絕大多數企業應用（如 SAP、VMware、Microsoft SQL、Oracle、Salesforce、IBM Db2 等） 都不具備對非 x86 架構的商業支持，許多主流的開源軟件組件、工具、編排和容器鏡像也是如此。相比之下，這些應用都是先以英特爾架構為基礎開發的。英特爾在過去的十多年里一直是 Linux 內核的重要貢獻者，并活躍于 KVM、Kubernetes、TensorFlow 等 650 多個開源項目。目前，大多數熱門的人工智能框架（如 TensorFlow、PyTorch、MXNet 等）都已經過英特爾優化，以利用英特爾 AVX-512 和 DL Boost。這些優化可以將人工智能推理速度提高多達 30 倍。

也就是說，通過選擇基于英特爾技術的云基礎設施，無論是在本地、在某個云服務提供商內部，還是跨多個云服務提供商，都能實現無縫的企業工作負載遷移，無論何時何地都能找到企業需要的軟件。在當前的多云、混合云發展趨勢下，這一做法將極大地降低遷移難度和成本。

此外，英特爾還有一套自己的云邊協同軟件工具，包括開源、統一的大數據分析 + AI 平臺 Analytics Zoo、OpenVINO 工具套件、工業邊緣洞見平臺 (EII) 推理軟件等。

Analytics Zoo 可以輕松將 AI 模型（如 TensorFlow、Keras、PyTorch、BigDL、OpenVINO 工具套件等）應用于分布式大數據上，通過「零」代碼更改將 AI 應用程序從一臺筆記本電腦透明地擴展到大型集群，還可以使特征工程、超參數調整、模型選擇、分布式推理等應用機器學習的過程自動化。基于此，美的構建了端到端的工業視覺檢測云平臺，在 50 毫秒內就能完成對圖片的讀取和預處理，推理時間從 2 秒縮短到 124 毫秒，識別率高達 99.8%，物料成本減少 30%，人工成本減少 70%。

OpenVINO 工具套件包含深度學習部署工具包和傳統的視覺工具包兩大部分，可依托英特爾架構處理器集成的顯卡（Integrated GPU）、FPGA、VPU 等芯片，來增強云邊協同視覺系統的功能和性能。

基于此，Insight 公司為制造商打造了裝配線產品質量檢測系統，這一系統能輕而易舉地識別出產品的尺寸數據（長、寬、 高）、顏色、溫度和包裝中所含產品的數量（藥丸、食品等）。從檢測盒子中的餅干數量，到確定芯片中是否包含正確的引腳組，這一系統可勝任各類工作。

EII 由經過實踐檢驗的軟件堆棧組成，能幫助系統集成商 (SI)、 獨立軟件供應商 (ISV) 和設備制造商（如工業 PC 制造商、機器制造商等）更安全地獲取、分析和存儲視頻及時序數據。它基于一個靈活的開源微服務架構，并針對基于英特爾硬件和芯片的解決方案進行了優化，也在 Insight 的解決方案中得到了廣泛應用。

借助這些軟硬件的協同優化，京東方、寧德時代、美的、Insight 等企業實現了云邊一體化平臺的快速部署，并在實際生產中節省了大量的人力、物力，產品質量、設備穩定性均得到了顯著提升。

當然，英特爾云邊協同解決方案的優勢還不止這些，其他優勢還包括云環境的管理等。目前，AWS Outposts、Azure Stack、Google Cloud 的 Anthos 和 VMware Cloud 等主流的混合云堆棧均針對英特爾架構進行了優化。這些堆棧提供直觀的管理功能，可以降低采用云技術的障礙。此外，英特爾處理器還集成遙測功能，可用于實現閉環自動化，以編排容器、優化功耗和簡化根本原因分析。例如，節點層面的遙測可以識別沒有足夠緩存或內存的工作負載，而集群層面的遙測可以幫助優化放置決策、實現擴展和生命周期管理。

近期，我國工業和信息化部印發《新型數據中心發展三年行動計劃（2021-2023 年）》，明確指出建設新型數據中心，要實施「云邊協同工程」，推動邊緣數據中心間、邊緣數據中心與新型數據中心集群間的組網互聯，促進數據中心、云計算和網絡協同發展。毫無疑問，英特爾將在這一計劃中扮演重要角色，為企業的數字化轉型、云和數據中心轉型提供堅實的支撐。

參考鏈接：

[1]http://www.caict.ac.cn/kxyj/qwfb/bps/202107/P020210727458966329996.pdf

[2]https://m.haiwainet.cn/middle/3544241/2019/1128/content_31672769_1.html

[3]https://www.computerweekly.com/news/252483308/Multiple-network-outages-costing-enterprise-businesses-millions-of-pounds-a-year

[4]http://www.caict.ac.cn/kxyj/qwfb/bps/201907/P020190704540095940639.pdf

拓展知識：