前沿拓展：

1、集成顯卡和獨(dú)立顯卡對(duì)比

集成顯卡是指一般不帶顯存，而是使用系統(tǒng)的一部分主內(nèi)存作為顯存的顯卡。集成顯卡可以被整合進(jìn)主板作為北橋芯片的一部分，也可以和CPU集成在同一個(gè)Die中。集成顯卡的顯存一般根據(jù)系統(tǒng)軟件和應(yīng)用軟件的需求自動(dòng)調(diào)整。如果顯卡運(yùn)行需要占用大量內(nèi)存空間，那么整個(gè)系統(tǒng)運(yùn)行會(huì)受限，此外系統(tǒng)內(nèi)存的頻率通常比獨(dú)立顯卡的顯存低很多，因此集成顯卡的性能比獨(dú)立顯卡要遜色一些。

獨(dú)立顯卡是將顯示芯片及相關(guān)器件制作成一個(gè)獨(dú)立于電腦主板的板卡，成為專業(yè)的圖像處理硬件設(shè)備。獨(dú)立顯卡因?yàn)榫邆涓呶粚挕⒏哳l獨(dú)立顯存和更多的處理單元，性能遠(yuǎn)比集成顯卡優(yōu)越，不僅可用于一般性的工作，還具有完善的2D效果和很強(qiáng)的3D水平，因此常應(yīng)用于高性能臺(tái)式機(jī)和筆記本電腦，主要的接口為PCIe。

如今，獨(dú)立顯卡與集成顯卡已經(jīng)不是2個(gè)完全割裂，各自為營的圖像處理單元了。二者在微軟DX12的支持下也可以實(shí)現(xiàn)獨(dú)核顯交火，同時(shí)AMD和NVIDIA的顯卡也可實(shí)現(xiàn)混合交火。

▲集成顯卡和獨(dú)立顯卡對(duì)比

2.GPU對(duì)比CPU：

從芯片設(shè)計(jì)思路看，CPU是以低延遲為導(dǎo)向的計(jì)算單元，通常由專為串行處理而優(yōu)化的幾個(gè)核心組成，而GPU是以吞吐量為導(dǎo)向的計(jì)算單元，由數(shù)以千計(jì)的更小、更高效的核心組成，專為并行多任務(wù)設(shè)計(jì)。

CPU和GPU設(shè)計(jì)思路的不同導(dǎo)致微架構(gòu)的不同。CPU的緩存大于GPU，但在線程數(shù)，寄存器數(shù)和SIMD（單指令多數(shù)據(jù)流）方面GPU遠(yuǎn)強(qiáng)于CPU。

微架構(gòu)的不同最終導(dǎo)致CPU中大部分的晶體管用于構(gòu)建控制電路和緩存，只有少部分的晶體管完成實(shí)際的運(yùn)算工作，功能模塊很多，擅長分支預(yù)測等復(fù)雜操作。GPU的流處理器和顯存控制器占據(jù)了絕大部分晶體管，而控制器相對(duì)簡單，擅長對(duì)大量數(shù)據(jù)進(jìn)行簡單操作，擁有遠(yuǎn)勝于CPU的強(qiáng)大浮點(diǎn)計(jì)算能力。

▲GPU和CPU的核心設(shè)計(jì)思路對(duì)比

▲GPU和CPU的核心對(duì)比

后摩爾時(shí)代，隨著GPU的可編程性不斷增強(qiáng)，GPU的應(yīng)用能力已經(jīng)遠(yuǎn)遠(yuǎn)超出了圖形渲染，部份GPU被用于圖形渲染以外領(lǐng)域的計(jì)算成為GPGPU。與此同時(shí)，CPU為了追求通用性，只有少部分晶體管被用于完成運(yùn)算，而大部分晶體管被用于構(gòu)建控制電路和高速緩存。但是由于GPU對(duì)CPU的依附性以及GPU相較CPU更高的開發(fā)難度，所以GPU不可能完全取代CPU。我們認(rèn)為未來計(jì)算架構(gòu)將是GPU+CPU的異構(gòu)運(yùn)算體系。

在GPU+CPU的異構(gòu)運(yùn)算中，GPU和CPU之間可以無縫地共享數(shù)據(jù)，而無需內(nèi)存拷貝和緩存刷新，因?yàn)槿蝿?wù)以極低的開銷被調(diào)度到合適的處理器上。CPU憑借多個(gè)專為串行處理而優(yōu)化的核心運(yùn)行程序的串行部份，而GPU使用數(shù)以千計(jì)的小核心運(yùn)行程序的并行部分，充分發(fā)揮協(xié)同效應(yīng)和比較優(yōu)勢(shì)。

異構(gòu)運(yùn)算除了需要相關(guān)的CPU和GPU等硬件支持，還需要能將它們有效組織的軟件編程。OpenCL是（OpenComputing Language）的簡稱，它是第一個(gè)為異構(gòu)系統(tǒng)的通用并行編程而產(chǎn)生的統(tǒng)一的、免費(fèi)的標(biāo)準(zhǔn)。OpenCL支持由多核的CPU、GPU、Cell架構(gòu)以及信號(hào)處理器(DSP)等其他并行設(shè)備組成的異構(gòu)系統(tǒng)。

▲OpenCL異構(gòu)運(yùn)算構(gòu)成

▲異構(gòu)運(yùn)算下的GPU工作流程

3.GPU與ASIC和FPGA的對(duì)比：

數(shù)據(jù)、算力和算法是AI三大要素，CPU配合加速芯片的模式成為典型的AI部署方案，CPU提供算力，加速芯片提升算力并助推算法的產(chǎn)生。常見的AI加速芯片包括GPU、FPGA、ASIC三類。

GPU用于大量重復(fù)計(jì)算，由數(shù)以千計(jì)的更小、更高效的核心組成大規(guī)模并行計(jì)算架構(gòu)，配備GPU的服務(wù)器可取代數(shù)百臺(tái)通用CPU服務(wù)器來處理HPC和AI業(yè)務(wù)。

FPGA是一種半定制芯片，靈活性強(qiáng)集成度高，但運(yùn)算量小，量產(chǎn)成本高，適用于算法更新頻繁或市場規(guī)模小的專用領(lǐng)域。

ASIC專用性強(qiáng)，市場需求量大的專用領(lǐng)域，但開發(fā)周期較長且難度極高。

在AI訓(xùn)練階段需要大量數(shù)據(jù)運(yùn)算，GPU預(yù)計(jì)占64%左右市場份額，F(xiàn)PGA和ASIC分別為22%和14%。推理階段無需大量數(shù)據(jù)運(yùn)算，GPU將占據(jù)42%左右市場，F(xiàn)PGA和ASIC分別為34%和24%。

▲不同應(yīng)用場景AI芯片性能需求和具體指標(biāo)

▲GPU、FPGA、ASIC AI芯片對(duì)比

4.“考古”GPU：GPU的發(fā)展歷史

在PC誕生之初，并不存在GPU的概念，所有的圖形和多媒體運(yùn)算都由CPU負(fù)責(zé)。但是由于X86 CPU的暫存器數(shù)量有限，適合串行計(jì)算而不適合并行計(jì)算，雖然以英特爾為代表的廠商多次推出SSE等多媒體拓展指令集試圖彌補(bǔ)CPU的缺陷，但是僅僅在指令集方面的改進(jìn)不能起到根本效果，所以誕生了圖形加速器作為CPU的輔助運(yùn)算單元。

GPU的發(fā)展史概括說來就是NVIDIA、AMD(ATI)的發(fā)展史，在此過程中曾經(jīng)的GPU巨頭Imagination、3dfx、東芝等紛紛被后輩超越。如今獨(dú)立顯卡領(lǐng)域主要由英偉達(dá)和AMD控制，而集成顯卡領(lǐng)域由英特爾和AMD控制。

▲GPU的發(fā)展史

5.GPU發(fā)展史：NVDIA GPU微架構(gòu)回顧

英偉達(dá)的GPU架構(gòu)自2008年以來幾乎一直保持著每2年一次大更新的節(jié)奏，帶來更多更新的運(yùn)算單元和更好的API適配性。在每次的大換代之間，不乏有一次的小升級(jí)，如采用開普勒二代微架構(gòu)的GK110核心相較于采用初代開普勒微架構(gòu)的GK104核心，升級(jí)了顯卡智能動(dòng)態(tài)超頻技術(shù)，CUDA運(yùn)算能力提升至3.5代，極致流式多處理器（SMX）的浮點(diǎn)運(yùn)算單元提升8倍，加入了Hyper-Q技術(shù)提高GPU的利用率并削減了閑置，更新了網(wǎng)格管理單元（Grid Management Unit），為動(dòng)態(tài)并行技術(shù)提供了靈活性。

英偉達(dá)GPU微架構(gòu)的持續(xù)更新，使英偉達(dá)GPU的能效提升了數(shù)十倍，占領(lǐng)了獨(dú)立顯卡技術(shù)的制高點(diǎn)。

▲2008-2020英偉達(dá)GPU微架構(gòu)進(jìn)化

6.GPU發(fā)展史：微軟DirectX API回顧

圖形API在GPU的運(yùn)算過程中發(fā)揮著連接高級(jí)語言、顯卡驅(qū)動(dòng)乃至底層匯編語言的作用，充當(dāng)GPU運(yùn)行和開發(fā)的“橋梁”和“翻譯官”。微軟DirectX標(biāo)準(zhǔn)可以劃分為顯示部份、聲音部份、輸入部分和網(wǎng)絡(luò)部分，其中與GPU具有最直接關(guān)系的是顯示部分。顯示部份可分為DirectDraw和Direct3D等標(biāo)準(zhǔn)，前者主要負(fù)責(zé)2D圖像加速，后者主要負(fù)責(zé)3D效果顯示。

從1995年發(fā)布的初代DirectX 1.0開始微軟的DirectX已經(jīng)更新到了DirectX 12。在此過程中，DirectX不斷完善對(duì)各類GPU的兼容，增加開發(fā)人員的權(quán)限，提高GPU的顯示質(zhì)量和運(yùn)行幀數(shù)。

DirectX一般和Windows操作系統(tǒng)同步更新，如Windows 7推出了DX11、Windows 10推出了DX12。

▲1998-2014微軟DirectX進(jìn)化

7.GPU發(fā)展史：NVDIA GPU制程構(gòu)回顧

GPU和CPU都是以先進(jìn)制程為導(dǎo)向的數(shù)字芯片。先進(jìn)制程可以在控制發(fā)熱和電能消耗的同時(shí)，在有限的Die中放入盡可能多的晶體管，提高GPU的性能和能效。

NVIDIA的GPU從2008年GT200系列的65納米制程歷經(jīng)12年逐步升級(jí)到了RTX3000系列的7/8納米制程，在整個(gè)過程中，晶體管數(shù)量提升了20多倍，逐步確立了在獨(dú)立GPU的市場龍頭地位。

同時(shí)在整個(gè)過程中，NVIDIA一直堅(jiān)持不采用IDM的模式，而是讓臺(tái)積電負(fù)責(zé)GPU的制造，自生專注于芯片設(shè)計(jì)，充分發(fā)揮比較優(yōu)勢(shì)。

▲2008-2020英偉達(dá)GPU主要制程和晶體管數(shù)進(jìn)化

8.GPU微架構(gòu)升級(jí)趨勢(shì)：更多、更專、更智能

根據(jù)前12年的GPU發(fā)展軌跡來看，GPU微架構(gòu)的升級(jí)趨勢(shì)可以簡要地概括為”更多”、”更專”、”更智能”。“更多”是指晶體管數(shù)量和運(yùn)算單元的增加，其中包括流處理器單元、紋理單元、光柵單元等數(shù)量上升。“更專”是指除了常規(guī)的計(jì)算單元，GPU還會(huì)增加新的運(yùn)算單元。例如，英偉達(dá)的圖靈架構(gòu)相較于帕斯卡架構(gòu)新增加了光追單元和張量單元，分別處理實(shí)時(shí)光線追蹤和人工智能運(yùn)算。“更智能”是指GPU的AI運(yùn)算能力上升。如第三代的張量單元相較于上代在吞吐量上提升了1倍。

▲英偉達(dá)GTX1080對(duì)比RTX2080

▲英偉達(dá)伏特微架構(gòu)對(duì)比安培微架構(gòu)AI加速性能 ▲英偉達(dá)伏特微架構(gòu)對(duì)比安培微架構(gòu)AI加速性能

9.GPU API升級(jí)趨勢(shì)：更貼近底層

綜合分析微軟的DirectX12、蘋果的Metal2、Khronos Group的Vulkan API分別相較于前代DirectX11、Metal、OpenGL的升級(jí)，我們認(rèn)為GPU API的升級(jí)趨勢(shì)是提高GPU的運(yùn)行效率、增加高級(jí)語言和顯卡驅(qū)動(dòng)之間的連接、優(yōu)化視覺特效等。其中，提供更底層的支持：統(tǒng)籌高級(jí)語言、顯卡驅(qū)動(dòng)和底層語言是幾乎所有API升級(jí)的主要方向。

不過提供更底層的支持只是更高的幀數(shù)或更好的畫質(zhì)的必要非充分條件。在整個(gè)軟件的開發(fā)過程中，軟件開發(fā)商需要比驅(qū)動(dòng)程序和系統(tǒng)層更好地調(diào)度硬件資源，才能充分發(fā)揮底層API的效果。

在顯示質(zhì)量方面，DirectX 12 Ultimate采用當(dāng)下最新的圖形硬件技術(shù)，支持光線追蹤、網(wǎng)格著色器和可變速率著色，PC和Xbox共用同一個(gè)API，堪稱次世代游戲的全新黃金標(biāo)準(zhǔn)。

▲非底層DirectX 11對(duì)比底層DirectX 12

▲DirectX 12 Ultimate新特性

10.GPU制造升級(jí)趨勢(shì)：以先進(jìn)制程為導(dǎo)向

GPU性能的三大決定因素為主頻、微架構(gòu)、API。這些因素中主頻通常是由GPU的制程決定的。制程在過去通常表示晶體管或柵極長度等特征尺寸，不過出于營銷的需要，現(xiàn)在的制程已經(jīng)偏離了本意，因此單純比較納米數(shù)沒有意義。按英特爾的觀點(diǎn)，每平方毫米內(nèi)的晶體管數(shù)（百萬）更能衡量制程。據(jù)此，臺(tái)積電和三星的7nm工藝更接近英特爾的10nm工藝。

先進(jìn)的制程可以降低每一個(gè)晶體管的成本，提升晶體管密度，在GPU Die體積不變下實(shí)現(xiàn)更高的性能；先進(jìn)制程可以提升處理器的效能，在性能不變的情況下，減少發(fā)熱或在發(fā)熱不變的情況下，通過提升主頻來拉高性能。

先進(jìn)制程的主要目的是降低平面結(jié)構(gòu)帶來的漏電率問題，提升方案可以通過改變工藝，如采用FinFET（鰭式場效應(yīng)晶體管）或GAA（環(huán)繞式柵極）；或采用特殊材料，如FD-SOI（基于SOI的超薄絕緣層上硅體技術(shù))。

▲先進(jìn)制程工藝之FinFET

▲英特爾10nm先進(jìn)制程帶來的性能和效能提升

11.GPU制造升級(jí)趨勢(shì)：Chiplet化

高位寬內(nèi)存（HBM）是小芯片（Chiplet）在GPU中的常見應(yīng)用。HBM是一種高速計(jì)算機(jī)存儲(chǔ)器3D堆棧SDRAM接口。首款HBM于2013年推出，第二代HBM2已于2016年被JEDEC接受。目前，HBM主要應(yīng)用在高端獨(dú)立顯卡和服務(wù)器顯卡。

HBM通過3D堆疊4個(gè)DRAM Die和1片邏輯Die組成一個(gè)Chiplet，其中每片DRAM具有2個(gè)128位通道，通過TSV（硅通孔）相連。所以，一片Chiplet總共8個(gè)128位通道，總位寬1024比特。每片Chiplet又與GPU封裝在同一中介層（Interposer）連接GPU芯片。相比之下，GDDR5內(nèi)存的總線寬度為32位，帶有512位內(nèi)存接口的顯卡也只有16個(gè)通道，而且采用傳統(tǒng)的FBGA封裝。HBM與GDDR5相比，每GB的表面積減少94%，每GB/S帶寬的能效提升2倍多。

HBM支持最多每個(gè)Chiplet 4GB的存儲(chǔ)，HBM2在HBM的基礎(chǔ)上將每片Chiplet的最大容量提升至了8GB，顯存主頻提升1倍，同時(shí)總位寬保持不變。

▲HBM的GPU應(yīng)用

▲GDDR5對(duì)比HBM

▲HBM先進(jìn)封裝結(jié)構(gòu) ▲HBM先進(jìn)封裝結(jié)構(gòu)

12.GPU制造的發(fā)展趨勢(shì)：Fab+Fabless為導(dǎo)向

GPU制造可分為IDM和Fab+Fabless。IDM集芯片設(shè)計(jì)、芯片制造、芯片封裝和測試等多個(gè)產(chǎn)業(yè)鏈環(huán)節(jié)于一身。英特爾為IDM的代表。

Fabless只負(fù)責(zé)芯片的電路設(shè)計(jì)與銷售，將生產(chǎn)、測試、封裝等環(huán)節(jié)外包。蘋果和AMD為Fabless的代表。Foundry只負(fù)責(zé)制造，不負(fù)責(zé)芯片設(shè)計(jì)，可以同時(shí)為多家設(shè)計(jì)公司服務(wù)，但受制于公司間的競爭關(guān)系。臺(tái)積電為Foundry的代表。目前英特爾GPU落后的主要原因是GPU制程的落后，根本原因是英特爾受困于IDM運(yùn)作模式。隨著28納米以下先進(jìn)制程的發(fā)展，芯片的制造成本和設(shè)計(jì)成本成指數(shù)級(jí)上升。同時(shí)，一條12英寸晶圓的生產(chǎn)線從建設(shè)到生產(chǎn)的周期約2年，投資至少30-50億美元，資本支出占比80%，整體風(fēng)險(xiǎn)非常大。英特爾以有限的資源不支持它持續(xù)的設(shè)計(jì)和生產(chǎn)的的兩線作戰(zhàn)。

Fab+Fabless的模式通過充分發(fā)揮比較優(yōu)勢(shì)，分散了GPU設(shè)計(jì)和制造的風(fēng)險(xiǎn)，符合半導(dǎo)體分工的大趨勢(shì)。

▲IDM與Fab+Fabless對(duì)比

▲芯片設(shè)計(jì)費(fèi)用趨勢(shì)（億美元）

13.GPU需求概述

過去20多年里，GPU的基本需求源于視頻加速，2D/3D游戲。隨后GPU運(yùn)用自身在并行處理和通用計(jì)算的優(yōu)勢(shì)，逐步開拓服務(wù)器、汽車、礦機(jī)、人工智能、邊緣計(jì)算等領(lǐng)域的衍生需求。

雖然GPU無法離開CPU獨(dú)立運(yùn)作，但是在當(dāng)前“云化”加速的時(shí)代，離開了GPU的CPU也無法勝任龐大的計(jì)算需求。所以GPU和CPU組成了異構(gòu)運(yùn)算體系，從底層經(jīng)由系統(tǒng)軟件和驅(qū)動(dòng)層支持著上層的各種應(yīng)用。GPU已經(jīng)成為了專用計(jì)算時(shí)代的剛需。

▲現(xiàn)代云計(jì)算中GPU加速的剛需

出品丨自主可控新鮮事

本文內(nèi)容綜合自方正證券、智東西等

拓展知識(shí)：