到底什麼是CPUGPUTPU,晶片卡脖子還有機會翻身嗎?

在7月8日【科技特訓營】的直播課程中,王煜全老師分析了晶片產業的未來趨勢以及產業控制點上的關鍵科技公司。

一提到晶片產業,很多特訓營會員就表示很頭疼,如果不是從事半導體相關行業,可能很多人都會對這些晶片術語感到陌生,所以咱們就講講到底什麼是CPU、GPU、TPU、ASIC、FPGA,以及這些東東有什麼用。

首先看看晶片的種類,一般來說晶片可以分為:計算晶片、儲存晶片、感知晶片、通訊晶片、能源晶片等。

我們今天的內容,

主要是關於人工智慧時代很重要的CPU、GPU、TPU等計算晶片。

到底什麼是CPUGPUTPU,晶片卡脖子還有機會翻身嗎?

不知道你有沒有同樣的經歷,以前買電腦,必須要問賣家的就是電腦CPU效能怎麼樣。後來隨著人工智慧的發展,又出現了很多新名詞,GPU、TPU、NPU,這些詞都是什麼意思呢?

CPU(Central Processing Unit)中央處理器,就像我們的大腦,是負責計算和整體協調的。

GPU(Graphics Processing Unit)圖形處理器,是專門為處理圖形任務而產生的晶片。

但是GPU不僅可以用在計算機的顯示卡上,還可以用在手機、遊戲機、電動車等各種有多媒體處理需求的裝置上。

那麼,CPU和GPU有什麼區別?

CPU功能模組很多,它擅長複雜的運算和控制,而GPU的結構相對簡單,它擅長計算量大,但複雜度不高,重複很多次的工作。

也就是說,CPU擅長做控制和任務分配,GPU擅長做具體的任務。

到底什麼是CPUGPUTPU,晶片卡脖子還有機會翻身嗎?

上圖就是CPU和GPU的結構圖,其中的一個重要部分就是圖中綠色的叫ALU算術邏輯單元,主要執行加減乘除和邏輯運算。

一般在CPU中,ALU算術邏輯單元佔整個芯片面積不到5%,CPU裡還包含控制單元、儲存單元等,所以它的算力不高,但什麼都能做。

和CPU相比,GPU擁有數以千計的ALU組成的大規模平行計算架構,在計算速度方面有了突破性的提升,算力通常是CPU的幾十上百倍。

由於深度學習需要大量的訓練,雖然演算法不復雜,但資料量很大,所以在人工智慧時代,很多應用都需要GPU強大的平行計算能力。

通常是一個任務來了之後,CPU先分析下任務的性質,然後決定分配給誰,遇到大量的重複性工作時,就呼叫GPU平行計算。

以往在一般人的印象中,GPU主要是顯示卡,做影象處理器的,實際上它在科學計算、密碼破解、數值分析、海量資料處理等領域都有很大的用處,也是一種比較通用的晶片。

隨著5G、物聯網、邊緣計算的發展,有一種趨勢越來越明顯,就是未來會需要更多的專項效能更高的專用計算,解決各種行業的特定問題,這時候通用晶片可能就不是最好的解決方案了,專用的定製化晶片會更加適合。

提到專用晶片,首先就要介紹ASIC。

ASIC

(Application Specific Integrated Circuit)翻譯過來就是專用積體電路,是一種定製化的晶片。

與CPU、GPU 的通用性相比,ASIC只做一件事情,針對具體的某個任務來說,它的處理速度更快,能耗更低,但是成本相對比較高。

例如,谷歌的TPU(Tensor Processing Unit 張量處理器),就是專門為深度神經網路運算而研發的晶片,是一款ASIC定製化晶片。

谷歌TPU與同期的CPU和GPU相比,可以提供15-30倍的效能提升,以及30-80倍的效率提升,可以大規模運用於神經網路,還能把成本控制在可接受的程度上。

TPU效能強勁的秘訣,就是因為它專注於神經網路計算:

與CPU和GPU相比,單用途的TPU就是一個單執行緒晶片,不需要考慮快取、分支預測、多道處理等問題,TPU的控制單元更小,更容易設計,給片上儲存器和運算單元留下了更大的空間,TPU的大小隻有其他晶片的一半。

矽片越小,成本越低,良品率也越高。

除了TPU,大家可能還聽過NPU神經網路處理器,你可能猜到了,NPU也是一款ASIC定製化晶片,專門用於神經網路演算法與加速。

除了ASIC,另一類重要的專用晶片就是半定製晶片FPGA。

FPGA

(Field Programmable Gate Array) 翻譯過來就是現場可程式設計門陣列。

那麼ASIC和FPGA有什麼不同?

在設計方面,

ASIC是專門根據特定需求設計電路後,就交給晶片廠家流片,晶片功能就固定了,不能再隨便更改。而FPGA是根據需求設計好電路後,下載到晶片裡,隨時還可以修改。

在效能方面,

ASIC是最最佳化的固定設計,最最佳化的佈局走線,比FPGA延遲低,面積小,功耗低。

在成本方面,

單個晶片ASIC比FPGA貴,但是批次化以後ASIC成本可以大大降低。

所以當你的需求是要快速迭代,靈活多變,而且小批次的時候,用FPGA就比較好,如果是大批次且複雜度較高的成熟產品,ASIC就更適合。

現在你瞭解了通用晶片和專用晶片的特點,就容易理解為什麼現在大家都用異構計算了吧?

異構計算,就是多種計算單元(例如CPU、GPU、ASIC、FPGA等)的整合和融合。

一般來說,異構計算的晶片中既有通用計算單元,也有高效能的專用計算單元,與傳統的通用計算晶片相比,異構架構具有高效能、低功耗等優點。

還有個熱詞SoC(System on Chip系統級晶片),就是一種異構計算晶片。

SoC晶片裡的典型案例,是2020年1月蘋果釋出的首款自研電腦晶片M1。

到底什麼是CPUGPUTPU,晶片卡脖子還有機會翻身嗎?

蘋果M1是一款 SoC異構計算晶片,集成了8個CPU核心、8個GPU核心和16個神經網路加速引擎。

異構計算技術能讓多種不同型別的計算核心高效協同,從而達到整個系統晶片的效能突破。

例如M1 晶片最高可以將中央處理器速度提升到3。5 倍,將圖形處理器速度提升到6 倍,將機器學習的速度提升到15 倍,同時,將電池續航時間最高提升到2 倍。

如果你關注新聞,就會發現不僅Google、蘋果在加緊研發自己的晶片,亞馬遜、Facebook、特斯拉等公司都在打造自己的用於人工智慧的定製晶片。

特斯拉的全自動駕駛FSD晶片

是一款SoC異構計算晶片。

晶片內部集成了我們前面介紹過的CPU、GPU和NPU。能更高速且低能耗地處理攝像頭訊號,系統算力大幅提升。

另外,還有世界上最大的雲服務商

亞馬遜,也在開發自己的專用晶片

最開始的時候雲計算都使用傳統的CPU,後來帶有GPU的雲伺服器進入了主流視野。GPU讓算力提升了數百倍,再後來人們發現GPU的效能還不夠好,尤其是在大量的人工智慧推理任務上,亞馬遜自研了幾款晶片,其中包括高效能機器學習加速晶片Inferentia等。

2020年,亞馬遜Alexa語音助手已經在自研晶片上執行,測試資料顯示,自研晶片Inferentia叢集的處理結果,將延遲降低了25%,成本降低了30%。

這還不是終點,隨著人工智慧時代對算力不斷提升的要求,很多平臺實現差異化競爭的關鍵,可能就在於為特定應用設計的專用晶片,相信未來會有越來越多的網際網路巨頭加入自研晶片的行列。

|晶片產業的彎道超車機會在哪裡?

王煜全老師在科技特訓營裡分享過,在過去的二十年裡,晶片產業都是個直道,以英特爾和AMD為代表的X86架構的CPU,已經健全了整個產業生態,當時中國沒有辦法插進去,直道很難超車。

但是現在不同,有個重要的機會來了!

目前,整個晶片產業面臨轉型,技術正處在變革之中,從過去的單晶片功能為王的CPU架構,到現在多晶片整合,異構計算的整合晶片SOC。

這個時候CPU不重要了,異構部分的專用晶片GPU、NPU、TPU等,將是系統性能提升的關鍵。

也就是說從通用計算晶片解決所有問題,發展為通用晶片和專用晶片組成異構計算單元,讓專用晶片去專門處理像影象、音訊這樣難度更大的任務,使得處理單元整體的計算效能大幅提升。

即使中國在CPU通用計算領域的產業水平有所欠缺,也有機會用更強大的專用計算晶片,使自己裝置的整體處理水平更高。

這是咱們中國企業可以把握,而且必須把握的關鍵機會。

國家也在大力支援晶片產業發展,要推動70%的晶片到2025年內自給自足,這給中國晶片產業提供了絕佳的彎道超車機遇。

行業統計資料顯示,2020年國內半導體行業股權投資已經超過1400億人民幣,比2019年已經增長近4倍了。

同時我們也看到,全球的人工智慧晶片領域都處於加速發展之中。

英偉達擴張的速度越來越快,AMD在利用自己CPU+GPU的整合優勢急起直追,谷歌的TPU也已經大量部署在自己的雲計算平臺上,我們中國的人工智慧晶片更需要奮起直追。

最後,如果你也希望前瞻性地理解技術發展趨勢和未來的關鍵控制點,看清科技企業的未來,歡迎加入科技特訓營!

我們還整理了一份"AI晶片科技企業清單",辛苦你點下“贊”和“在看”,點選頂部的“進入公眾號”,在對話方塊裡傳送“科技”二字,你就會獲得這份清單。

注意:回覆“科技”只能獲得當天的清單,全套《科技產業研究清單》會在科技特訓營裡分享,並持續滾動更新、掃描全球科技前沿。

2021年,前哨科技特訓營推出了一系列趨勢投資課程,幫助學員們站在時代前沿,領先別人五年看到未來。最重要的是,在充滿不確定性和各種挑戰的未來,做出最正確的選擇,成為時代的贏家。

點選以下連結,閱讀課程回顧。

全球科技趨勢

全球科技產業掃描

判斷科技企業未來

到底什麼是CPUGPUTPU,晶片卡脖子還有機會翻身嗎?

【科技特訓營】全新的會員制線上書院模式,全年50次“線上直播課程+私享群互動”,你隨時可以加入、我持續保持更新!一起互動,伴隨成長!讓我們為未來五年做好準備,一起探討把握機遇,決勝未來!

【回放地址】

TAG: 晶片CPUGPUASICTPU