智慧製造2019.09.24

AI 晶片不看熱鬧看門道……怎麼挑?

飛飛

硬體 物聯網 創新

 

又是IoT物聯網、又是AI 人工智慧,不只Cloud 雲端,還有 Edge 邊緣……當然,老闆照例叮囑的 「又要馬兒好還要馬兒不吃草」也不能忘 ─ 左手抓著效能、右手托著價格、頭上盤著功能、腳頂著低耗能……想要落實物聯網,滿足多方需求,首先AI晶片看仔細。

 

AIoT 概念其實內含著各司其職的物聯裝置,像是:

 

Sensor Fusion

感測從單純的溫、溼度等環境測值,轉變為再加影像、音訊、動態等全面性環境感知;同時,感測裝置的佈局也從單點式延伸至全空間策略性佈局,以求寫真性實境側寫,取代過往單一參考值。而這資訊收(蒐)集源的眾多據點,極具線性時間指標。因此AI 晶片處理 Sensor Fusion 時,瞬間資料處理的精準時機成了資料真實性的其一關鍵因素,譬如:同一空間的不同感測裝置所同步蒐集的數據,從資料讀取到AI資料處理,有可能因各自 AI 晶片內核心處理所需的毫秒時間落差,導致判讀為不同時間區間的蒐集數據,那麼就可能造成整體性實境側寫失真而無以察覺。

 

High Performance Computing

Cloud 雲端來說,其資料流的特性主要在於高量數據處理、AI training 的高量運算需求等,那麼通常雲端(如:Data Centre)相關裝置對 AI 晶片的需求就著重於顯著的 HPC 高效能運算。

 

Edge Environment

邊緣裝置則多半具低功耗屬性,其電力供給通常是像電池這樣具時效性的型態,因此在 AI晶片的規格上,耗能成了極為重要的考量。

 

以上簡單舉例說明在物聯網實務上,AI 晶片已不只是 AI Accelerator 輔助分擔 CPU的運算負荷與加速整體運算處理,更愈趨向於針對物聯所串聯起的五花八門裝置,規格分眾化的市場趨勢。

 

AI 晶片專用分眾的潮流,連帶促使晶片的設計與製程發生顛覆性變革:

 

SoC FPGA _ Intel  

System-on-Chips 顧名思義是將系統整合於單一晶片上,因此小小一顆大約硬幣大小的晶片,即具備從CPU、記憶體到I/O等堪稱為一般熟知的「電腦」完整功能。其好處是微縮體積帶來的速度提升、耗能縮減等;而相對地就在於其一體成型所伴隨的固定規格。Field-Programmable Gate Array 的特點在於Programmable可程式化,將 CPU 與 Logic Block 分隔於不同區域,使其運算處理的邏輯部分能夠依需求後續客製,增進其彈性規格。想當然爾,將AI 晶片的專用分眾趨勢vs FPGA的彈性規格相對應起來,顯然物聯各司其職、各具規格需求的五花八門裝置,看來將更適合透過 FPGA的彈性客製獲得廣泛解決,特別是FPGA 的低功耗優勢。隨著技術革新,目前結合 SoC 系統整體功能於 FPGA的Logic Block可後製屬性的 SoC FPGA 漸成市場新寵,讓使用者可以既享受系統整體功能的優點,也具備彈性後製的方便。直至目前在終端市場始終既定主流的 Intel,自先前併購當時FPGA市場主力 ALtera之後,其採用 FPGA 以至近年 SoC FPGA 型態晶片的走勢更顯浮上檯面。

 

GPU _ Nvidia

HPC 高效能運算始終是Nvidia 強調的自身市場定位;事實上,HPC 就是GPU當初立足的根基與起點。GPU 圖形處理能力,主攻平行運算與陣列數據處理;換言之,相當回應 AI 所需的維度導向數據資料流,以及大數據的高量資料庫。因此,目前 Nvidia 的GPU-based AI 晶片,橫掃所有主流雲端供應商的雲端系統,也佔據 AI Accelerator 的絕大數市場。其優勢還在於其可軟體定義資料流的便利性,相較於 FPGA的硬體邏輯語言更快更方便。然而,GPU 除了其運算處理亦需隨版本更新才能變更;也相對受其限制之外,高效能運算實際上代表著相對更耗能。此外,隨著 SoC FPGA微縮系統於單一晶片上,GPU做為 AI Accelerator 而需透過CPU對外往復於像是memory、I/O等系統功能的相對「長程路徑」,更顯相對較不易抗衡於延遲性與耗能性方面。

 

ASIC _ Google

Application-specific Integrated Circuit 特殊應用積體電路,如其所名,就是基於特殊應用所量身定做的 IC。在所有 AI晶片中,ASIC 最具封閉性規格;這也就是說,彈性規格不是此類晶片所追求的屬性,反倒是透過晶片設計與製程,鎖死其規格。當然,會採用此類晶片,表示其市場夠大、可應用的裝置夠廣泛,才可能足以分攤具強烈排他性的昂貴晶片設計、開模直至量產。Google 即為目前市場上極為少數(或可說獨特)具備上述種種條件的 AI 晶片供應。事實上,Google的TPU 晶片只供自家產品使用,近似當初 Intel 初期市場模式。從Google Search 引擎帶來的大數據、Tensorflow AI 框架的強力市場主流直到 Google Cloud & Edge所建立的Google 生態系,TPU晶片的優勢就在於能夠打造最貼切適用於自身完整生態系的專用型AI 晶片。不僅如此,其價格當然也能享受規模經濟效應,並特別能持續滿足自身客戶透過生態系(Cloud / Edge)不停回饋的前瞻性需求。我們可以說,Google 採用 ASIC的自信在於不需要後續客製的另一道程序,而能直接針對客戶需求 開發/升級/改版/系列打造 適用的AI晶片。

 

延伸討論

智慧製造

互通性Interoperability為物聯關鍵

飛飛
萬物相聯透過 Embedded SBC連結,看來捷徑現成,一切觸手可及。事實上,Embedded SBC 不只是在既有資料流處理單元上,加上感測器、無線通訊就足以實現物聯,其中的Interoperability 互通性還是 Embedded SBC成為實現物聯網新星的無形魅力。
智慧製造

AIoT比你想像的更觸手可及 _ From Embedded to AIoT

飛飛
Embedded Single Board Computer 嵌入式單板電腦,聽起來總是很神祕,看起來則是一塊綠色電路板,上面佈滿密密麻麻的銅線迴圈、一塊塊像釘子板的方塊體,還有更多樂高組合積木般的各形各狀電子零件……似乎實體倒更讓人眩惑於這塊小小板子,竟足以延伸連結其背後大世界的不可思議。
智慧製造

Database 資料庫祕藏寶庫別有洞天

飛飛
三個字看起來好簡單,但是如何讓金庫變聚寶盆,而不只是當裝飾的珠寶盒、也不致於變成蜘蛛結網的儲藏室,那就成了一門有深度的學問。物聯網的祕藏寶庫,看不到也摸不到,因此如何有效管理及取用Database 內的資料金幣,就是將寶物變現的祕訣。