智慧製造2019.07.16

AIoT 資料流生態系, Edge AI 上場了!

飛飛

物聯網 雲端服務 創新

 

AI 的關鍵核心在於 Machine Learning 機器學習,尤其是 Deep Learning 深度學習,將機器運算層次從線性思維走向立體化處理,變革資料處理的機器運算概念,更從而徹底改變自 IT 產業堀起以來將近百年的基礎運算硬體組構,並連帶物聯網的願景,自此硬體組構衍生全新 AIoT 資料流生態系。在如今 5G 規格底定、全球邁入正式開通的時點上,AIoT資料流生態系也已經從 Cloud AI 延伸到 Edge AI。

 

CPU 一直以單次序列處理運算需求。ML /DL 則透過陣列式、多層次的三維運算方式,將線性處理的資料處理層級,帶入可實現如影像辨識等高階的擬人智慧功能。如果以線性序列處理三維運算,首要面對的就是資料流量以指數增量的爆增需求,其運算通常以 TB 單位起跳;再來還有線性序列處理三維運算的漫長等待時間。想像一下,你用加法處理其實可用連續二次乘法求得結果的運算式,就能瞭解其資料處理量、花費時間的差距。AI Accelerator 即是針對 AI 功能的運算處理。加速器並不是取代 CPU,而是將 CPU 視為 Host microprocessor 主處理器,以專用目的(如:AI 智慧功能的運算)輔助分擔 CPU 的運算處理工作;也就是說將過往單處理器的組構,轉為雙處理器或多組處理器併用的設計概念,或可比擬超級電腦的概念,而在此以 CPU為主,Accelerator 則為輔,加速器的運算結果還是會回到 CPU 匯流為一。目前已進入市場應用的 Accelerator 包括借用既有的 GPU 架構;也有許多新創如NPU等,TPU 即為其中極具前瞻性的一款。

 

ML / DL 廣泛的機器學習,具三大重點:大數據、演算、訓練,實現從經驗值自我修正、改善的智慧特性。如同感測器裝置藝術般的布局概念,從大數據到訓練之間的資料側寫、inference 推理內涵、訓練期間一次次認可回饋等,在在都反映著個別管理決策對產品價值、製造流程、市場定位等種種信念與獨特創見;然而,商業市場講時機、講成本,若然讓需求者從零建構起 AI,恐怕只會令其卻步。因此,AIoT 資料流生態系更顯其重要。在此生態系中,目前不必一定得從 coding 編碼平地起高樓, AI Framework  提供協助建構 AI 的速食 library,是現今商業市場上通行的商業 AI 建構工具,Tensorflow 則為其中最廣泛使用的選擇。

 

建構 AIoT 資料流生態系,是實現物聯智慧舞台的基礎。如果能從 晶片、Cloud、AI 演算到地端 Edge,一體成流線型流程的資料流生態系最能發揮效益。Google 在其 Cloud 服務立足市場之後, 即率先涉足堪稱名列資訊硬體技術最高門檻的核心硬體,發展出特別適用 Tensorflow  框架的 TPU,期能以量身定做的硬體,發揮 AI 演算等軟、靱體方面的最大效益,包括:上述的高量資料流處理、增進運算效率、降低運算所需時間等,也著眼於未來經驗值所可累積的效益與附加價值。

 

Edge AI 是如今此類生態系建構的另一個進展。Edge 邊緣運算處理的是具地緣關係的 AI 運算,其考量主要在於:

  • Real-time

工業機器人、搬運機器人等製造流程中的實時協作;或是自駕車的實時應變,都需要 Edge AI 的在地演算判別。

  • Security

由於不需回傳遠端 Cloud,透過實時運算,避免駭客見縫插針。

  • Privacy

像是影像辨識,特別是回應如 GDPR 的隱私法規要求,AI 在地執行就表示能將具隱私相關的資料庫存儲於源生地,而將經 training後的成果回傳 Cloud 大數據,分割隱私資料保留原地。

 

AIoT 不僅是現在進行式,還是仍處於基礎建設的初期創建階段。與此同時,AI 是相當倚賴經驗值,注重資料庫品質,也極需透過一次次經驗加以訓練。因此,在智慧物聯的願景中,除了規格競賽外,愈早建構出資料流生態環境,提供便利、效率又具效益的 AIoT 整體商業服務;愈早透過經驗值累積具商業應用價值的智慧內涵,一直是市場上各方努力的方向。

 

在此之中,具備建構從核心硬體、雲端體系到消費者端應用的完整 AIoT 資料流生態系能力者 ,Google 是少數獨角獸中較全面發展的一個體系。其早於 2011 年即開始從零起步發展的 TPU,如今就延伸出 Edge TPU 這樣的甜美果實,順著先前 TPU 迭代進展所獲,分支出主打 Edge AI 專用加速器,一舉成為市場區隔的有力特點,即是透過一體生態系發揮最大商業效益的另一例子。

 

延伸討論

智慧製造

虛擬 vs 實境 背後的技術運用

飛飛
AR / VR / MR 帶我們進入虛擬幻境新視界。《愛麗絲夢遊仙境》成了人人都可身歷其境的超現實體驗。迷幻眩影、實虛交融又是怎麼辨到的呢?
智慧製造

AR / VR / MR 是虛擬也是實境  但絕不只是場遊戲

飛飛
不管是莊周夢蝶,夢乎?現實乎?還是日有所思、夜有所夢,心理學佛洛伊德以潛意識看待夢境,虛擬與實境已進入可透過 AR / VR / MR 融為一境,虛實交錯成超現實感性體驗,擴展我們感官與認知極限的全面性商業化普及階段,不再侷限於電玩、影像娛樂的螢幕夢遊,而更能將數據化精準資訊,轉化為我們於聲色體驗,以身歷其境彼此交流。
智慧製造

Communication Protocol 琳瑯滿目,滿足多元 OT 應用

飛飛
雲端體系中,就物聯裝置的數量與地理範圍而言,可說是從地端至中央雲形成金字塔般的差別。地端位於此金字塔的底層,牽涉最多、最廣的節點。正由於此,OT 地端的通訊具備了相當的高度挑戰。