智慧製造2019.07.09

AIoT 來了,資料傳輸 I/O 我變變變

飛飛

物聯網 雲端服務 創新

 

智慧物聯網重點在於連來連去,因此節點 Node、hub 多又廣,還要能承受資料流量大、要速度快、要延遲性低,智慧演算所需複雜運算功能也少不了,自然驅使 CPU 在變、Chip 晶片在變、IT 結構愈發趨向雲端體系虛擬化之變,再說 5G 通訊所伴隨從電信基礎設備以至通訊層級的全面必變,I/O 資料傳輸當然更需變變變。

 

I/O 資料傳輸技術一直是 IT 體系裡最默默無聲的一塊,事實上卻是襯托舞台上耀眼主角所無可或缺的第一配角。無論 CPU 效能多高強、晶片多精緻,通訊又多快速,I/O 的性能決定資料流動態環境,也才是 AIoT 實現與否的動態能量關鍵。

 

PCIe

其為走 Physical layer 實體層內 TLPs 的資料交換,具低於 microsecond 等級的延遲優勢。主要擅長於主從設備之間的資料傳輸;也可以說是 Chip 晶片與其所可連接週邊元件之間,譬如:Storage、Add-in Card、GPU Card 等,並涵蓋外接的週邊裝置。一般而言,相較於 Ethernet 的 system-to-system,PCIe 則通常被歸類於 Chip-to-Chip 晶片核心裝置之間的 I/O 介面。

 

PCIe 在沈寂近十年後,最近這幾年密集從 3.0 連升多級來到 6.0,主要就是回應從 5G 規格塵埃落定,直到 Cloud computing 等運算架構的物聯網市場態勢漸為浮現,所遂漸清晰的 AIoT 實質內涵。目前採用 4.0 的產品剛剛於 2019 年春天問市,因此緊接其後於此前所最新公布 6.0 規格是否可能於往後越過 5.0 進入商業化階段,是大多人的關注焦點。無論如何,我們可知,AIoT 架構下的所有成員都將持續回應隨時可能浮現的技術創新,以及其所牽涉的市場變動,緊隨 AIoT 的具體實現腳步;同時,也可能反向成為影響 AIoT 未來發展的 Stakeholder,以奪得先機,或甚至伺機透過規格競賽,成為市場主導角色。

 

  • PCIe 4.0_ 頻寬為 2 倍於 3.0;以 x16 通道而言,可達 32GB/s。
  • PCIe 5.0_採用 Non-return-to-zero / NRZ 技術;即電子訊號只以 0 與 1 兩種狀態依序一個個位元傳遞。
  • PCIe 6.0_採用 PAM-4 技術;即可產生 4 種電壓位準,兩倍於 NRZ 的傳輸速率。其提高的頻寬速率為 4 倍於 4.0 、2 倍於 5.0。

 

PCIe 的另一特點在於具 Scalability,可依需求選擇 x4 到 x32 不同 lane 通道數量所可達傳輸效能高或低,發揮成本考量優勢。由於 PCIe 為 Chip-to-Chip 層級的傳輸,因此相對應的晶片規格也關乎於 PCIe 版本是否能共同發揮綜效。

 

Ethernet

為主要透過網路層的通訊協定,並通常具溢量供應特性。相對於如 PCIe,Ethernet 除了較適於系統之間的網路資訊交換,其延遲性較長時、頻寬也較低。Ethernet 主要應用在商業領域,目前速度依各類型從 10 GB/s、25 GB/s 直到 50 GB/s 以至 400 GB/s 不等;延遲性則約需 10 microseconds 左右。從 Ethernet 發展出的 EtherCAT, 則適用於主從間 Server-to-server 的運動控制通訊,經常應用於工業機器人的遠端協作, 為該市場最廣泛採用的通訊協定。

 

Rapid IO

其可用於 Chip-to-chip,也可為 Board-to-board 或 Chassis-to-chassis 之間短距的封包傳輸;其速度依各類型從 10GB/s 倍數到未來 25 GB/s 倍數(通道數)不等,延遲性約與 PCIe 不相上下。其主要自我定位則在於支援不同類型 microprocessor互通性於單一系統,應用於 Data Center、航空等市場。 相較於 PCIe 廣泛成為 嵌入式系統的配件,Rapid IO 則相當受電信市場青睞。

 

AIoT 來臨,牽動著 IT 體系與架構的全面丕變,居中連通的資料流傳輸環境隨之變革也不令人意外。 PCIe 加強於頻寬等各項規格作為積極回應,再加上 Chip-to-chip 直接傳輸所既有的低延遲性特點,在在都使得其與 Ethernet 過往各自負責主從設備傳輸 vs 系統間網路傳輸的界限開始模糊。畢竟,5G 所能達到廻異於過往的超高速度、超高流量、超低延遲性等特點,也需配合能吃得下、動得快的 CPU/GPU、晶片及 I/O,才可能實現最終理想的 AIoT 智慧物聯世界。

 

至於上述無論在速度還是延遲性的規格,或將視實務整體結構而有所不同,但也可預見在 I/O 傳輸技術上將可能更不同於過往迭代所需時間,而令人期待著意外發表的技術創新。無論是先前從 Ethernet 延伸發展出的 EtherCAT,或是 PCIe 近年回應 AI 等環境變化所加速於升級版本,都可見傳輸規格技術業者的持續技術推展。因此,有朝一日週邊與網路傳輸合而為一,甚至發展出全面無線路徑,也將是令人期待的無限可能。

延伸討論

智慧製造

AI Chips 口味眾多,混搭聯名時尚風

飛飛
隨著通訊市場進入 5G 開通初始階段,AI 市場的發展也愈發如火如荼。AI Accelerator 的競爭朝向從硬體到軟體/軟體到硬體建構出完整的 OT-CT-IT 生態系。這也就是說,如:NVIDIA、Intel 等硬體商,開始發展自身的 AI Instance;而像 Google 這樣軟體起家者,則反向跨足 AI Chip 硬體。相對的,有道是現成的最好用,因此如 NVIDIA 用上了可謂 AI 生態系競爭對手的 Tensorflow 框架;或是 Google Clouds 反之用上了 NVIDIA 的 GPU;或者像 Intel 直接採取併購策略。可以說,不僅是 AI 晶片發愈多元,AI 生態系更是混搭聯名現正夯。
智慧製造

新世代核心處理 AI Accelerators 創意玩

飛飛
AI Neural Network 所開啟具里程碑指標的Machine Learning / Deep Learning,將電腦功能從單純資料處理協助工具,帶入全面擬人化小助手的新境界。 與此同時,在其螢幕背後的核心計算機資料處理概念及體系,也開始全面解構,搖身成為如同新境實戰王國電玩遊戲的創意競逐遊樂場。
智慧製造

AI Mobile Robots 腦袋裡都裝些什麼?

飛飛
自主移動的兩大關鍵字:決策、動態。決策的前提在於具備適足條件,據以評估而後反應/作動。想像一下如植物固定不動的視角,對環境的感測也就自然是以自我為中心的絕對位置。要達成如動物般自主移動,其視角的空間感就因距離、方向而更偏重於相對位置,因此其決策所倚賴的適足條件也就從感測提升到 Interference 推理、Alogirthem 演算層次的空間測距、視覺辨識、經驗累積值等綜合性訊息處理。