智慧製造2019.07.11

I/O 也能虛擬化?

飛飛

物聯網 雲端服務 創新

 

Virtualization 是 IT 資源擴展的新興潮流;透過 isolation 隔離技術,能夠在相同的 IT 實體資源下,增生多套虛擬運作環境,相當適合雲端系統,也能在成本考量下,回應物聯網所可預見爆增需求的資料流及運算資源。

 

虛擬硬體 Virtual Machine / VM 即透過 Virtualization,能迅速增生一套套硬體環境於單一實體資源。然而,當這些 VM 都必須共用實體 I/O 時,動態資料流當然易於雍塞,容易讓虛擬增生的這些硬體,最終為囿於傳輸限制,整體又回復單一 Physical Hardware 的效能……真讓人感覺白忙了一場。 I/O  Virtualization 由此顯得再自然不過。每一套虛擬 VM 都能具備自己的專用 I/O 時,VM能增生的套數也將不受單一實體 I/O 的限制, 實質增進其 Scalability 可能性, 能更有效運用實體 IT 資源。一般而言,IOV 可運作於OS、Hypervisor 或是 Application 層面。

 

PCIe Virtualization

而 PCIe 在此虛擬化浪潮中也不缺席。其虛擬化技術可透過虛擬 Function,也可經由虛擬 Address 。

 

  • SR-IOV _ Single Root

單一 Server 上的VM可共享實體 I/O 資源 。在此架構下,可從 PF 增生出另一類 VF 。

 

Physical Functions _ 每一個 PCIe 都可擴增數個 PF,並具備含 Configuration 在內的完整 PCIe Function 。

Virtual Functions _ 不具組態功能,單純處理資料的 in & out 。其為從 PF 增生,故附隨於個別的 PF 。每個 PF 都可增生一個以上的 VF 。

 

  • MR-IOV _ Multi Root

仍然建構在 SR-IOV 上,但可提供多重 root 。主要應用在 Blade Server 刀鋒伺服器,能讓多重 server 共用實體 I/O 資源。

* Blade Server 為多重主機板建構出適用於資流量大的大型高效能伺服器櫃,如應用於 Data center。

 

  • Address Translation Services _ ATS

透過 I/O adapter 的虛擬位址與系統記憶體內實體位址之間轉換而建構。

 

Virtual Ethernet  _ vEth(er)

乙太網路也發展出虛擬化技術。Virtual Ethernet 技術可讓隔離出來的個別虛擬區塊(像是:VM)彼此互通,而不經由實體 Hardware。 vEth(er) 可提供如同實體 Ethernet 規格的網路協定,並由此建構出 virtual LAN。換句話說,即是在 VM 的基礎上架構出虛擬的拓樸體系。

 

Virtual Network Interface Cards _vNICs &

Virtual Host Bus Adapters _ vHBAs

自從進入 4G 時代,以至展望未來 5G 智慧物聯網,廣泛的資料流 I/O 都無法忽略網路管道,而不再是選項。如今 I/O Virtualization 也發展至 Network 虛擬化的階段:

  • NICs_為硬體連接網路的介面元件。
  • HBAs_為主系統、Server、Storage 或網路裝置的 adapter。

目前上述網路介面也已涵蓋於 I/O Virtualization 技術,可為虛擬環境下虛擬區塊用於與虛擬網路的資料交換。值得注意的是,在像是 LAN 的網路層級上將無法辨別出何為虛擬網卡;何者又為實體網卡,而將一統視為「正常」(實體)資源。

 

I/O Virtualization 技術發揮相當大的效益。除了能助益完整虛擬化環境,以完整 IT 資源及功能,增進 IT 運作效能;同時也加強了可節省電能、減少實體機房的空間佔用等環保與成本方面的優勢。當然,像是彈性運用 IT資源,實現能即時充分配合業務端的戰力與戰備力,又可避免過多閒置資源等一般 Virtualization 的特點也適用。除此之外,IOV 也可以帶有 Quality of Service / QoS 控制機制,從而可實現效能優化。而網路介面進展至虛擬技術,促使虛擬區塊之間的交流,大多不需要再繞路透過實體 Network Interface (也就是代表必須動用實體資源、增加資料流路徑、拖累作業時間等,足以抵消虛擬環境像是 VM 所帶來優勢的作業方式)。

 

如今,虛擬 I/O 涵蓋了週邊(如:PCIe) 及網路介面(如:vNICs),實現一個近乎可類比實體網路世界的虛擬 IT 資源。如此,不僅是如同上述的資源擴充,隔離技術在此的應用也可說是具強化 Security 資安控管的另一優勢,更能在避免駭客攻擊上多一層防護機制;此外,以日常備份作業而言,也可能就近虛擬建構出相同環境及內容,從而在不動用太多資源的情況下,更方便 IT 維護及管理,像是一般性維護或簡易維修。

 

基本上 VM 已算是新興浮現於市場上的 IT 技術,立基於優化 VM 效能與技術的 I/O Virtualization 當然也就更晚近才起跑。因此,無論是理論上、技術上還是實務上都還算是初萌芽階段,仍帶有相當程度的可塑性;然而,以其所可優化物聯願景發展中,未來作業環境下的雲端虛擬技術角度而言,同樣於其他新興 IT 技術,其長期潛力仍然不容小覬。

延伸討論

智慧製造

AI Chips 口味眾多,混搭聯名時尚風

飛飛
隨著通訊市場進入 5G 開通初始階段,AI 市場的發展也愈發如火如荼。AI Accelerator 的競爭朝向從硬體到軟體/軟體到硬體建構出完整的 OT-CT-IT 生態系。這也就是說,如:NVIDIA、Intel 等硬體商,開始發展自身的 AI Instance;而像 Google 這樣軟體起家者,則反向跨足 AI Chip 硬體。相對的,有道是現成的最好用,因此如 NVIDIA 用上了可謂 AI 生態系競爭對手的 Tensorflow 框架;或是 Google Clouds 反之用上了 NVIDIA 的 GPU;或者像 Intel 直接採取併購策略。可以說,不僅是 AI 晶片發愈多元,AI 生態系更是混搭聯名現正夯。
智慧製造

新世代核心處理 AI Accelerators 創意玩

飛飛
AI Neural Network 所開啟具里程碑指標的Machine Learning / Deep Learning,將電腦功能從單純資料處理協助工具,帶入全面擬人化小助手的新境界。 與此同時,在其螢幕背後的核心計算機資料處理概念及體系,也開始全面解構,搖身成為如同新境實戰王國電玩遊戲的創意競逐遊樂場。
智慧製造

AI Mobile Robots 腦袋裡都裝些什麼?

飛飛
自主移動的兩大關鍵字:決策、動態。決策的前提在於具備適足條件,據以評估而後反應/作動。想像一下如植物固定不動的視角,對環境的感測也就自然是以自我為中心的絕對位置。要達成如動物般自主移動,其視角的空間感就因距離、方向而更偏重於相對位置,因此其決策所倚賴的適足條件也就從感測提升到 Interference 推理、Alogirthem 演算層次的空間測距、視覺辨識、經驗累積值等綜合性訊息處理。