PCIe 5,CXL,CCIX,SmartNIC,網路介面卡,資源管理,Xilinx,賽靈思
文章推薦指數: 80 %
CXL在改善主機與加速器間的通訊方面有了長足的發展,但卻未能解決PCIe匯流排上的加速器之間的通訊問題。
2018 年,Linux內核終於推出了可支援PCIe點對點( ...
│智動化SmartAuto│科技論壇│新品中心│影音頻道│出版中心│FB服務│
v3.05.2048.178.128.63.162
帳號:
密碼:
註冊
忘記密碼
新聞
最新新聞
博世整合汽車通用軟體研發鞏固車用作業系統領導地位
勤業眾信:低碳運具將成永續城市轉型契機
關注培育電動車人才漢翔與中興大學簽訂電動巴士MOU
Arm:Armv9架構將導入所有行動裝置
TrendForce:三星NANDFlash生產不受西安封城影響
科技部資安暨智慧科技研發大樓啟用加速南部產業數位轉型
產業新訊
大聯大友尚推出基於onsemi產品的65WPD電源適配器方案
英飛凌擴大支援Matter標準的無線產品組合因應智慧家庭應用
SiliconLabs推出Z-Wave800全系列SoC和模組產品
英特爾oneAPI2022開發工具包為開發人員加值
ROHM推出45W輸出、內建FET小型表面安裝AC/DC轉換器IC
意法半導體升級機器學習開發工具--NanoEdgeAIStudio成效
社論
[評析]改變產業生態或社會氛圍先從自己開始
[評析]沒有退路的FPGA與晶圓代工業者
[回應李開復]創業前輩,請鋪路!
[分析]以低成本UHDTV打開市場
[評析]台灣新定位:與全球創客接軌
最強3D/CNC成形機進駐南分院,請來試試!
單元
專題報導
引領新世代微控制器的開發與應用:MCC與CIP
最新一代DSC在數位電源的應用
Cadence轉型有成CDNLive2014展現全方位實力
Thread切入家用物聯網的優勢探討
家庭能源管理廠商經營模式分析-PassivSystems
網通無縫接軌智慧家庭才有搞頭
Googlevs.Apple智慧家庭再定位
教室照明環境設計實務與應用
焦點議題
協助企業強化智財營運管理工業局表揚TIPS驗證企業
9月漢諾威EMO登場台灣工具機勇於突圍
迎接5G時代回溫熱潮勤業眾信預測2019高科技趨勢
國際防避稅風起企業顧無形資產
紡織業邁向智慧化四年一度紡織暨製衣機械展南港登場
拒絕衝突礦產你可以有更好的選擇:回收
台灣太陽能產業仍在等待更健康的市場
大陸運動控制市場後勢可期
產業評析
[評析]我們要如何看Cypress與Spansion的聯姻?
[評析]高通併購CSR的後續發展?
[評析]無能為力的三星下一步將何去何從?
[評析]擁抱世界台灣就不是巴西
嵌入式軟體與系統發展週期的重大演進
GoogleFiber前進34城市推動新興應用發展
現行11ac系統設計的挑戰
[評析]從Cortex-A17看ARM對行動運算的市場策略
TechReview
Benedetto:用感測器打造無限可能
Imagination:新IP生態系統全面啟動
JeffKodosky:改變世界的力量就在我手中!
安捷倫:量測儀器彈性化一步一腳印
無線時代來臨Wi-Fi因開放而壯大
Fairchild:穩健步伐下,作到創新
劍揚:堅持走在自己的道路上
科技業揭露Lattice保維持競爭力的三項關鍵
CTIMESPeople
ChangeTheWorld
3D印表機的鐵三角成功之道
無人工廠興起有利產業長期發展
群眾集資點燃微創業火種
量子電腦就要來了!?
協作機器人來了!開放原始碼是關鍵
3D列印讓世界由平面走向立體
NEC發表可不受天候影響的光解析技術
獨賣價值
專欄
黃俊義
[評析]媒體與媒介
心想事成
電子產業的整合之路
走自己的路
現代君子─動手不動口
讓圖書分類更有教育性
詹文男
[專欄]以5G佈局來加速產業的升級轉型
[專欄]智慧城市發展需產政攜手
[專欄]從智慧交通案例看物聯網成功關鍵
[專欄]在網路典範轉移進程中尋求新定位
[專欄]大陸半導體勢力步步進逼
[專欄]突破科技深化應用的障礙
洪春暉
全球ICT供應鏈重新佈局中國限電危機蘊藏商機
從中國限電危機看ICT供應鏈動向
運用科技量化效益掌握低碳時代新商機
走出疫情看見新契機,運用科技催化產業永續發展
NVIDIA收購Arm之綜合效益
從美中貿易戰看電子業的在地化生產趨勢
歐敏銓
物聯網與烏托邦
這是一個重新洗牌的開始
打破傳統思維擁抱Crowdsourcing吧!
穿戴上身當超人或凡人?
李遠哲:重回太陽的懷抱吧!
從KANO看「一球入魂」的社群運動
陳俊宏
[專欄]WoT的成年儀式-通訊協定技術變革
[專欄]開放硬體是實現PersonalThings的重要環節
[專欄]物聯網的真正關鍵:IoTOpenArchitecture
[專欄]你有物聯網思維嗎?一個新的共享與共創經濟體
[專欄]LifeHackingStartups
[專欄]SmartPhone接班人:WoT新商機
李學文
[專欄]不能消滅電視,就盡快與其匯流吧!
[專欄]誰將是客廳匯流場域霸主?
Secondscreen在英國的成功可以帶給我們甚麼啟示?
匯流電視未來式
[專欄]Apple真正的野心是無處不在的iOS
[專欄]Secondscreen帶給我們甚麼啟示?
MajeedAhmad
[評析]行動裝置與MEMS革命齊頭發展
[評析]電子工程師,加速擁抱App吧!
[專欄]小筆電興衰錄:從後PC時代說起
Sailfish來了Android開發者接招
Gartner
觸控控制器將演進為系統解決方案
mHealth穿戴式電子創新技術
SmartTV引爆全功能電視應用處理器需求
平價3D印表機將打入各行各業
物聯網五大關鍵技術分析
NB處理器架構大戰一觸即發
MIC
GoogleProjectLoon看高空通訊平台發展趨勢
跨入裸眼3D立體影像時代
行動裝置電池新興技術發展趨勢
中國大陸智慧型手機用面板產品發展動態與趨勢
All-in-OnePC產品發展趨勢
Qualcomm如何佈局無線醫療事業
陸向陽
[專欄]多核十年,增核需求仍在但意義已不同
[專欄]ARM架構伺服器晶片的機會與挑戰
ARM架構的標準軟硬體系統漸成形
[專欄]IEEE802.11ax透過何種手段提升速率?
[專欄]5G技術三路發進6GHz以上頻段受矚目
[專欄]NB-IoT提前到位的產業意涵
EEPW
行動通信處理器一定要8核、64位嗎?
2014年的可穿戴設備:神話or笑話?
Google收購Nest,這是為何?
悲催的安捷倫EMG,你的名字又該叫什麼?
Big.Little的64位戰略反將Android一軍
焦點
Touch/HMI
Arm:Armv9架構將導入所有行動裝置
施耐德電機發布全球首創資料中心永續架構指南
Digi-Key:工廠感測器數量遽增部分領域加速成長
雲原生:邊緣雲端儲存彈性化
兆輝光電推出不易暈眩元宇宙光場投射模組
ST升級NanoEdgeAIStudio簡化IoT和工業設備ML軟體發展
PureStorage:容器將成為企業競爭優勢
[自動化展]倍福自動化:PC-based控制技術加速工業數位轉型
Android
借助自行調適加速平台機器人快速適應環境變化
企業發揮正向影響力為台灣社區推動有意義變革
管理塑膠模具開發一般PLM系統可能不夠用
推動智慧製造達到更高彈性、生產力及永續性
運輸機器人致力貨暢其流
運輸機器人跨足新領域
台灣PCB產業力求設備製造業轉型升級
東台精機公布2021年第三季財報
硬體微創
VMware:網路犯罪正通過完整性和破壞性攻擊操縱現實
虛擬熱潮起現實市場商機爆發
[CES]FordSmartDeviceLink軟體將加速產業標準制定
[CES]Mozilla展現首款FirefoxOS的UHD電視
硬體真是牢不可破的門檻嗎?
台日智庫攜手創新六大產業技術
Digi-Key將迎來第5000萬個包裹出貨新里程
TEDxTaipei:創新的關鍵在於打造一個生態系
醫療電子
[自動化展]安馳科技以ADI解決方案實現智慧工業應用
生策會與英特爾簽署MOU促進台灣醫療技術創新發展
臺大醫院、雲象科技「骨髓抹片AI分類計數」獲衛福部、歐盟核准
長庚醫院攜手思科、英特爾與國眾電腦打造高速運算AI資訊中心
Phillips-Medisize增強產能帶動醫療技術創新
加速啟動呼吸監測技術引進智慧穿戴新未來
醫、藥、業界三方跨界打造血液病理AI輔助判讀應用
各路技術齊綻放:NFC和RFID技術提升病人護理品質
物聯網
Arm:Armv9架構將導入所有行動裝置
施耐德電機發布全球首創資料中心永續架構指南
Digi-Key:工廠感測器數量遽增部分領域加速成長
雲原生:邊緣雲端儲存彈性化
兆輝光電推出不易暈眩元宇宙光場投射模組
PureStorage:容器將成為企業競爭優勢
2021全球物聯網與智慧服務大會金龍獎最佳典範贏家揭曉
艾邁斯歐司朗推出多區dToF模組實現高精度測距
汽車電子
汽車整合太陽能電池技術商轉鎖定四大目標
2021最失望與2022最期待的五大科技
ST推出第三代碳化矽產品推動電動汽車和工業應用未來發展
CEVASensPro感測器中樞DSP獲得汽車安全合規認證
是德與Proventia合作開發電動車電池測試解決方案
李長榮科技積極響應COP26減碳倡議樹立綠色銅箔標竿
EV用電池三分天下,逐鹿次世代車用市場
恩智浦與福特汽車合作實現下一代互聯汽車體驗
多核心設計
Arm:Armv9架構將導入所有行動裝置
聯發科天璣9000行動平台終端裝置2022年第一季上市
聯發科與AMD合作打造Wi-Fi6E模組提升PC連網體驗
Ubuntu針對英特爾新一代處理器優化供物聯網新創加速導入
AMDEPYC處理器為AWS全新通用型運算實例挹注效能
Supermicro加速交付HPC叢集提供全方位IT解決方案
AMD第3代EPYC處理器為IBMCloud裸機伺服器挹注效能
NVIDIA推機器人電腦為邊緣AI與自主機器開路
電源/電池管理
施耐德電機發布全球首創資料中心永續架構指南
汽車整合太陽能電池技術商轉鎖定四大目標
ST推出第三代碳化矽產品推動電動汽車和工業應用未來發展
施耐德:企業應有效布局電力管理數位化
TI精確寬頻ADC提升資料擷取性能同時降低50%尺寸與功耗
EV用電池三分天下,逐鹿次世代車用市場
UL:儲能安全議題熱企業應進行全面性風險評估
貳陸公司(II-VI)以購併、協議串接垂直供應鏈
面板技術
ADSP-CM403HAE在太陽能應用中的諧波分析
如何因應疫後的生態系變局:電子產業的挑戰與機會
鈣鈦礦太陽電池與燃料電池的應用與技術現況
為技術找到核心多元化半導體持續創新
IoT成就HMI虛擬化之路
人機介面4.0的未來主流
屏下光感測器全面進入顯示應用裝置
OLED照明歐美廠商專利領先想突圍需提升各方面創新能力
網通技術
雲原生:邊緣雲端儲存彈性化
確保正常運行資料中心優化測試降低風險
利用類神經網路進行ADC錯誤的後校正
借助自行調適加速平台機器人快速適應環境變化
聯發科天璣9000行動平台終端裝置2022年第一季上市
打造供應鏈金融平台助銀行開拓四方共贏局面
使用密碼管理員的理由
聯發科與AMD合作打造Wi-Fi6E模組提升PC連網體驗
Mobile
5G訊號當道OTA測試關鍵任務
是德推出CTIA授權的5G毫米波空中傳輸測試系統
2021最失望與2022最期待的五大科技
經濟部助攻5G進軍全球有成建構臺灣自主產業鏈
數位轉型熱潮開路智慧工廠願景加速實現
愛立信:居於5G領航階段的電信商營收成長機會高出兩倍
關鍵元件到位智慧工廠邁步向前
李長榮科技積極響應COP26減碳倡議樹立綠色銅箔標竿
3DPrinting
處方智慧眼鏡準備好了!中國市場急速成長現商機
3D列印結合PTC新3DCAD軟體模具廠生意版圖將受威脅?
軟體設計開啟3D列印無限想像
MEMS應用前途無量ST力拓感測器與致動器產品線
科思創開發出可用於3D列印的新材料
工研院結合六業者成立「雷射披覆表處試製聯盟」
IDC:六大創新加速器將引領未來ICT產業發展
從3C跨足工業4.0應用
穿戴式電子
加速啟動呼吸監測技術引進智慧穿戴新未來
使用低功耗藍牙技術擺脫線纜束縛
處方智慧眼鏡準備好了!中國市場急速成長現商機
醫療領域正邁入XR+5G時代
Luxexcel:以3D列印技術為AR眼鏡應用加分
突破智慧眼鏡製造瓶頸及發展難題
疫情下的成長新契機藍牙裝置瞄準穿戴與定位市場
探索腦波與心電感測神念科技甘做先驅探索市場
工控自動化
施耐德電機發布全球首創資料中心永續架構指南
Digi-Key:工廠感測器數量遽增部分領域加速成長
嵌入式開發中適用的記憶體選擇
利用類神經網路進行ADC錯誤的後校正
借助自行調適加速平台機器人快速適應環境變化
[自動化展]台達電子:由點至面打造智能工廠解決方案
[自動化展]泓格科技:物聯網與大數據是實現智能工廠的基石
[自動化展]安馳科技以ADI解決方案實現智慧工業應用
半導體
日本真能透過台積設廠振興半導體產業嗎?
科思創開始生產全球首款零碳足跡聚碳酸酯產品
中美矽晶佈局化合物半導體成功開發各尺寸晶圓產品
艾邁斯歐司朗推出多區dToF模組實現高精度測距
企業發揮正向影響力為台灣社區推動有意義變革
ST推出第三代碳化矽產品推動電動汽車和工業應用未來發展
默克將在台投資170億台幣拓展電子科技事業體新產線
新一代可擴充邊緣微型資料中心部署
WOWTech
施耐德電機發布全球首創資料中心永續架構指南
Digi-Key:工廠感測器數量遽增部分領域加速成長
兆輝光電推出不易暈眩元宇宙光場投射模組
ST升級NanoEdgeAIStudio簡化IoT和工業設備ML軟體發展
PureStorage:容器將成為企業競爭優勢
艾邁斯歐司朗推出多區dToF模組實現高精度測距
AWS發佈2022年及五大技術趨勢預測AI開發軟體居首位
[自動化展]台達電子:由點至面打造智能工廠解決方案
量測觀點
5G訊號當道OTA測試關鍵任務
是德推出CTIA授權的5G毫米波空中傳輸測試系統
確保正常運行資料中心優化測試降低風險
利用類神經網路進行ADC錯誤的後校正
是德科技以革命性雷達場景模擬器加速實現全自動駕駛願景
按需共用,提高測試測量設備的利用率
愛德萬測試瞄準非揮發快閃記憶體IC推出高產能測試方案
豪威與DiaspectiveVision合作開發醫療級高光譜攝相機
科技專利
ADSP-CM403HAE在太陽能應用中的諧波分析
如何因應疫後的生態系變局:電子產業的挑戰與機會
鈣鈦礦太陽電池與燃料電池的應用與技術現況
為技術找到核心多元化半導體持續創新
IoT成就HMI虛擬化之路
人機介面4.0的未來主流
屏下光感測器全面進入顯示應用裝置
OLED照明歐美廠商專利領先想突圍需提升各方面創新能力
技術
專題報
【智動化專題電子報】傳統馬達駛向新應用
【智動化專題電子報】智慧傳動實現工業4.0願景
【智動化專題電子報】AI領航機器視覺應用續增
【智動化專題電子報】數位轉型:管理到製造的全方位進化
【智動化專題電子報】HMI:虛擬化與可視化
關鍵報告
[評析]現行11ac系統設計的挑戰
IntelV.S.ARM64bit微伺服器市場卡位戰
以ADAS技術創建汽車市場新境界
4K晶片爭霸戰開打挑戰為何?
[評析]11ac亮眼規格數據外的務實思考
混合式運算時代來臨
智慧汽車引爆車電商機
馬達高效化台灣跟進全球節能標準
技術文庫
專為開發原型而生:mbed微控制器
解決網路高負載晶片商支援3GPP優化功能
[白皮書]微型能量採集技術
[TechPoint]非常“聰明”的智慧天線
[TechSpot]四大快閃記憶體替代技術
NEC發表可不受天候影響的光解析技術
車聯網
中保科集團進軍電動車充電樁市場加入MIH聯盟積極布局
電動車供應鏈完整呈現2021全球汽機車零配件與車電展掀序幕
全球瘋車電宜特以一條龍服務助業者攻克驗證挑戰
晶片產能大塞車半導體供應鏈能否有新局?
助連接4GLTE和5G高通Snapdragon汽車平台帶動連網汽車發展
2022台北國際車用電子展4/11-24線上實體接連展出
2022台北國際車用電子展4/11-24線上實體接連展出
2022台北國際車用電子展4/11-24線上實體接連展出
2021國際半導體展12/28-30登場立即免費報名觀展!
2021國際半導體展12/28-30登場立即免費報名觀展!
CTIMES/文章/
CXL、CCIX和SmartNIC助力PCIe5加速飛奔
高速數位傳輸
【作者:ScottSchweitzer】 2021年04月22日星期四
瀏覽人次:【3034】
過去三十年間,基於伺服器的運算歷經多次飛躍式發展。
在1990年代,業界從單插槽獨立伺服器發展到伺服器叢集。
緊接著在千禧年,產業首次看到雙插槽伺服器;在這之後,多核處理器也相繼問世。
進入下一個十年,GPU的用途遠遠超出了繪圖處理的範疇,我們見證了基於FPGA的加速器卡的興起。
邁入2020年,SmartNIC網路介面卡(networkinterfacecard;NIC),即資料處理單元(DPU)開始風靡。
它們大量採用FPGA、多核Arm叢集或是兩者混合運用,每種作法都能大幅提高解決方案的效能。
從股票交易到基因組定序,運算正以更快的速度求得解答。
在主機殼內部,資料通道是PCIExpress(PCIe)。
雖然幾經變革,但它仍然是毫無爭議的選擇。
PCIe的演進發展
PCIe於2003年首次亮相,恰逢網路準備開始從以十億位元乙太網路(GbE)為主要互聯的時代往更高速的時代躍進。
此時,Myrinet和Infiniband等高效能運算(HPC)網路分別以2Gb/s和8Gb/s的資料傳輸速率超越GbE。
此後不久,10-GbE網路介面控制器(networkinterfacecontrollers,NICs)嶄露頭角,而且擁有優異效能。
它們在每個方向上的速率都接近1.25GB/s,這種8通道(x8)PCIe匯流排的誕生恰逢其時。
第一代PCIex8匯流排在每個方向上的速率為2GB。
當時16通道(x16)的插槽尚未問世,且伺服器主機板一般只提供零星x8插槽和幾個x4插槽。
為了節省成本,部分伺服器廠商甚至使用了x8連接器,但有趣的是卻僅將它們連接成x4。
大部分人(例如網路架構師)都知道每一代PCIe的速率都翻了一倍。
現今的第四代PCIex8插槽的速率大約為16GB/s,所以下一代PCIe的速率將大約為32GB/s,如果這就是第五代PCIe能達到的水準,那確實也不錯。
不過它還可以像阿拉丁神燈那樣神奇,能以CXL和CCIX兩種新協議的形式允許在CPU與SmartNIC,或是輔助處理器等加速器之間實現高效的通訊。
CXL
我們先來談CXL,它提供了定義明確的主從模式。
在這種模式下,CPU的根聯合體(rootcomplex)能透過與加速器卡的高頻寬連結來共享快取記憶體和主系統記憶體,如圖一。
圖一:透過CXL與處理器相連的加速器概念圖(來源:ComputeExpressLinkSpecificationJuly2020)
這有助於主機CPU可以有效地將供作分配給加速器,並接收其處理結果。
部份此類加速器使用DRAM或高頻寬記憶體(HBM)來配備大容量高效能的本機記憶體。
借助CXL,現在可與主機CPU共享這些高效能記憶體,從而更輕鬆地在共享記憶體中處理資料集(dataset)。
此外,對於不可分割交易(AtomicTransaction),CXL能在主機CPU和加速器卡之間共享快取記憶體。
CXL在改善主機與加速器間的通訊方面有了長足的發展,但卻未能解決PCIe匯流排上的加速器之間的通訊問題。
2018年,Linux內核終於推出了可支援PCIe點對點(Peer-to-peer;P2P)模式的代碼。
這使PCIe匯流排上的不同設備之間更容易共享資料。
雖然P2P早在此次內核更新之前就已存在,但它需要精心調整才能運行,往往要求用戶能夠透過程式設計就兩個對等設備進行控制。
隨著內核的更新,加速器與PCIe匯流排上的PCIe/NVMe記憶體或另一個加速器間的通訊方式相對簡化。
隨著解決方案變得日益複雜,簡單的P2P已不敷使用,而且還會限制解決方案的效能。
如今,我們使用DIMM插槽中的永久記憶體、NVMe儲存和直接插在PCIe匯流排上的智慧儲存(SmartSSD),搭配各種加速器卡和SmartNIC或DPU(其中有些本身就具有很大的儲存空間)。
由於這些設備之間必須能互相通訊,因此昂貴的伺服器處理器將化身為成本高昂的交通號誌,使得海量資料流出現瓶頸。
CCIX在此情形下就能大顯身手了,其環境適合在PCIe匯流排上的設備之間建立對等關係。
CCIX
有些人認為CCIX標準與CXL大同小異,但事實並非如此。
在實現匯流排上點對點連接,CCIX的方法與CXL截然不同,如圖二。
此外,它還能利用不同設備上的記憶體,每個設備具有不同的效能特徵,對這些記憶體進行池化,並映射到單一的非一致性記憶體存取(Non-UniformMemoryAccess;NUMA)架構。
隨後它建立一個虛擬地址(VirtualAddress)空間,使池中的所有設備都能存取NUMA記憶體的完整空間。
這已經遠遠超出簡單的PCIeP2P記憶體間複製或是由CXL提出的主從模式。
圖二:三種CCIX配置圖例,包括直連式、交換拓撲和混合菊鍊(來源:AnIntroductiontoCCIXWhitePaper)
作為一種概念,NUMA自1990年代初期以來就已經存在,所以業界對它非常了解。
在此基礎上,當今大多數伺服器都能輕鬆地擴展到太位元組(TB)或更大容量的DRAM記憶體。
不僅如此,還存在能映射名為持續性記憶體(PersistentMemory;PMEM)或儲存級記憶體(StorageClassMemory;SCM)的新型記憶體的驅動程式,它能與真實記憶體(RealMemory)搭配,創建「巨量記憶體」。
綜合運用PCIe5和CCIX,將會進一步使系統架構師能利用SmartSSD擴展這一概念。
運算儲存
SmartSSD也稱作是運算儲存,它將運算元件(通常為FPGA加速器)與固態驅動器中的儲存控制器緊密佈局,或在控制器中嵌入運算功能,從而使SmartSSD中的運算元件能夠在資料進出驅動器的過程中進行處理,進而重新定義資料的存取和儲存方式。
雖然SmartSSD最初被視為區塊裝置,但在FPGA中安裝適當的未來驅動程式後,可以當作像按位元組定址的儲存器使用。
現今生產的SmartSSD具有數TB的容量,但容量還是會爆炸。
因此,只有透過NUMA,SmartSSD才能用於擴展巨量記憶體的概念,這樣一來主機CPU和加速器應用就能跨眾多設備存取數TB容量的記憶體,且無需使用該儲存器重新寫入應用程式。
此外,藉由實現在線壓縮與加密,SmartSSD還能提供更佳的TCO解決方案。
導入SmartNIC
具體應用上該如何使SmartNIC與此架構搭配呢?SmartNIC是一種特殊類型的加速器,位於PCIe匯流排和外部網路之間的連接處。
SmartSSD將運算放在資料的附近,而SmartNIC則讓運算緊臨網路。
為什麼這一點如此重要?簡單地說,我們很少關注伺服器應用自身的網路延遲、擁塞、封包遺失(PacketLoss)、協定、加密、覆蓋網路(OverlayNetwork)或安全政策等問題。
為了解決這些問題,創建了諸如QUIC之類的低延遲協議來改善延遲問題、減少擁塞以及從封包遺失中復原。
我們精心開發出了TLS並採用內核TLS(kTLS)加以擴展,以提供加密和安全的資料傳輸。
我們現在看到kTLS被添加為SmartNIC的一項卸載功能。
為了支援虛擬機器(VM)和容器(container)的協作,我們創建了覆蓋網路,隨後又開發出OpenvSwitch(OvS)等技術定義和管理覆蓋網路。
SmartNIC正開始卸載OvS。
最後,我們按照政策進行管理以確保安全。
這些政策有望反映在Calico和Tigera等形式的協作框架中。
這些政策很快也將透過使用P4等編程match-action框架被卸載到SmartNIC。
這些任務都應該卸載到稱為SmartNIC的專用加速器中。
架構師可以藉由CCIX構建出一個解決方案,作為具有單個虛擬位址空間的巨量記憶體空間,使多個加速器直接存取真實記憶體和SmartSSD中的儲存器。
例如一個解決方案可由四個不同的加速器來構建,如圖三。
圖三:圖中所示為CCIX應用範例,它使用了修改過的CCIX4c-混合菊鍊模型
SmartNIC可能裝有視訊解碼器,以便從攝影機導入視訊時,可以轉換回未經壓縮的幀,並儲存在NUMA虛擬位址空間的共享幀緩衝記憶體中。
在這些幀可用後,執行人工智慧(AI)影像辨識應用上的第二個加速器能掃描這些幀,辨識人臉或車牌。
與此同時,第三個加速器可以對這些幀進行轉碼,用於顯示和長期儲存。
最後,在SmartSSD上運行的第四個應用則負責在AI和轉碼任務成功完成後,從幀緩衝記憶體中刪除這些幀。
這裡我們用四個高度專業的加速器協同工作,形成所謂的「Smartworld」應用。
業界開始增添更多內核以解決與摩爾定律相關的問題。
如今,雖然有大量的內核,但CPU與NIC、儲存和加速器等外部設備間的頻寬不足。
PCIeGen5是我們的下一個關鍵發展點。
它能大幅提高頻寬,開啟在CPU上進行高效能運算的時代。
例如,典型的CPU核心能處理1Gb/s+,但如果你採用128個雙核CPU,那麼PCIeGen4x16是不夠用的。
對於需要在CPU核心和加速器之間進行密切交互的應用來說,CXL和CCIX協議提供的快取記憶體一致性具有諸多優勢。
資料庫、安全性和多媒體等主要應用作業負載現在正開始利用這些優勢。
協作
這個問題的最後一個環節是協作。
這項功能指Kubernetes等框架能自動發現並管理加速的硬體,並在協作資料庫中將其標記為在線可用。
它隨後還需要知道該硬體是否支援上述一個或多個協議。
隨後,隨著對新解決方案實例的請求進入並動態啟動,能夠由這些高級協定感知並加速的容器執行個體就可以使用該硬體。
以賽靈思資源管理器(XRM)為例,能夠與Kubernetes協同工作並管理池中的多個FPGA資源,從而提升加速器的整體利用率。
這樣一來,就能自動分派新發佈的執行個體應用,使其在基礎設施中最適當的高效能資源上執行,同時遵守既定的安全政策。
SmartNIC和DPU使用了PCIe5和CXL或CCIX,將為我們提供高度互連的加速器,有助於開發複雜、高效能的解決方案。
這類SmartNIC將在我們的資料中心內乃至整個世界範圍內,向其他系統提供運算密集型連接。
甚至可以構想這樣一個未來:命令一旦進入Kubernetes控制器,就在SmartNIC資源上以原生執行的方式啟動容器或Pod。
這個新作業負載的大量運算隨後可能會在伺服器中某處的加速器元件上進行,甚至完全不需要伺服器主機CPU的直接參與。
結語
為了正確發揮這樣的功能,就需要進一步強化安全,使安全水準遠遠高於Calico和Tigera。
此外,我們也需要新的加速器感知安全框架來將安全環境(通常稱為安全隔離區;SecureEnclave)擴展到多個運算平台上,這樣就使得機密運算有了用武之地。
它應該同時提供所需架構和API,為單一個安全隔離區內多個運算平台上的在用資料提供保護。
所有敏感資訊隔離設施(SensitiveCompartmentedInformationFacility;SCIF)都是如此。
電腦中的安全隔離區應能涵蓋多個運算平台,而激動人心的時刻就在眼前。
(本文作者ScottSchweitzer為賽靈思技術傳教士)
相關文章
‧
借助自行調適加速平台機器人快速適應環境變化
‧
借助自行調適系統模組加速邊緣創新
‧
借助ZynqRFSoCDFE因應5G大規模部署挑戰
‧
半導體創新成果轉化AI運算世界加速來臨
‧
FPGA從幕前走向幕後
commentspoweredbyDisqus
相關討論
相關新品
Pad(MID)SiPTurnkeySolution
原廠/品牌:鉅景
供應商:鉅景
產品類別:RF
相關新聞
»
橙鋐攜手OPSWAT協助企業打造新世代安防機制
»
2022美國CES展回歸現場140間法國新創匯聚
»
疫後斷鏈重擊產業生態企業上雲助力營運轉型
»
Sophos提供ApacheLog4Shell威脅新情報
»
Vertiv併購E&I滿足混合雲與主機代管業者機房電力穩定需求
相關產品
»
英飛凌AIROC雲端連接管理方案支援AWSIoTExpressLink標準
»
賽靈思新款加速器卡AlveoU55C適用於高效能運算和大數據作業負載
»
IARSystems針對Linux推出組譯工具為RISC-V架構擴充功能安全
»
IARSystems與SecureThingz發表安全開發與量產平台
»
訊連科技U會議提供遠距教學及視訊會議安全、互動性及便於管理
AD
刊登廣告
|
新聞信箱
|
讀者信箱
|
著作權聲明
|
隱私權聲明
|
本站介紹
︱
Copyright©1999-2021遠播資訊股份有限公司版權所有PoweredbyO3
地址:台北市中山北路三段29號11樓/電話(02)2585-5526/E-Mail:[email protected]
相關作者
ScottSchweitzer
相關产业类别
网际产业
相關关键字
網路介面卡
Ccix
Pcie5
Cxl
Smartnic
資源管理
相關组织
Xilinx
相關网站单元
边缘运算
网际科技
延伸文章資訊
- 1因應高速運算挑戰CXL進化2.0版 - 電子工程專輯
CXL運作於PCIe實體層,能在主處理器與周邊裝置如加速器、記憶體緩衝器以及 ... 支援CXL 2.0的產品──XpressConnect系列低延遲PCI Express 5.0/CXL ...
- 2CXL 支援CPU 與GPU 共享記憶體Intel Xe 顯示卡或勝NVIDIA ...
CXL 技術簡介. 取代PCIe. 先講回Intel CXL 標準的原意——作為CPU 與Accelerator 加速器(如FPGA / ...
- 3PCIe 5,CXL,CCIX,SmartNIC,網路介面卡,資源管理,Xilinx,賽靈思
CXL在改善主機與加速器間的通訊方面有了長足的發展,但卻未能解決PCIe匯流排上的加速器之間的通訊問題。 2018 年,Linux內核終於推出了可支援PCIe點對點( ...
- 4打通伺服器任督二脈PCIe 5開啟高性能運算新時代
圖1 CXL、CCIX和SmartNIC影響PCIe 5解決方案加速 ... 第一代PCIe x8匯流排在每個方向上的速率為2GB,當時16通道(x16)的插槽尚未問世,伺服器主機板 ...
- 5Compute Express Link 标准介绍| DesignWare 技术公告
CXL 协议 · CXL.io 协议本质上是经过一定改进的PCIe 5.0 协议,用于初始化、链接、设备发现和列举以及寄存器访问。 · CXL.cache 协议定义了主机和设备之间的交互,允许连...