產(chǎn)業(yè)智能落地難,5G+Edge如何推進(jìn)AI工程化?
物聯(lián)網(wǎng)智庫 原創(chuàng)
轉(zhuǎn)載請(qǐng)注明來源和出處
導(dǎo) 讀
邊緣計(jì)算將作為不可或缺的配套基礎(chǔ)設(shè)施,實(shí)現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型,同時(shí)在5G和AI技術(shù)加持下,將不斷加速邊緣計(jì)算落地到豐富的應(yīng)用場(chǎng)景中。
自2019年工信部向三大運(yùn)營商頒發(fā)“5G牌照”至今已兩年有余,國內(nèi)5G網(wǎng)絡(luò)建設(shè)取得的領(lǐng)先優(yōu)勢(shì)有目共睹,恰逢我國“十四五”開局之年,《中華人民共和國國民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中明確提出,加快推動(dòng)數(shù)字產(chǎn)業(yè)化,構(gòu)建基于5G的應(yīng)用場(chǎng)景和產(chǎn)業(yè)生態(tài),在智能交通、智慧物流、智慧能源、智慧醫(yī)療等重點(diǎn)領(lǐng)域開展試點(diǎn)示范。
作為未來5-10年內(nèi)的主流移動(dòng)通信方式,5G網(wǎng)絡(luò)建設(shè)如火如荼推進(jìn)的同時(shí),隨著越來越多的終端設(shè)備接入5G網(wǎng)絡(luò),隨之而來的數(shù)據(jù)量也與日俱增,無疑對(duì)后端計(jì)算提出了更大的挑戰(zhàn)。
然而,正所謂“危機(jī)共生”,激增的數(shù)據(jù)規(guī)模也極大推動(dòng)了5G、IoT、AI三大細(xì)分領(lǐng)域走向融合,進(jìn)而為傳統(tǒng)行業(yè)的智能化轉(zhuǎn)型注入驅(qū)動(dòng)力。而在后端計(jì)算領(lǐng)域,5G的發(fā)展不僅沒有使數(shù)據(jù)直達(dá)入云,反而憑借其大帶寬、低時(shí)延、高可靠特性進(jìn)一步促進(jìn)了邊緣計(jì)算的崛起,根據(jù)相關(guān)市場(chǎng)機(jī)構(gòu)預(yù)測(cè),到2024年邊緣計(jì)算市場(chǎng)規(guī)模將達(dá)到90億美元,到2027年則有望達(dá)到183億美元。
在7月22日舉辦的2021摯物·AIoT產(chǎn)業(yè)領(lǐng)袖峰會(huì)(簡(jiǎn)稱“摯物大會(huì)”)上,創(chuàng)通聯(lián)達(dá)副總裁楊新輝在“5G To B”分論壇上為觀眾帶來了題為《5G+Edge驅(qū)動(dòng)行業(yè)智慧化轉(zhuǎn)型》的精彩演講,分享了其對(duì)于5G、邊緣計(jì)算、AI在產(chǎn)業(yè)應(yīng)用中的深度觀察,以及創(chuàng)通聯(lián)達(dá)在“5G+Edge”領(lǐng)域的落地成果。除此之外,北京創(chuàng)通聯(lián)達(dá)智能技術(shù)有限公司還榮獲“2021‘摯物獎(jiǎng)’·5G技術(shù)應(yīng)用先鋒企業(yè)獎(jiǎng)”。
突破AI工程化桎梏
邊緣計(jì)算有效彌補(bǔ)了云計(jì)算在時(shí)效性、傳輸距離、安全性等方面的不足,可以在靠近用戶的邊緣節(jié)點(diǎn)進(jìn)行數(shù)據(jù)處理,大大緩解后端計(jì)算壓力的同時(shí)也保障了計(jì)算的即時(shí)性。而5G與邊緣計(jì)算的結(jié)合更是相得益彰,一方面,5G網(wǎng)絡(luò)通信保障了數(shù)據(jù)本地化處理的實(shí)時(shí)性與穩(wěn)定性;另一方面,通過將計(jì)算從數(shù)據(jù)中心向邊緣下沉,可以更好地將低時(shí)延特性作用到終端設(shè)備上,加之AI的助力使得邊緣節(jié)點(diǎn)的運(yùn)算具備了智能分析能力。
創(chuàng)通聯(lián)達(dá)副總裁楊新輝表示,邊緣計(jì)算將作為不可或缺的配套基礎(chǔ)設(shè)施,實(shí)現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型,同時(shí)在5G和AI技術(shù)加持下,將不斷加速邊緣計(jì)算落地到豐富的應(yīng)用場(chǎng)景中。
功過參半,AI將邊緣計(jì)算推向更高階層的同時(shí),其自身存在的技術(shù)門檻高、流程復(fù)雜、業(yè)務(wù)產(chǎn)出比低、敏捷響應(yīng)度低等諸多挑戰(zhàn),貫穿從AI模型開發(fā)到部署應(yīng)用的整個(gè)環(huán)節(jié),也在某種程度上限制了邊緣智能在產(chǎn)業(yè)中的落地。正如楊新輝所述,制約產(chǎn)業(yè)智能化進(jìn)程的最大因素便是AI的工程化。
-
在數(shù)據(jù)開發(fā)階段需要綜合考慮數(shù)據(jù)安全性、工具友好性、管理有效性;
-
在模型開發(fā)階段,則要面臨成本高、難度大、技術(shù)要求高等問題;
-
在AI工程化階段存在碎片化、效率低、邊緣能力弱等挑戰(zhàn)。
針對(duì)于此,創(chuàng)通聯(lián)達(dá)從流程化出發(fā),開發(fā)了ModelFarm AI平臺(tái)以解決AI工程化難題。
創(chuàng)通聯(lián)達(dá)的ModelFarm平臺(tái)能夠提供全流程的AI開發(fā)部署能力,提供4個(gè)易用的標(biāo)注工具,50個(gè)SOTA預(yù)訓(xùn)練模型,可支持包括SNPE、TensorFlow Lite,、Tensor RT,、Open VINO在內(nèi)的不同推理引擎,同時(shí)可通過量化訓(xùn)練,提升邊緣側(cè)推理能力,在實(shí)現(xiàn)設(shè)備管理的同時(shí),支持遠(yuǎn)程算法及應(yīng)用部署。基于ModelFarm平臺(tái),企業(yè)整體開發(fā)成本降低70%,同時(shí)開發(fā)效率提升10%以上,有效加速了智慧工業(yè)、智慧樓宇、智慧交通、智慧作業(yè)等領(lǐng)域AI項(xiàng)目的落地。
軟硬結(jié)合,全面賦能“5G+Edge”
創(chuàng)通聯(lián)達(dá)積極布局5G和邊緣計(jì)算領(lǐng)域,從開發(fā)、調(diào)試、交付到運(yùn)維,保障企業(yè)能夠利用人工智能改善盈利空間。據(jù)楊新輝介紹,創(chuàng)通聯(lián)達(dá)采用“DevOps”理念,實(shí)現(xiàn)一體化的開發(fā)與智慧運(yùn)維:
其中,ModelFarm平臺(tái)可實(shí)現(xiàn)AI模型訓(xùn)練,IoT Harbor平臺(tái)可實(shí)現(xiàn)設(shè)備管理、FOTA、規(guī)則引擎、數(shù)據(jù)管理、應(yīng)用管理,邊緣側(cè)的OS組件可快速滿足邊緣操作系統(tǒng)的功能要求。
-
Osware.connect:支持邊云協(xié)同與邊緣自治,邊緣設(shè)備能在與云端斷開連接后繼續(xù)保持工作,且邊緣設(shè)備恢復(fù)云端連接后可以與云端進(jìn)行同步,以保持狀態(tài)一致、數(shù)據(jù)一致;支持算力組網(wǎng),算力任務(wù)自動(dòng)調(diào)配到最佳計(jì)算節(jié)點(diǎn)進(jìn)行處理,還可以通過增加算力使得計(jì)算效率大幅提升;支持多設(shè)備協(xié)同工作,包括工業(yè)領(lǐng)域內(nèi)多機(jī)器人協(xié)同工作與工業(yè)領(lǐng)域內(nèi)質(zhì)檢設(shè)備和機(jī)械臂設(shè)備協(xié)同工作等。
-
Osware.edgey:可通過提供鏡像管理、接口定義、持續(xù)部署等關(guān)鍵能力,簡(jiǎn)化微服務(wù)的交付模式,加速邊緣應(yīng)用交付;可通過屏蔽分布式開發(fā)的復(fù)雜性,在開發(fā)、服務(wù)、數(shù)據(jù)、運(yùn)行、運(yùn)維等多個(gè)層面進(jìn)行能力聚合;可在層級(jí)模塊之間使用基于標(biāo)準(zhǔn)化的數(shù)據(jù)接口和指令接口構(gòu)建API生態(tài);可整合業(yè)界主流技術(shù)架構(gòu)體系,建立分布式架構(gòu)的技術(shù)基線;支持基于客戶的需求實(shí)現(xiàn)高度的定制化能力。
在硬件方面,創(chuàng)通聯(lián)達(dá)推出了融合“5G+AI+Edge”技術(shù)的軟硬件一體化產(chǎn)品——EB5邊緣智能站:
-
在硬件設(shè)計(jì)上,它提供了最高主頻為2.84GHz的8核CPU 15T算力, 8GB LPDDR5內(nèi)存,能夠支持24路全高清視頻解碼及多種AI推理模型并發(fā),支持5G 和WiFi6 連接,同時(shí)采用工業(yè)級(jí)無風(fēng)扇散熱設(shè)計(jì),使該產(chǎn)品能夠完美應(yīng)對(duì)各種苛刻的使用環(huán)境要求;
-
在軟件方面, EB5邊緣智能站內(nèi)置智能邊緣操作系統(tǒng),邊緣計(jì)算平臺(tái)架構(gòu),基于EdgeX開源框架,增加對(duì)垂直領(lǐng)域內(nèi)設(shè)備接入和控制協(xié)議的支持,增加對(duì)k3s等編排框架的支持;基于邊云協(xié)同,對(duì)接主流云廠商的服務(wù),支持設(shè)備管理,系統(tǒng)升級(jí),應(yīng)用分發(fā)等;提供邊緣側(cè)系統(tǒng)級(jí)關(guān)鍵服務(wù);支持實(shí)時(shí)處理。
除此之外,創(chuàng)通聯(lián)達(dá)還推出了EB5智能魔方(Edge AI Cube)幫助企業(yè)快速實(shí)現(xiàn)智能化轉(zhuǎn)型,以及高性價(jià)比的TurboX CT4350 5G智能通信模組,集成了Qualcomm® Snapdragon™ 480 5G移動(dòng)平臺(tái),可完美適用于手持終端、行車記錄儀、智能POS機(jī)、無人機(jī)等領(lǐng)域。
在“摯物大會(huì)”的“5G To B”分論壇圓桌對(duì)話環(huán)節(jié),創(chuàng)通聯(lián)達(dá)副總裁楊新輝與中國信息通信研究院專家趙小飛以及騰訊游戲技術(shù)運(yùn)營部高級(jí)工程師馬嘯虎、有方科技副總裁羅偉、鼎橋通信技術(shù)預(yù)研部總監(jiān)佟學(xué)儉、吾愛易達(dá)聯(lián)合創(chuàng)始人李亞春、北京中微普業(yè)5G市場(chǎng)營銷總經(jīng)理袁為化等行業(yè)專家就5G產(chǎn)業(yè)新趨勢(shì)展開了精彩的思想碰撞。
楊新輝提出,5G發(fā)展主要是由應(yīng)用驅(qū)動(dòng)的,無論是國家層面,還是模組廠商都是在鋪設(shè)管道和基礎(chǔ)設(shè)施,當(dāng)閾值達(dá)到一定規(guī)模的時(shí)候,應(yīng)用就會(huì)爆發(fā)。
寫在最后
創(chuàng)通聯(lián)達(dá)基于深度技術(shù)積累,為企業(yè)級(jí)客戶提供了貫穿芯片層、驅(qū)動(dòng)層、操作系統(tǒng)層、算法層及應(yīng)用層的一站式解決方案,基于“5G+Edge”架構(gòu),在AI工程化的加持下,正成為物聯(lián)網(wǎng)行業(yè)的賦能者。
本文來自微信公眾號(hào) “物聯(lián)網(wǎng)智庫”(ID:iot101),作者:物聯(lián)網(wǎng)智庫,36氪經(jīng)授權(quán)發(fā)布。
