混合人工智能（AI）——改善邊緣計算
發(fā)布時間：2023-07-07 來源：控制工程網(wǎng)
本文圖片來源 ：Beyond Limits
混合人工智能（AI）是數(shù)據(jù)驅(qū)動機器智能方法的配套技術(shù)，可以促進邊緣計算的發(fā)展。
諸多行業(yè)都在開發(fā)和部署人工智能（AI）。它使許多公司能夠利用新的機會，創(chuàng)造新的商業(yè)模式并獲得競爭優(yōu)勢。在工業(yè)、能源、國防、醫(yī)療保健和金融行業(yè)，AI正在成為企業(yè)在各自領(lǐng)域內(nèi)有效競爭能力的核心差異化價值驅(qū)動因素。
以物聯(lián)網(wǎng)（IoT）為例。相關(guān)預(yù)測顯示，到2025年物聯(lián)網(wǎng)連接的設(shè)備將超過750億臺，比2019年增長近三倍。這一數(shù)字還在繼續(xù)呈現(xiàn)指數(shù)級的增長，將所有這些設(shè)備與智能功能連接起來，是實現(xiàn)其全部物聯(lián)網(wǎng)潛力的最大挑戰(zhàn)之一。
隨著設(shè)備和系統(tǒng)的技術(shù)能力的不斷成熟，在物理世界中，幾乎所有物體都有連接性和計算能力，不管這些能力是生俱來的還是經(jīng)改造后獲得的。用戶的期望值也在不斷增長。用戶對體驗和交互的要求更高，希望獲得類似于智能手機和筆記本電腦的用戶友好體驗。機器學(xué)習(xí)用戶體驗MLUX（ML+UX）需要精心設(shè)計，以最小的代價獲得積極、有影響力、情境和整體的用戶體驗，以進一步擴大和提升對該技術(shù)的采用。
01 邊緣計算系統(tǒng)正在不斷發(fā)展
邊緣系統(tǒng)的設(shè)計，具有不同且通常有限的計算機處理、存儲和內(nèi)存、網(wǎng)絡(luò)連接和運行等諸多限制。邊緣范式轉(zhuǎn)移到數(shù)據(jù)被感知、生成和執(zhí)行的地方進行本地處理；盡管在某些情況下，它有點類似于云功能，可以通過邊緣網(wǎng)關(guān)進一步擴展，以提供低延遲和高帶寬利用率。
在整個范圍中，硬件系列可以涵蓋從資源受限的超低功耗裸機設(shè)備、RTOS微控制器（例如，ARM Cortex-M）到SoC應(yīng)用微處理器（例如，ARM Cortex-A）配置文件功能。原始設(shè)計制造商/原始設(shè)備制造商（ODM/OEM）許可的應(yīng)用程序配置文件目標(biāo)，通常出現(xiàn)在智能手機和平板電腦中，或連接到外部的微控制器、傳感器和驅(qū)動器或基帶處理器的應(yīng)用處理器中。
在此范圍內(nèi)，先進的專用AI加速器ASIC設(shè)備已被設(shè)計為處理高性能的AI操作指令和支持最先進的模型（SOTA）。盡管硅的應(yīng)用落后于AI研究，但它帶來的好處是性能提高，這間接地與最終用戶的體驗聯(lián)系在一起。
在生命周期開始之前，許多SoTA AI模型都需要進一步優(yōu)化和壓縮，而不會降低目標(biāo)性能。隨著該領(lǐng)域的發(fā)展，將模型部署到嵌入式設(shè)備已轉(zhuǎn)向嵌入式系統(tǒng)范式，即在目標(biāo)主機上交叉編譯代碼。
用戶可以通過中間格式（MLIR）和Runtime執(zhí)行環(huán)境來編譯和優(yōu)化處理器目標(biāo)和設(shè)備執(zhí)行，而不是部署較小的參數(shù)化抽象模型，以換取目標(biāo)性能。這也與提供更低的延遲和改善的用戶體驗有關(guān)。
在運營過程中，AI邊緣系統(tǒng)需要具有一定程度的獨立性，盡管具有局限性，但仍能做出高性能的決策，直到它們能夠利用更強大的資源以及來自所連接的云基礎(chǔ)設(shè)施的大量數(shù)據(jù)和知識。對于互連的設(shè)備，這種獨立狀態(tài)被稱為緊急模式。
02 使用混合AI改善邊緣計算
使用混合AI（Hybrid AI）是推進邊緣AI的潛在途徑?；旌螦I是一種將機器學(xué)習(xí)與符號AI（Symbolic AI）相結(jié)合的方法，前者使用統(tǒng)計模型來分析數(shù)據(jù)，后者基于語義并提供對意義的見解。通過利用每種技術(shù)的優(yōu)勢，可以實現(xiàn)比單獨使用任何一種技術(shù)更強大的結(jié)果。
混合AI作為數(shù)據(jù)驅(qū)動機器智能方法的配套技術(shù)，補充了認知符號AI能力，克服了推理、順序規(guī)劃、可操作反饋以及類似人類的可理解闡述和解釋方面的限制。核心關(guān)注點是與用戶的協(xié)作互動，充當(dāng)情境決策支持顧問和診斷系統(tǒng)，尤其是在與高風(fēng)險、不確定性和未知相關(guān)的情況下更是如此。例如，NASA JPL為火星探測器著陸開發(fā)了混合AI，增加了推理智能功能，以改善在不熟悉和傳統(tǒng)技術(shù)難以實現(xiàn)的困難地形下的導(dǎo)航。
利用混合AI，可以通過編碼的人類專家知識和約束、行業(yè)指南和最佳實踐以及傳統(tǒng)的支持歷史庫和流式事件信息來豐富系統(tǒng)。這些認知引擎和算法對假設(shè)的路徑和場景進行建模，以提出行動方案并制定智能的近實時決策，即使在那些在操作、獲取和訪問質(zhì)量數(shù)據(jù)方面被認為不太理想的邊緣環(huán)境下也是能完成任務(wù)。
考慮連接受限或不穩(wěn)定的邊緣設(shè)備的使用工況，這些設(shè)備在惡劣或遠程環(huán)境中運行，具有長尾數(shù)據(jù)分布，數(shù)據(jù)采集和存儲受到限制?；蛘?，當(dāng)設(shè)備故障，傳感器融合和機動高風(fēng)險錯誤條件路徑的時間周期內(nèi)，發(fā)生數(shù)據(jù)沖突時所導(dǎo)致的不理想路徑。這些案例都是傳統(tǒng)大數(shù)據(jù)和微調(diào)方法不太適合的?；旌螦I可以直接將這些條件，作為推薦行動計劃和用戶反饋回路的一部分，或利用知識和約束的基礎(chǔ)模型進行校正，間接地促成這些條件。
在IoT和其它在邊緣運行的系統(tǒng)中使用混合AI，為連接、用戶體驗和運營決策帶來了新的潛力。AI未來的愿景，包括能在網(wǎng)絡(luò)邊緣和更大的生態(tài)系統(tǒng)和價值鏈之外，實現(xiàn)傳統(tǒng)機器學(xué)習(xí)系統(tǒng)無法完成的任務(wù)的認知系統(tǒng)：智能和流暢地與人類專家互動，提供清晰可行的解釋，并增強用戶對決策的信任和信心。（作者 | Ari Kamlani）
關(guān)鍵概念：
■ 作為數(shù)據(jù)驅(qū)動機器智能方法的配套技術(shù)，混合AI可以改善邊緣計算。
■ 在IoT和其它在邊緣運行的系統(tǒng)中使用混合AI，為連接、用戶體驗和運營決策帶來了新的潛力。
思考一下：
AI和邊緣計算可以為您的應(yīng)用帶來哪些潛在好處？