已經引入了一個由歐盟資助的項目Vedliot（物聯網中非常有效的深度學習），以解決與在物聯網系統中實施深度學習相關的挑戰。 Vedliot項目開發了聰明的家解決方案，尤其是在面部識別系統中，配備了當地處理功能，以進行數據保護和隱私。該項目旨在通過直觀的互動，本地AI處理和高效的AI硬件加速器為各個行業提供安全和隱私的解決方案。
人工智能和物聯網已成為強大的技術，使公司能夠創新其產品並改善客戶體驗。 AI和IoT的融合（你要去）重塑了企業如何收集，分析和響應邊緣數據。雖然深度學習是使用人工神經網絡的AI子集，但被認為是物聯網應用做出智能決策，處理大量數據並提取寶貴見解的理想選擇，但它們面臨與效率和安全有關的挑戰。
選擇正確的專業AI加速器
Vedliot使用專門的硬件加速器來優化物聯網設備中的能源消耗並提高深度學習模型的效率，從而使其更快，更可擴展到邊緣應用。在市場上，各種AI加速器都是為不同應用設計的。這些加速器可以在設備中找到，從具有有限計算功率的小型嵌入式系統到高功率雲計算平台。
為特定的面部識別應用選擇正確的加速器可能很複雜。但是，ved項目通過徹底評估和評估包括GPU，現場可編程門陣列（FPGA）和特定於應用程序特定的集成電路（ASIC）在內的各種架構來承擔部分責任。該項目根據其性能和能耗來檢查這些加速器，以確定其對特定用例的適用性。
優化深度學習模型
傳統上，深度學習模型具有冗餘，這意味著它們具有比達到特定準確性所必需的更多參數和復雜性。報告表明，深度學習模型有時可以壓縮到不影響原始大小的49倍的尺寸，而不會影響準確性。但是，大多數現有的模型壓縮研究研究都不考慮該模型將在其上運行的目標硬件。
例如，被認為適合面部識別系統的NVIDIA JETSON模塊將需要對機器學習模型進行壓縮，並考慮使用此特定硬件，以轉化為更有效的硬件執行。 Vedliot通過採用硬件感知方法來確保對目標設備量身定制優化過程來應對這一挑戰。
Vedliot使用嵌入工具包用於優化深度學習模型，因為它專注於特定於硬件的約束和特徵。這使開發人員可以執行各種優化技術，例如壓縮量化和修剪（刪除不必要的參數）。在面部識別系統中，智能攝像機在船上有最少的處理和存儲資源。為了服務於該市場細分市場，嵌入有助於最大程度地減少資源利用率，同時保持高推理準確性。
物聯網系統中的安全性
減少延遲的好處可能是朝著系統安全付出的代價，尤其是對於面部識別用例。由於邊緣基礎架構缺乏豐富的計算組件，因此實現穩健的安全性，加密和身份驗證機製成為挑戰，基於圖像的處理是系統的主要操作。因此，需要整合動態系統，該系統可以優化組件選擇以及能耗的效率。
VEDLIOT對Edge Security介紹了對安全性和安全性的重視。為了實現這一目標，該項目利用可信賴的執行環境，例如ARM Trustzone。這些TEE在硬件中創建安全和孤立的環境，以保護關鍵基礎架構免受未經授權的使用。在面部識別的情況下，智能攝像機和邊緣設備存儲在面部匹配算法中使用的生物識別信息（如果不固定）容易違反隱私和安全攻擊。
對於T卹手臂信任區，Vedliot確保在安全的飛地內處理面部識別數據，以防止未經授權的訪問和篡改。這種基於硬件的安全方法為潛在威脅，包括數據洩露和網絡攻擊提供了強有力的防禦。此外，該項目通過引入可信賴的運行時間（例如Twine for Arm Trustzone）進行了進一步的一步，該運行時間簡化了這些安全環境中的軟件開發。
除此之外，將TEE與WebAssembly一起使用，可為惡意干擾提供獨立的硬件保護。這種保護可確保生物識別數據和深度學習模型在邊緣基礎架構內部安全。此外，使用專門的體系結構框架有助於定義，同步和協調AI組件的要求。
未來
Vedliot項目涉及對物聯網系統的深度學習模型的實施日益關注的問題。該平台配備了為物聯網應用設計的優化硬件組件和加速器。它還涵蓋了從嵌入式IoT設備到邊緣設備甚至基於雲的應用程序的各種部署方案。
在面部識別系統的情況下，Vedliot項目不僅專注於模型優化，而且在整個框架中都重點關注安全性和安全性。該項目旨在將電力效率計算帶到網絡邊緣。
關於作者
Abhishek Jadhav是碩士畢業於電氣工程和技術與科學Edgeir的作家，，，，
