兩個研究小組和已經發現了一種減少使用微控制器單元(MCUS)的邊緣設備上機器學習算法的內存使用方法。
科學家說,諸如可穿戴電話和手機之類的設備可以更好地監控健康狀況,而智能機器人和其他設備上的視覺系統可以執行使用廉價傳感器的人類識別等任務。有關生物識別數據的另一個好處是邊緣處理會將數據保留在設備上,而不是將其交給雲服務。
MCUS上可用的處理能力和內存的量很小 - 通常為256K RAM和1MB的存儲空間。相比之下,具有256GB RAM和TERABYTES存儲的智能手機並不少見。對於微控制器單元,內存是一個寶貴的資源。 MIT-IBM Watson AI和計算機科學系的兩個MIT研究小組對MCU記憶使用了神經網絡的記憶使用,他們發現記憶使用中的不平衡,引發了瓶頸。
借助新的神經網絡架構設計,團隊能夠在高峰時間將內存使用量減少四到八次。然後,他們將其與MCUNETV2人類檢測系統相結合,發現它的表現優於其他可用的MCU。科學家期望發現將打開以前無法實現的新視頻圖像識別應用程序的大門。
麻省理工學院的助理教授在一份聲明中說:“我們確實推動了這些更大尺度的現實應用程序。”
這種新的Tinyml設計比使用從傳感器收集的數據在遠程服務器上進行的深度學習更快,更便宜(因為物聯網設備的價格為$ 1或$ 2)。還有能夠將數據保留本地而不是將數據交給公共雲以獲得額外安全性的優勢。
效率也以其他方式有所收益。研究人員指出,一些傳統的AI模型需要使用大量的GPU,這些GPU可以在其一生中發出碳的碳。漢說:“ Tinyml技術可以使我們能夠脫離網格來節省碳排放,並使AI更綠,更聰明,更快,並且每個人都更容易訪問。”
“如果沒有GPU或任何專門的硬件,我們的技術就非常小,它可以在這些小型的物聯網設備上運行,並執行像這些視覺喚醒單詞,面罩檢測和人員檢測的真實應用程序。這為製作小型AI和移動視覺的全新方式打開了大門,” Han結論。 ”
帶有來自的文件Edgeir.com執行編輯吉姆·戴維斯