两个研究小组和已经发现了一种减少使用微控制器单元(MCUS)的边缘设备上机器学习算法的内存使用方法。
科学家说,诸如可穿戴电话和手机之类的设备可以更好地监控健康状况,而智能机器人和其他设备上的视觉系统可以执行使用廉价传感器的人类识别等任务。有关生物识别数据的另一个好处是边缘处理会将数据保留在设备上,而不是将其交给云服务。
MCUS上可用的处理能力和内存的量很小 - 通常为256K RAM和1MB的存储空间。相比之下,具有256GB RAM和TERABYTES存储的智能手机并不少见。对于微控制器单元,内存是一个宝贵的资源。 MIT-IBM Watson AI和计算机科学系的两个MIT研究小组有分析MCU记忆使用神经网络的想法,他们发现记忆使用中的不平衡,引发了瓶颈。
借助新的神经网络架构设计,团队能够在高峰时间将内存使用量减少四到八次。然后,他们将其与MCUNETV2人类检测系统相结合,发现它的表现优于其他可用的MCU。科学家期望发现将打开以前无法实现的新视频图像识别应用程序的大门。
麻省理工学院的助理教授在一份声明中说:“我们确实推动了这些更大尺度的现实应用程序。”
这种新的Tinyml设计比使用从传感器收集的数据在远程服务器上进行的深度学习更快,更便宜(因为物联网设备的价格为$ 1或$ 2)。还有能够将数据保留本地而不是将数据交给公共云以获得额外安全性的优势。
效率也以其他方式有所收益。研究人员指出,一些传统的AI模型需要使用大量的GPU,这些GPU可以在其一生中发出碳的碳。汉说:“ Tinyml技术可以使我们能够脱离网格来节省碳排放,并使AI更绿,更聪明,更快,并且每个人都更容易访问。”
“如果没有GPU或任何专门的硬件,我们的技术就非常小,它可以在这些小型的物联网设备上运行,并执行像这些视觉唤醒单词,面罩检测和人员检测的真实应用程序。这为制作小型AI和移动视觉的全新方式打开了大门,” Han结论。”
带有来自的文件Edgeir.com执行编辑吉姆·戴维斯