研究人员将深度学习带入物联网设备

深度学习无处不在。该分支 人工智能 策划您的社交媒体并提供您的Google搜索结果。不久,深度学习还可以检查您的体能或设置恒温器。

深度学习物联网

麻省理工学院的研究人员已经开发出一种可以将深度学习神经网络带入新的系统– and much smaller –像可穿戴医疗设备,家用电器中的微型计算机芯片以及构成物联网的2500亿其他对象一样放置。

该系统称为 单片机网,尽管内存和处理能力有限,但仍设计了紧凑的神经网络,可为IoT设备上的深度学习提供前所未有的速度和准确性。该技术可以促进物联网领域的扩展,同时节省能源并提高数据安全性。

主要作者是 吉林,是 宋Han‘s lab in 麻省理工学院’电气工程与计算机科学系(脑电图)。

物联网

物联网诞生于1980年代初期。卡内基梅隆大学的研究生,包括 迈克·卡扎尔 ’78,将可乐可乐机器连接到互联网。群组’动机很简单:懒惰。

他们想使用计算机来确认机器是否已存货,然后再从办公室徒步旅行进行购买。那是世界’的第一台联网设备。“这几乎被当作笑话的重点,”现在是微软工程师的卡扎尔说。“没有人期望互联网上有数十亿台设备。”

自该可乐机问世以来,日常物品已越来越多地联网到不断增长的物联网中。其中包括从可穿戴式心脏监护仪到智能冰箱的所有信息,它们可以告诉您何时您’re low on milk.

物联网设备通常在微控制器上运行–简单的计算机芯片,没有操作系统,处理能力最小,并且内存不到典型智能手机的千分之一。因此,深度学习等模式识别任务很难在IoT设备上本地运行。对于复杂的分析,物联网收集的数据通常被发送到云中,使其容易受到黑客攻击。

“我们如何直接在这些小型设备上部署神经网络?它’一个新的研究领域’s getting very hot,” says Han. “像Google和ARM这样的公司都朝着这个方向努力。” Han is too.

With 单片机网, Han’的组代码签名了两个所需的组件“tiny deep learning” – the operation of 神经网络 on microcontrollers. One component is TinyEngine, an inference engine that directs resource management, akin to an operating system. TinyEngine is optimized to run a particular neural network structure, which is selected by 单片机网’其他组件:TinyNAS,一种神经体系结构搜索算法。

系统算法代号

为微控制器设计深度网络不是’容易。现有的神经体系结构搜索技术从基于预定义模板的大量可能的网络结构开始,然后逐渐找到具有高精度和低成本的网络结构。虽然该方法有效,但是’不是最有效的。

“它可以很好地适用于GPU或智能手机,” says Lin. “But it’由于它们太小,很难直接将这些技术应用于微型微控制器。”

因此,林开发了TinyNAS,这是一种神经体系结构搜索方法,可创建自定义大小的网络。“我们有许多微控制器,它们具有不同的功率容量和不同的存储器大小,” says Lin. “因此,我们开发了[TinyNAS]算法来优化不同微控制器的搜索空间。”

TinyNAS的定制性质意味着它可以生成紧凑的神经网络,从而为给定的微控制器提供最佳性能–没有不必要的参数。“然后,我们将最终的高效模型提供给微控制器,” say Lin.

为了运行这个微小的神经网络,微控制器还需要一个精益推理引擎。典型的推理引擎会带来一些自重–有关可能很少运行的任务的说明。额外的代码对于笔记本电脑或智能手机没有问题,但是很容易使微控制器不堪重负。

“It doesn’没有片外存储器,并且没有’t have a disk,” says Han. “放在一起的所有内容只是一兆字节的闪存,因此我们必须真正小心地管理如此小的资源。” Cue TinyEngine.

研究人员与TinyNAS一起开发了他们的推理引擎。 TinyEngine生成运行TinyNAS所需的必要代码’定制的神经网络。任何无用的代码都将被丢弃,从而缩短了编译时间。

“我们只保留我们需要的东西,” says Han. “由于我们设计了神经网络,因此我们确切地知道了我们所需要的。那’系统算法代码签名的优势。”

在组中’在TinyEngine的测试中,编译后的二进制代码的大小比Google和ARM的微控制器推理引擎小1.9至5倍。

TinyEngine还包含减少运行时间的创新,包括就地深度卷积,可将峰值内存使用量减少近一半。在对TinyNAS和TinyEngine进行代码签名后,韩’s team put 单片机网 to the test.

单片机网’s first challenge was image classification. The 研究ers used the ImageNet database to train the system with labeled images, then to test its ability to classify novel ones. On a commercial microcontroller they tested, 单片机网 successfully classified 70.7 percent of the novel images —以前最先进的神经网络和推理引擎组合的准确性仅为54%。“即使提高1%也被认为是重大的,” says Lin. “因此,这是微控制器设置的巨大飞跃。”

The team found similar results in ImageNet tests of three other microcontrollers. And on 机器人h speed and accuracy, 单片机网 beat the competition for audio and visual “wake-word”任务,其中用户使用语音提示与计算机进行交互(请考虑:“Hey, Siri”) or simply by entering a room. The experiments highlight 单片机网’对多种应用的适应性。

潜力巨大

令人鼓舞的测试结果使Han希望它将成为微控制器的新行业标准。“它具有巨大的潜力,” he says.

前进“将深度神经网络设计的边界进一步扩展到小型节能微控制器的计算领域,” says 库尔特·库策(Kurt Keutzer), a computer scientist at the University of California at Berkeley, who was not involved in the work. He adds that 单片机网 could “将智能计算机视觉功能带到最简单的厨房电器,或启用更多智能运动传感器。”

单片机网 could also make 物联网设备 更安全。“一项主要优势是可以保护隐私,” says Han. “You don’无需将数据传输到云。”

在本地分析数据可降低个人信息被盗的风险— including personal health data. Han envisions smart watches with 单片机网 that don’t just sense users’心跳,血压和氧气水平,还可以分析并帮助他们了解这些信息。

单片机网 could also bring deep learning to 物联网设备 in vehicles and rural areas with limited internet access.

Plus, 单片机网’纤薄的计算足迹转化为纤薄的碳足迹。“我们的大梦想是绿色AI,” says Han, adding that training a large neural network can burn carbon equivalent to the lifetime emissions of five cars. 单片机网 on a microcontroller would require a small fraction of that energy.

“我们的最终目标是使用更少的计算资源,更少的人力资源和更少的数据来实现高效,微型的AI,” says Han.

分享这个