系統為物聯網設備帶來深度學習

深度學習無處不在。人工智能的這一分支負責管理您的社交媒體并提供您的Google搜索結果。不久，深度學習還可以檢查您的體能或設置恒溫器。麻省理工學院的研究人員開發了一種系統，該系統可以將深度學習神經網絡引入新的甚至更小的地方，例如可穿戴醫療設備中的微型計算機芯片，家用電器以及構成“物聯網”的2500億其他物體(物聯網)。

該系統稱為MCUNet，它設計了緊湊的神經網絡，盡管內存和處理能力有限，但它們為IoT設備上的深度學習提供了空前的速度和準確性。該技術可以促進物聯網領域的擴展，同時節省能源并提高數據安全性。

物聯網

物聯網誕生于1980年代初期。卡內基·梅隆大學(Carnegie Mellon University)的研究生，包括邁克·卡扎爾(Mike Kazar '78)，將可樂機裝到了互聯網上。該小組的動機很簡單：懶惰。他們想使用計算機來確認機器是否已存貨，然后再從辦公室徒步旅行進行購買。這是世界上第一臺連接互聯網的設備。微軟工程師卡扎爾說：“這幾乎被當成是玩笑的笑話。” “沒有人期望互聯網上有數十億臺設備。”

自該可樂機問世以來，日常物品已越來越多地聯網到不斷增長的物聯網中。其中包括從可穿戴式心臟監護儀到智能冰箱的所有信息，這些信息可以告訴您何時喝低牛奶。物聯網設備通常在微控制器上運行，這些微控制器是無操作系統的簡單計算機芯片，具有最小的處理能力，并且內存不到典型智能手機的千分之一。因此，深度學習等模式識別任務很難在IoT設備上本地運行。對于復雜的分析，物聯網收集的數據通常被發送到云中，使其容易受到黑客攻擊。

漢說：“我們如何直接在這些小型設備上部署神經網絡?這是一個新的研究領域，而且越來越熱。” “像Google和ARM這樣的公司都在朝這個方向努力。” 漢也是。

通過MCUNet，Han的小組對“微型深度學習”所需的兩個組件進行了代碼簽名-微控制器上神經網絡的操作。其中的一個組件是TinyEngine，這是一個類似于操作系統的引導引擎，用于指導資源管理。TinyEngine經過優化，可以運行特定的神經網絡結構，該結構由MCUNet的其他組件TinyNAS(一種神經體系結構搜索算法)選擇。

系統算法協同設計

為微控制器設計一個深度網絡并不容易。現有的神經體系結構搜索技術從基于預定義模板的大量可能的網絡結構開始，然后逐漸找到具有高精度和低成本的網絡結構。盡管該方法有效，但并非最有效。Lin說：“它可以在GPU或智能手機上很好地工作。” “但是將這些技術直接應用于微型微控制器非常困難，因為它們太小了。”

因此，林開發了TinyNAS，這是一種神經體系結構搜索方法，可創建自定義大小的網絡。Lin說：“我們有許多微控制器具有不同的功率容量和不同的存儲器大小。” “因此，我們開發了算法[TinyNAS]，以優化不同微控制器的搜索空間。” TinyNAS的定制性質意味著它可以生成緊湊的神經網絡，從而為給定的微控制器提供最佳性能-無需不必要的參數。Lin說：“然后，我們將最終的高效模型提供給微控制器。”