成長與修剪人工智能模仿大腦發育大幅減少能源使用

這可能會讓父母面對蹣跚學步的生活一天一震撼，但大腦的復雜性在三歲左右達到頂峰。

在最初的幾年中，神經元之間的連接數量實際上激增。之后，大腦開始修剪掉這個龐大的網絡中未使用的部分，到我們成年時，大腦的數量減少到大約一半。過度配置幼兒大腦可以使我們掌握語言并發展精細的運動技能。但是我們不使用的東西，我們會輸。

現在，生物復雜性的起伏不定激發了普林斯頓大學的一組研究人員創建了一種人工智能的新模型，創建了僅使用一小部分能量即可達到或超過行業標準的程序。在今年早些時候發表的兩篇論文中，研究人員展示了如何從一個簡單的AI網絡設計開始，如何通過添加人工神經元和連接來擴展網絡，然后修剪掉未使用的部分，從而獲得精簡但高效的最終產品。

電氣工程學教授Niraj Jha說：“我們的方法就是所謂的“生長和修剪”范式。“這與從嬰兒時期到蹣跚學步的大腦相似。” 第三年，人類的大腦開始切斷腦細胞之間的聯系。這個過程一直持續到成年期，因此，發達的大腦大約在其突觸峰的一半處運作。

賈說：“成人大腦專長于我們提供的任何訓練。” “對于通用學習而言，它不如蹣跚學步的大腦好。”

不斷增長和修剪的軟件所需要的計算能力只是其一小部分，因此所消耗的能量要少得多，從而可以對世界做出同樣好的預測。限制能源使用對于將這種先進的AI(稱為機器學習)應用到手機和手表等小型設備至關重要。

“在本地運行機器學習模型非常重要，因為(傳輸到云)需要大量精力，”前普林斯頓大學研究生，兩篇論文的第一作者戴曉亮說。戴現在是Facebook的研究科學家。