在AI的光學計算中利用噪聲

人工智能和機器學習目前正在以許多小而有影響力的方式影響我們的生活。例如，人工智能和機器學習應用程序推薦我們可能通過Netflix和Spotify等流媒體服務享受的娛樂。

在不久的將來，預計這些技術將通過駕駛全自動駕駛汽車、實現復雜的科學研究和促進醫學發現等活動對社會產生更大的影響。

但用于人工智能和機器學習的計算機需要大量能源。目前，與這些技術相關的計算能力需求大約每三到四個月翻一番。全球人工智能和機器學習應用程序使用的云計算數據中心每年消耗的電力已經超過了一些小國家。很容易看出，這種能源消耗水平是不可持續的。

華盛頓大學領導的一個研究小組為人工智能和機器學習開發了新的光學計算硬件，它比傳統電子產品更快、更節能。該研究還解決了另一個挑戰——光學計算固有的“噪聲”，它會干擾計算精度。

在1月21日發表在ScienceAdvances上的一篇新論文中，該團隊展示了一種用于AI和機器學習的光學計算系統，該系統不僅可以減輕這種噪聲，而且實際上將其中的一部分用作輸入，以幫助增強人工神經網絡的創造性輸出系統內。

“我們已經建造了一臺比傳統數字計算機更快的光學計算機，”主要作者、華盛頓大學電氣和計算機工程博士生吳昌明說。“而且，這臺光學計算機可以根據大多數研究人員試圖逃避的光學噪聲產生的隨機輸入來創造新事物。”

光學計算噪聲主要來自雜散光粒子或光子，這些雜散光粒子或光子源自設備內激光器的操作和背景熱輻射。為了針對噪聲，研究人員將他們的光學計算核心連接到一種特殊類型的機器學習網絡，稱為生成對抗網絡。

該團隊測試了幾種噪聲緩解技術，其中包括使用光學計算核心產生的一些噪聲作為GAN的隨機輸入。

例如，該團隊為GAN分配了學習如何像人一樣手寫數字“7”的任務。光學計算機不能簡單地按照規定的字體打印出數字。它必須像孩子一樣學習這項任務，通過查看手寫的視覺樣本并練習直到它可以正確寫出數字。當然，光學計算機沒有人類的手來書寫，所以它的“手寫”形式是生成與它研究過的樣本風格相似但又不相同的數字圖像。

“我們沒有訓練網絡閱讀手寫數字，而是訓練網絡學習書寫數字，模仿它接受過訓練的手寫視覺樣本，”資深作者、華盛頓大學電氣和計算機工程教授MoLi說。“在杜克大學計算機科學合作者的幫助下，我們還表明，GAN可以通過使用對錯誤和噪聲具有魯棒性的訓練算法來減輕光學計算硬件噪聲的負面影響。不僅如此，網絡實際上將噪聲用作生成輸出實例所需的隨機輸入。”

在從標準AI訓練圖像集中的數字7的手寫樣本中學習之后，GAN練習寫“7”直到它能夠成功。一路走來，它形成了自己獨特的寫作風格，可以在計算機模擬中寫出從1到10的數字。

接下來的步驟包括使用當前的半導體制造技術更大規模地構建該設備。因此，該團隊計劃使用工業半導體代工廠來實現晶圓級技術，而不是在實驗室中構建該設備的下一個版本。更大規模的設備將進一步提高性能，并使研究團隊能夠完成手寫生成之外的更復雜的任務，例如創作藝術品甚至視頻。

“這個光學系統代表了一種計算機硬件架構，可以增強人工智能和機器學習中使用的人工神經網絡的創造力，但更重要的是，它展示了該系統大規模的可行性，可以減輕甚至利用噪聲和錯誤”李說。“人工智能應用的增長如此之快，以至于在未來，它們的能源消耗將是不可持續的。這項技術有可能幫助減少能源消耗，使人工智能和機器學習在環境上可持續——而且速度非常快，總體上實現了更高的性能。”