探索深度神經網絡中的快捷學習概念

在過去的幾年中，人工智能(AI)工具(尤其是深度神經網絡)在許多任務上取得了顯著成果。但是，最近的研究發現這些計算技術具有許多局限性。在最近發表于《自然機器智能》上的一篇論文中，蒂賓根大學和多倫多大學的研究人員探索并討論了一種稱為“捷徑學習”的問題，該問題似乎是近年來發現的許多深度神經網絡缺點的基礎。

進行這項研究的研究人員之一羅伯特·蓋洛斯(Robert Geirhos)告訴TechXplore表示：“我決定與親愛的同事，我的朋友克勞迪奧·麥可利斯(Claudio Michaelis)一起在進行與科學有關的旅行，著手進行這個項目。” “我們首先參加了一次深度學習會議，然后參觀了一個動物研究實驗室，最后一次是人類視覺會議。令人驚訝的是，我們注意到在非常不同的環境中出現了相同的模式：“捷徑學習”或“作弊”出現了。成為人工智能和生物智能的共同特征。”

Geirhos和Michaelis認為，他們觀察到的現象即快捷學習可以解釋許多深度神經網絡的出色性能和標志性故障之間的差異。為了進一步研究這個想法，他們與其他同事合作，

研究人員各自以獨特的方式為研究做出了貢獻，并與他們的專業領域保持一致，從神經科學到機器學習和心理物理學。他們的論文包括在機器和動物中進行快捷學習和作弊的示例，例如，深度神經網絡的特定故障，以及在實驗中“作弊”老鼠和在考試中作弊的學生。

蓋洛斯說：“我們希望我們的觀點能很好地介紹這個問題，并鼓勵采用更強大，更合適的測試方法來防止在將高級能力歸因于機器之前作弊。” “鑒于這篇文章是一種觀點，我們借鑒了眾多作者撰寫的許多精彩文章，每篇文章都為這一難題做出了貢獻。對我個人而言，重要的先驅是我在ICLR和VSS會議上提出的項目，發現神經網絡中的紋理偏差-一種快捷學習的實例。”

捷徑學習一詞描述了機器嘗試識別最簡單的解決方案或解決給定問題的“捷徑”的過程。例如，深度神經網絡可以認識到特定的紋理補丁或對象(例如汽車輪胎)的一部分通常足以使它們預測圖像中汽車的存在，并因此可以開始預測物體的存在。即使僅包含汽車輪胎，也可以在圖像中顯示汽車。