Facebook的Yann LeCun表示 內部活動是關于AI芯片的

在舊金山舉行的國際固態電路會議上接受ZDNet采訪時，Facebook人工智能研究團隊負責人Yann LeCun表示，該公司正在開展機器學習芯片方面的工作，盡管他對許多解決方案將充滿希望并充滿信心來自芯片行業。

LeCun表示，“當然，對于谷歌和Facebook這樣的公司來說，如果行業不能提供大量的產品，就可以在自己的引擎上工作。”他指的是需要針對深度學習而優化的新型處理技術。

“Facebook傳統上做的是與硬件供應商合作，以吸引他們構建我們認為對我們有利的東西，”他說。

LeCun在之前的采訪中提到了內部芯片開發的可能性。然而，“現在的不同之處在于，在這方面存在內部活動，這在當時是非常新生的，”他說，這意味著，四年前。當被要求擴展內部活動在Facebook上的內容時，LeCun表示反對。“我可能不會告訴你，”他笑著說。

谷歌的張量處理單元(TPU)被LeCun稱為他所談論的大公司內部努力的一個例子。

更廣泛地說，LeCun重申了他的全體會議的基本要點，即在整個培訓和推理過程中需要廣泛的行業努力來解決深度學習芯片問題。

LeCun積分的亮點包含在他所做的視頻中，由Facebook AI Research周一早上發布。

LeCun也在今天早上的演講中發布了他的幻燈片。

例如，迫切需要低功耗芯片來處理來自移動設備的所有傳感器數據，但是在設備本身上處理該數據，而不是將數據發送到云。

然后是“中間”計算領域，例如云中神經網絡的傳統“離線”訓練和云中的傳統推理。這兩項任務都消耗了大量能源，因此行業也需要提供更節能的處理。

在深度學習食物鏈的最高端，在Facebook和其他研發部門，除了主導供應商Nvidia之外，還需要更多選擇，其GPU是神經網絡培訓的事實上的解決方案。

“在最高端，我們現在需要的是目前占主導地位的供應商的競爭對手，”LeCun說。“并不是因為他們不擅長它，而是因為他們做出了假設，并且擁有一套不同的硬件可以用來做當前作用的GPU擅長的補充事物，這將是一件好事。”

然而，如何構建這些替代芯片是一個懸而未決的問題，賽義德說。他說，很明顯，明天的神經網絡將遠遠超過今天的神經網絡，因為需要采用整個視頻輸入并查看大量像素，例如預測視頻片段的運動。但與此同時，這些操作可能必須在與當今矩陣乘法硬件不同的處理架構中進行計算。他說，矩陣和張量是當今人工智能硬件的基石，未來可能不是理想的解決方案。

LeCun表示，最先進的芯片“基本上經過優化，可以進行大量的四乘四矩陣乘法”。“所以，如果你能將你所有的神經網絡減少到4乘4的矩陣乘法，那么。但它可能不是進行大量卷積的最佳方法，”他說。

什么可以取代他們?“我不知道。我認為真正的硬件天才將不得不發明新方法來做這些事情。”

“在某種程度上，您可以將此視為我們目前在神經網絡中執行的一組類似操作，除了您訪問數據的方式是通過交互;而不是以整齊的數組呈現給您的東西，您擁有的是用于獲取數據的指針數組，“用于處理基于圖形的數據。