Nvidia推進了2018年GTC的深度學習生態系統

在很多方面，Nvidia是在人工智能方面適時在適當的地方受益的受益者。計算，數據和算法的進步導致了對深度神經網絡的爆炸性興趣，而我們目前的訓練方法在很大程度上取決于Nvidia的圖形卡真正有效的數學運算。

這并不是說一旦機會出現，Nvidia就沒有表現得非常好。值得贊揚的是，該公司很早就意識到了這一趨勢，并且在真正有意義之前進行了大量投資，擊敗了“創新者的困境”，導致許多偉大的(或以前很棒的)公司錯失良機。

幾周前，我參加了Nvidia的GPU技術大會(GTC)2018年， 并提出了一些想法。Nvidia真正擅長的兩個領域是開發軟件和生態系統，利用其硬件并將其深深地定制到用戶應用它的不同領域。這在2018年的GTC上得到了充分證明，該公司為其深度學習客戶推出了許多有趣的新硬件，軟件，應用程序和生態系統公告。

新型DGX-2深度學習超級計算機

在宣布將V100 GPU內存增加一倍至32GB之后，Nvidia推出了DGX-2，這是一款深度學習優化的服務器，包含16個V100和一個名為NVSwitch的新型高性能互連。該DGX-2提供2個千萬億次計算能力，并提供顯著成本和能源節約相對于傳統的服務器架構。在具有挑戰性的代表性任務中，DGX-2在一天半內訓練了一個FairSeq神經機器翻譯(NMT)模型，與上一代DGX-1的15天相比。

深度學習推理和TensorRT 4

推理(使用DL模型與訓練他們)是Nvidia首席執行官Jensen Huang的重點關注領域。在他的主題演講中，Huang談到了AI模型復雜性的迅速增加，并提供了一個思考數據中心和邊緣推理系統需求的助記符：PLASTER，可編程性，延遲，準確性，大小，吞吐量，能量/效率和學習率。為了滿足這些需求，他宣布推出TensorRT 4，這是用于優化GPU核心推理性能的Nvidia軟件的最新版本。

新版TensorRT已與TensorFlow集成，還包括對ONNX互操作性框架的支持，允許與使用PyTorch，Caffe2，MxNet，CNTK和Chainer框架開發的模型一起使用。Huang還強調了新版本的性能提升，包括TensorFlow-TensorRT與TensorFlow相比性能提升8倍，某些網絡架構的CPU吞吐量提高了45倍。

新的Kubernetes支持

Kubernetes(K8s)是一個開源平臺，用于編排公共云和私有云上的工作負載。它來自Google，并且發展非常迅速。雖然大多數Kubernetes部署都專注于Web應用程序工作負載，但該軟件在深度學習用戶中越來越受歡迎。(查看我對Matroid的Reza Zadeh和OpenAI的Jonas Schneider的采訪了解更多。)

到目前為止，使用GPU非常令人沮喪。根據官方的K8s文檔，“在v1.6中增加了對NVIDIA GPU的支持，并且經歷了多次向后兼容的迭代。”哎呀!Nvidia希望其新的GPU設備插件(在Huang的主題演講中令人困惑地稱為“Kubernetes on GPU”)將允許工作負載更輕松地針對Kubernetes集群中的GPU。

新應用程序：Project Clara和Drive Sim

結合其在圖形和深度學習方面的優勢，Nvidia分享了它開發的幾個有趣的新應用程序。Project Clara能夠創建豐富的醫學影像電影渲染，讓醫生更容易診斷醫療狀況。令人驚訝的是，它在云中使用深度神經網絡來增強傳統圖像，而無需更新目前安裝在醫療機構的300萬個成像儀器。

Drive Sim是一款自動駕駛汽車的仿真平臺。已經進行了許多努力來使用模擬來訓練用于自動駕駛汽車的深度學習模型，包括使用諸如俠盜獵車手之類的商業游戲。(事實上??，出于版權原因，GTA出版商已關閉了其中一些努力)。然而，在合成道路和城市景觀上訓練學習算法并不是一個大問題。相反，挑戰一直是在合成道路上訓練的模型并沒有很好地推廣到現實世界。

我與Nvidia首席科學家Bill Dally談到了這一點，他說公司通過結合一些研究支持的技術看到了很好的概括：即在訓練集中結合實際數據和模擬數據，并使用領域適應技術，包括這個來自NIPS 2017基于耦合的GANS。(另請參閱第一次TWiML在線聚會上發表的相關Apple論文的討論。)

令人印象深刻的是，就像Nvidia宣布為深度學習用戶所做的那樣，會議和主題演講也提供了大量的圖形，機器人和自動駕駛汽車用戶，以及醫療保健，金融服務和石油等行業的用戶和天然氣。

正如我之前所寫的那樣，Nvidia在深度學習硬件領域并非沒有挑戰，但該公司似乎正在做所有正確的事情。我期待看到公司能夠在未來12個月內實現這一目標。

這個故事最初出現在 本周的機器學習和人工智能 新聞通訊中。版權2018。

Sam Charrington是播客 本周機器學習和人工智能 (TWiML&AI)以及CloudPulse Strategies創始人的 主持人。