Deci融資910萬美元 用于自動優化AI算法

深度學習初創公司Deci今天宣布，在以色列的Emerge領導下的種子輪融資中籌集了910萬美元。據一位發言人稱，隨著公司擴大其在特拉維夫的員工隊伍，該公司計劃將收益用于客戶獲取方面。

過去，機器學習的部署受到算法的大小和速度以及對昂貴硬件的需求的限制。實際上，麻省理工學院的一份報告發現，機器學習可能正在接近計算極限。一項單獨的Synced研究估計，華盛頓大學的Grover假新聞檢測模型在大約兩周內花費25,000美元進行培訓。據報道，OpenAI花費了高達1200萬美元來訓練其GPT-3語言模型，而Google花費了大約6,912美元來訓練BERT，這是一種雙向轉換器模型，可重新定義11種自然語言處理任務的最新狀態。

Deci由企業家Jonathan Elial的Yonatan Geifman和以色列海法Technion的計算機科學教授Ran El-Yaniv共同創立。(Geifman和El-Yaniv在Technion碰面，Geifman在該大學的計算機科學系攻讀博士學位。)通過利用數據科學技術，該公司聲稱能夠在任何硬件上將深度學習運行時間提高10倍。重新設計模型以擴大吞吐量并最小化延遲。

表面上，Deci通過數據預處理和加載，選擇模型體系結構和超參數(即影響模??型預測的變量)以及用于推理的模型優化來實現運行時加速。它還負責諸如部署，服務以及監視和解釋性之類的步驟。根據Deci的說法，該平臺支持跨Amazon Web Services，Microsoft Azure，Google Cloud Platform和其他云環境的容器化部署。它還可以持續跟蹤模型，并在客戶可以遷移到更具成本效益的AI加速器時發送警報和建議。

該公司在其網站上寫道：“ Deci的平臺為現有的深度學習模型提供了實質性的性能提升，同時又保持了其準確性。”“它設計了深度模型，可以更有效地利用它們運行的??硬件平臺，無論是CPU，GPU，FPGA還是專用ASIC加速器。…加速器是一種與數據相關的算法解決方案，可與其他已知的壓縮技術(例如修剪和量化)協同工作。實際上，該加速器可充當輔助加速解決方案的乘數，例如AI編譯器和專用硬件。”

Deci繼續解釋說，它的加速器會重新設計模型，以創建具有多個計算路徑的新模型，所有計算路徑都針對給定的推理設備進行了優化。每個路由都具有預測任務的專門性，并且Deci的路由器組件確保每個數據輸入均通過正確的路由進行定向。

Deci在OctoML中有競爭，OctoML是一家類似的初創公司，其目的是使用專有工具和流程自動進行機器學習優化。其他競爭對手包括DeepCube(將其解決方案描述為“基于軟件的推理加速器”)和Neural Magic(其重新設計AI算法，以利用芯片的可用內存在現成的處理器上更高效地運行)。另一個競爭對手DarwinAI使用所謂的生成綜合來攝取模型并推出高度優化的版本。

Deci表示，在用于測量深度學習性能的基準套件MLPerf上進行測試時，其平臺將流行的ResNet神經網絡在Intel處理器上的推理速度提高了11.8倍，同時達到了精度目標。該公司聲稱已經有“無數”自動駕駛汽車，制造，通信，視頻和圖像編輯以及醫療保健公司作為客戶。