晶心科技和Deeplite協力推動極精簡深度學習模型 應用於日常生活中

Facebook
Twitter
LinkedIn

【台灣 新竹】2019年12月31日—32/64位元高效能、低功耗、精簡RISC-V CPU 核心的領導供應商、RISC-V基金會創始白金會員晶心科技,與Lightweight Intelligence™ 的創建者,總部位於加拿大蒙特利爾的新創公司Deeplite, Inc.,今日宣布將攜手合作,在基於AndeStar™ V5架構的晶心RISC-V CPU核心上配置高度優化的深度學習模型,使AI深度學習模型變得更輕巧、快速和節能。

近年來,諸如支援人工智慧(AI)的家庭助理等智慧裝置如雨後春筍般普及,為將極精簡的深度學習模型應用至日常生活提供了理想平台。為追求低功耗和低計算資源且有效運行,智慧裝置必須易於使用並能實時回應使用者請求。如今,因應複雜的AI模型計算和功耗需求,大多數智慧裝置必須將用戶數據和需求發送至雲端執行AI處理,再將結果傳回智慧裝置。

晶心科技和Deeplite聯手推出解決方案,使諸如智慧家庭助理的人機互動界面可以在本地操作,且幾乎不需要連線至雲端;當智慧家庭助理通過小型攝像機偵測到人時,裝置將會自動「喚醒」。其目標為優化在第一個採用DSP SIMD ISA的商業RISC-V核心Andes A25和D25F上運行的深度學習模型,適用於低成本的AI邊緣運算應用。該團隊從在13MB大的Visual Wake Words(VWW)視覺喚醒關鍵詞數據集上訓練的MobileNet模型開始,使用Deeplite的硬體感知最佳化引擎,在精準度只降低1%的情況下,自動發現、訓練和運用小於188KB的新模型。

「我們發現越來越多的行業需要在我們具有DSP指令的RISC-V核心如A25和D25F上運行嵌入式、優化的深度學習模型以加速深度學習演算,」晶心科技技術長暨執行副總蘇泓萌博士表示,「Deeplite提供了一個可以在晶心內部使用的解決方案,同時也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學習演算法,運用至資源有限的邊緣裝置。」

「我對於這次的合作感到非常興奮!Deeplite不僅在最小精度的影響下提供了高達69倍深度學習模型的最佳化,我們也自動化以前費時又容易出錯的人工的神經網路架構設計。」 Deeplite, Inc. CEO Nick Romano表示,「過去需要花費數週反覆測試才能完成的工作,現在可以在幾個小時內自動完成!結合Deeplite的Lightweight Intelligence™ 和晶心最好的CPU,使我們更進一步將AI推廣於日常生活中。」

透過將Deeplite領先業界的最佳化技術與晶心最先進的RISC-V CPU相結合,為如語音識別或人員偵測等所需的微控制器級記憶體及運算要求,原始設備廠商(OEM)和應用開發人員可以提供讓使用者可將數據保留在裝置上,亦同時仍能提供在世界各地真實環境下AI需有的實時且無縫響應等優勢。

欲取得此次合作的白皮書,請聯繫產品聯合創始人暨副總Davis Sawyer (davis@deeplite.ai)

關於Deeplite
Deeplite成立於2018年,總部位於蒙特利爾,是一家致力實現深度學習於日常使用設備中的AI軟體公司。Deeplite強化深入學習在智能優化軟體上的研究、設計和開發,使從雲端到邊緣運算的深度神經網絡(DNN)更快速、精巧和節能。

Deeplite已獲得許多行業認可,包括在2019年,被加拿大創新交易所(CIX) 評為Top20早期公司,並獲得魁北克創新獎。Deeplite目前正在參與MobilityXlab和L-Spark QNX自動駕駛汽車加速器計劃。 欲了解更多資訊,請至www.deeplite.ai