利用Deeplite之軟體結合晶心科技RISC-V CPU處理器 達到更快、更小、更準的邊緣運算

【台灣新竹】─2021年3月18日─在邊緣運算設備上,推動低功耗和低延遲深度的學習模型、計算機硬體以及人工智慧推理系統這些項目的發展,持續創造令人興奮的新機遇。業界相關產業對於應用在深度學習的硬體和軟體解決方案(也稱為Edge AI,邊緣運算)的開發產生了前所未有的興趣。邊緣運算已經開始在某些指標性的應用中取得進展,例如音訊信號分類(audio classification)中的關鍵字搜尋(keyword spotting)、異常檢測(anomaly detection)以及電腦視覺應用中的人物辨識(person detection)。具體來說,tinyML是專為超低功耗系統量身訂作的機器學習分支,具有遠大的前景。這個提案中之解決方案的效率極高(功耗為毫瓦(mW),甚至只有微瓦(μW)),加上其可廣泛地部署到此類邊緣運算在現實環境中設備的適用性,預計在未來5年內,將應用在超過1000億個IoT傳感器和設備 1。蓄勢待發之深度學習科技的未來,將透過比以往更加可負擔、具有友善生態系、以及更容易使用的智慧科技,提供客戶及終端使用者更顯著的便利。

晶心科技和Deeplite很高興地宣布兩家公司最新合作成果–透過使用Deeplite獨特的最佳化軟體和晶心科技低功耗RISC-V CPU核心研發出具有人工智慧運算能力的應用程式(AI-powered applications )。這項合作關係著重於壓縮(compressing)並加速(accelerating)著名的視覺喚醒詞(Visual Wake Words(VWW))應用程式。微型相機可以利用此類程式,進行人物圖像偵測。Deeplite及晶心科技共同獲得了領先業界的結果,從利用浮點運算的Mobilenet-v1-0.25x模型中,產出各式最佳化的INT8模型。本次發表的第一組研發結果側重於提高精確性,以精度為主的INT8模型最佳化提高了2.7%的精度,縮小了1.7倍(172 KB)的檔案大小以及提高了9%的執行速度。第二組結果主要著重於最大化壓縮(maximizing compression)。與TensorFlow Lite Micro提供的INT8 模型相比,本組專注於模型檔案尺寸最小化的模組,成功做到縮小2.3倍(127KB)的檔案大小,更高的精度(0.7%)和提高了15%的執行速度。(表1)

表1 參考模型和最佳化模型的模型之檔案尺寸,精確性和執行時間之間的參數

我們決心為低功耗設備提供最高效,最精確的解決方案,尤其是隨著邊緣計算類型之AI越來越多地在應用在智慧助理、安全監控和智慧製造應用中。」 晶心科技技術長兼總經理蘇泓萌博士表示。「Deeplite的尖端軟體為AI模型最佳化提供了一種有效的方法,可以增強目前架構的性能。Deeplite支援我們的AndeStar™ V5架構,並已於第一個具有RISC-V P 擴充指令(DSP SIMD) 的CPU核心D25F上高效率的執行;客戶能將之應用在選定的AI模型上。」

「Andes™ RISC-V CPU核心是非常理想的硬體的範例,替Deeplite的模型展示了最佳化的優點,為低成本、使用電池作為供電的設備,提供了以往無法達成的複雜智慧功能。」Deeplite首席執行官Nick Romano說:「隨著我們持續在業界最大的挑戰上(如視覺喚醒詞Visual Wake Words和語音關鍵字查詢keyword spotting)取得領先成果,我們預計由Deeplite軟體提供支援的邊緣運算AI應用將出現大幅度的成長。」

領先業界的最佳化Deeplite軟體結合晶心科技最新RISC-V CPU核心,共同應用於tinyML上,可以解鎖邊緣AI運算之應用,例如語音識別或人物辨識,以滿足微控制器等級之記憶體及計算要求。設備代工廠和應用程式開發人員現在可以為用戶提供將其資料保存在終端設備上的優點,並同時提供日常生活中AI所需的即時且無縫式回應。

要了解技術白皮書和最佳化結果之詳細內容,請聯繫Deeplite行銷經理Anastasia Hamel anastasia@deeplite.ai。

1https://review42.com/internet-of-things-stats/ 

關於晶心科技
晶心科技股份有限公司於2005年成立於新竹科學園區,2017年於台灣證交所上市(TWSE: 6533)。晶心是RISC-V國際協會(RISC-V International)的創始首席會員,也是第一家採用RISC-V作為其第五代架構AndeStar™基礎的主流CPU供應商。為了滿足當今電子設備的苛刻要求,晶心提供了可配置性高的32/64位元高效CPU核心,包含DSP、FPU、Vector、超純量(Superscalar)及多核心系列,可應用於各式SoC與應用場景。晶心並提供功能齊全的整合開發環境和全面的軟/硬體解決方案,可幫助客戶在短時間內創新其SoC設計。2020年Andes-Embedded™ SoC的年出貨量突破20億顆,而截至2020年,嵌入AndesCore™的SoC累積出貨量已超過60億顆。

關於晶心RISC-V AndesCore™系列
晶心科技全面的RISC-V CPU系列涵蓋了入門級32位元N22、中階32位元N25F/D25F/A25/A27和64位元NX25F/AX25/AX27以及高階多核A(X)25MP和向量處理器NX27V,以及近期則推出的最新超純量的45系列。關於更多晶心科技的資訊,歡迎參閱晶心科技官網:http://www.andestech.com

關於Deeplite
Deeplite成立於2018年,總部位於加拿大蒙特利爾,是一家致力實現深度學習於日常使用設備中的AI軟體公司。Deeplite專有的AI軟體平台,可自動調整其他AI模型,生成更快速、更精巧、更節能並且高度壓縮、高性能的深度神經網絡,可用於部署在攝影機,傳感器,無人機,手機及車用等邊緣運算設備上。自2018年成立以來,Deeplite的核心技術已可讓全球最具創新能力的公司能夠推動更高效的雲端AI運算,並且讓以往無法進行深度學習的嵌入式及低功耗設備,也邁入AI運算的領域。Deeplite被列入2020 CB Insights AI 100 非公開發行公司前一百強AI公司的名單,並被Gartner、富比士及ARM AI選為Edge AI的主要創新者。欲了解更多資訊,請至www.deeplite.ai 

Close Menu