Home | Markets & Applications | AI

人工智慧

人工智慧第三波的發展是由「深度學習(Deep Learning, DL)」技術的探索所驅動的,它打破了深度網路訓練困難的僵局。 此外,加上GPU運算能力的提升,2011年後,在語音和影像辨識領域分別取得了突破性進展,為深度學習的成功發展鋪平了道路。 此外,2020年,OpenAI創建了第三代語言模型GPT-n,它可以像人類一樣生成文本,並取得了快速進展,從而激發了新一輪人工智慧發展浪潮。 人工智慧的快速發展深刻改變了我們的生活方式,正在塑造全球經濟新格局,人工智慧不僅是科技創新,還將在各個層面產生巨大商機。Precedence Research研究報告預計,到2030年,全球人工智慧市場規模將達到15,971億美元。

隨著雲端運算、5G等新技術的快速發展,AI算力不斷成長,並逐漸從資料中心向終端擴展,形成雲端-邊緣-端點三級算力架構。 此外,由於聲音/影像/資料的多樣化處理需求,不同的運算任務需要由專用處理器來執行,以滿足增強運算效能和提高能源效率的需求。 CPU+異質運算(GPU、DPU、VPU…),運算單元透過大流量、低延遲的通道互連,具有通用性和低能耗的優勢。 RISC-V提供了可擴展的指令集,它比x86和Arm ISA提供了更多的靈活性,並且可以在效能、功耗和可擴展性方面具有優勢。 晶心科技擁有適用於不同AI應用的DSP/SIMD和向量RISC-V處理器,許多客戶已開始量產。 晶心解決方案與AnDLA神經網路加速器一起,幫助企業滿足從邊緣到雲端的多樣化AI/ML運算需求。 以下是晶心AI/ML解決方案的簡要說明:

晶心RISC-V DSP/SIMD處理器:

AndesCore™ D25F: 32位元/5級流水線/按順序/單發,可以小門數 (gate count) 提供高per-MHz性能,適用於網路和通訊、視訊和影像處理、感測器設備/感測器集線器、進階馬達控制等。

AndesCore™ D45: 32位元/8級管線/順序/雙發,配備全面的SIMD/DSP指令,可提升語音、音訊、影像和訊號處理的效能,適用於網路和通信,智慧無線交換器/路由器、先進工業控制器等。

晶心RISC-V向量處理器:

AndesCore™ NX27V:  64位元/5級管線/順序/單發/向量處理單元,透過支援多種出色的資料訪問,為記憶體子系統帶來增強的性能,具有更高的記憶體頻寬和減少記憶體延遲,適用於網路與科學運算、多媒體處理、機器學習、深度學習、AR/VR等。

AndesCore™ AX45MPV: 64位元/8級管線/順序/雙發/向量處理單元,具有用於基於Linux的應用程式的MMU,一級指令/資料快取和用於低延遲存取的本機記憶體,適用於計算機視覺、科學計算、數位訊號處理、機器/深度學習加速等。

AndesAIRE™(Andes AI Runs Everywhere)是專為邊緣和端點推理而設計的終極高效解決方案,簡介如下:

AndesAIRE™ AnDLA™ I350: 深度學習加速器(Deep Learning Accelerator, DLA),支援流行的深度學習框架,如TensorFlow Lite、PyTorch、ONNX,以及GEMM、MAC Accumulator、element-wise、pooling等加速引擎,適用於AIoT設備、智慧攝影機、智慧家電、機器人等。

AndesAIRE™ NN SDK: 一系列軟體工具、庫 (Libraries)、運行 (Runtimes) 和範例程序,用於AndesAIRE™ AnDLA™和AndesCore™ RISC-V CPU平台的端到端開發和部署。

AndesAIRE™ NN library:  一個強大且高效的神經網路運算庫,旨在加速 AndesCore™ RISC-V CPU 平台上的神經網路任務。