Andes 晶心科技放大招!AnDLA® I370 深度学习加速器登场,边缘 AI 效能再突破

Andes晶心科技(Andes Technology)今日正式发表最新深度学习加速器 AndesAIRE® AnDLA® I370。此产品专为具成本效益的边缘与终端 AI 应用所设计,旨在提供先进的神经网络运算效能。

全新 AnDLA® I370 延续前一代 AnDLA® I350 的成功,大幅提升 AI 推理能力,新增支持语音/音频 AI 应用、递归神经网络(RNN)模型、INT16 数据格式,以及可配置总线宽度等功能。AnDLA® I370 具备卓越效能、优异的可扩展性与功耗效率,充分满足智能设备在边缘计算、物联网(IoT)与嵌入式视觉应用等快速增长的需求。

AndesAIRE.jpg

AndesAIRE® AnDLA® I370 支持业界标准的深度学习框架,包括 TensorFlow Lite、PyTorch 和 ONNX, 方便开发者在不同平台上部署 AI 工作负载。I370 可高效执行多种复杂神经网络运算,包括卷积(Convolution)、全连接层(Fully Connected)、逐元素运算(Elementwise)、池化(Pooling)、激励函数(Activation)、信道填充(Channel Padding)与上采样(Upsampling)等操作。该加速器整合内建 DMA 与本地内存(Local Memory),并透过算子与层融合技术(Operator and Layer Fusion)大幅提升执行效率。

主要特色包括:

  • 高达2 TOPS/GHz

  • 可配置的MAC数量与本地内存容量,确保应用灵活性

  • 扩展支持递归神经网络(RNN)模型

  • 优化的INT16与INT8精度运算支持,实现效能与效率的最佳平衡

    配合全新加速器,Andes 晶心科技推出 AndesAIRE® NN SDK,一套完整的端到端神经网络开发的综合工具包,旨在加速 AnDLA® 及 AndesCore® RISC-V 平台上的部署。该 SDK 包含以下内容:

    • AndesAIRE® NNPilot® – 模型分析、剪枝、量化与部署的工具套件

    • LiteRT / LiteRT for Microcontrollers (formerly TFL/TFLM) – 针对不同主机环境优化的推理框架

    • AnDLA® Driver and Runtime – 自动生成的高效应用整合程序代码

    • AndesAIRE® XNNPACK – 基于开源、经Andes晶心科技优化的高效能 AI 运算库

      NNPilot® 可自动将模型转换为优化的指令二进制文件,并附上范例主控端程序代码,有效简化从模型到部署的流程,方便整合至裸机或嵌入式环境中。

      结合 AnDLA® I370 与全新 AndesAIRE® NN SDK,Andes 晶心科技持续推动边缘 AI 加速迈向更高弹性与效率的新里程碑。无论应用于智能相机、智能传感器、工业自动化、AI 穿戴装置、真无线蓝牙耳机(TWS)或助听耳机,AndesAIRE® 实现「AI Runs Everywhere」,带来更智能、更快速且更高效的运算体验。

      「边缘AI要求精巧却强大的运算解决方案,」 Andes 晶心科技总经理暨首席技术官苏泓萌博士表示,「AnDLA® I370 提供高弹性、高计算带宽,并能无缝整合主流深度学习框架,协助开发者将智能应用拓展至更多元的装置。」

      「Andes 晶心科技的独特优势,在于我们将 AndesCore® RISC-V 处理器与专为深度学习打造的 AnDLA® 加速器无缝整合,」Andes 晶心科技市场处资深技术经理王庭昭表示。「RISC-V 处理器结合NN Library,提供高度弹性与未来延展性,满足AI/ML应用快速演进的需求;同时,AnDLA® 加速器则确保卓越效能与高计算密度。这样的深度整合充分发挥两者优势,打造出高效、可扩展与可配置的 AI/ML 平台,为边缘与终端智能应用提供强而有力的支持。」

      文章来源:Andes晶心科技