跳转到主要内容

利用Deeplite之软件结合晶心科技RISC-V CPU处理器 达到更快、更小、更准的边缘运算

由 winniewei 提交于

<p><span>在边缘运算设备上，推动低功耗和低延迟深度的学习模型、计算器硬件以及人工智能推理系统这些项目的发展，持续创造令人兴奋的新机遇。业界相关产业对于应用在深度学习的硬件和软件解决方案（也称为</span><span>Edge AI</span><span>，边缘运算）的开发产生了前所未有的兴趣。边缘运算已经开始在某些指标性的应用中取得进展，例如音频信号分类</span><span>(audio classification)</span><span>中的关键词搜寻</span><span>(keyword spotting)</span><span>、异常检测</span><span>(anomaly detection)</span><span>以及计算机视觉应用中的人物辨识</span><span>(person detection)</span><span>。具体来说，</span><span>tinyML</span><span>是专为超低功耗系统量身订作的机器学习分支，具有远大的前景。这个提案中之解决方案的效率极高（功耗为毫瓦</span><span>(mW)</span><span>，甚至只有微瓦</span><span>(</span><span>μ</span><span>W)</span><span>），加上其可广泛地部署到此类边缘运算在现实环境中设备的适用性，预计在未来</span><span>5</span><span>年内，将应用在超过</span><span>1000</span><span>亿个</span><span>IoT</span><span>传感器和设备</span><a href="https://exmail.qq.com/cgi-bin/viewdocument?sid=OrNO1jTIkF0OUXkZ,2&amp;f…;。蓄势待发之深度学习科技的未来，将通过比以往更加可负担、具有友善生态系、以及更容易使用的智能科技，提供客户及终端使用者更显着的便利。</span></p>

<p><span>晶心科技和</span><span>Deeplite</span><span>很高兴地宣布两家公司最新合作成果</span><span>—</span><span>通</span><span>过使用</span><span>Deeplite</span><span>独特的优化软件和晶心科技低功耗</span><span>RISC-V CPU</span><span>核心研发出具有人工智能运算能力的应用程序</span><span>(AI-powered applications)</span><span>。这项合作关系着重于压缩</span><span>(compressing)</span><span>并加速</span><span>(accelerating)</span><span>著名的视觉唤醒词</span><span>(Visual Wake Words (VWW))</span><span>应用程序。微型相机可以利用此类程序，进行人物图像侦测。</span><span>Deeplite</span><span>及晶心科技共同获得了领先业界的结果，从利用浮点运算的</span><span>Mobilenet-v1-0.25x</span><span>模型中，产出各式优化的</span><span>INT8</span><span>模型。本次发表的第一组研发结果侧重于提高精确性，以精度为主的</span><span>INT8</span><span>模型优化提高了</span><span>2.7</span><span>％的精度，缩小了</span><span>1.7</span><span>倍</span><span>(172 KB)</span><span>的档案大小以及提高了</span><span>9%</span><span>的执行速度。第二组结果主要着重于最大化压缩</span><span>(maximizing compression)</span><span>。与</span><span>TensorFlow Lite Micro</span><span>提供的</span><span>INT8<span>&nbsp;</span></span><span>模型相比，本组专注于模型档案尺寸最小化的模块，成功做到缩小</span><span>2.3</span><span>倍</span><span>(127KB)</span><span>的档案大小，更高的精度</span><span>(0.7</span><span>％</span><span>)</span><span>和提高了</span><span>15</span><span>％的执行速度。</span><span>(</span><span>表</span><span>1)</span></p>

<p><em>表</em><em>1<span>&nbsp;</span></em><em>参考模型和优化模型的模型之档案尺寸，精确性和运行时间之间的参数</em></p>

<p><img alt="表1 参考模型和优化模型的模型之档案尺寸，精确性和运行时间之间的参数" data-entity-type="file" data-entity-uuid="92d93d4c-13c9-4a97-9fc0-d83c87ae609e" src="http://new.eetrend.com/files/2021-03/wen_zhang_/100063168-126540-1.jpg&…; /></p>

<p><span>「我们决心为低功耗设备提供最高效，最精确的解决方案，尤其是随着边缘计算类型之</span><span>AI</span><span>越来越多地在应用在智能助理、安全监控和智能制造应用中。」</span><span><span>&nbsp;</span></span><span>晶心科技技术长兼总经理苏泓萌博士表示。「</span><span>Deeplite</span><span>的尖端软件为</span><span>AI</span><span>模型优化提供了一种有效的方法，可以增强目前架构的性能。</span><span>Deeplite</span><span>支持我们的</span><span>AndeStar™ V5</span><span>架构，并已于第一个具有</span><span>RISC-V P<span>&nbsp;</span></span><span>扩充指令</span><span><span>&nbsp;</span>(DSP SIMD)<span>&nbsp;</span></span><span>的</span><span>CPU</span><span>核心</span><span>D25F</span><span>上高效率的执行；客户能将之应用在选定的</span><span>AI</span><span>模型上。」</span></p>

<p><span>「</span><span>Andes™ RISC-V CPU</span><span>核心是非常理想的硬件的范例，替</span><span>Deeplite</span><span>的模型展示了优化的优点，为低成本、使用电池作为供电的设备，提供了以往无法达成的复杂智能功能。」</span><span>Deeplite</span><span>首席执行官</span><span>Nick Romano</span><span>说：「随着我们持续在业界最大的挑战上（如视觉唤醒词</span><span>Visual Wake Words</span><span>和语音关键词查询</span><span>keyword spotting</span><span>）取得领先成果，我们预计由</span><span>Deeplite</span><span>软件提供支持的边缘运算</span><span>AI</span><span>应用将出现大幅度的成长。」</span></p>

<p><span>领先业界的优化</span><span>Deeplite</span><span>软件结合晶心科技最新之</span><span>RISC-V CPU</span><span>核心，共同应用于</span><span>tinyML</span><span>上，可以解锁边缘</span><span>AI</span><span>运算之应用，例如语音识别或人物辨识，以满足微控制器等级之内存及计算要求。设备代工厂和应用程序开发人员现在可以为用户提供将其数据保存在终端设备上的优点，并同时提供日常生活中</span><span>AI</span><span>所需的实时且无缝式回应。</span></p>

<p><span>要了解技术白皮书和优化结果之详细内容，请联系</span><span>Deeplite</span><span>营销经理</span><span>Anastasia Hamel<span>&nbsp;</span></span><a href="mailto:anastasia@deeplite.ai"><span>anastasia@deeplite.ai</span></a><sp…;。</span></p>

<p><strong>关于晶心科技</strong></p>

<p><span>晶心科技股份有限公司于</span><span>2005</span><span>年成立于新竹科学园区，</span><span>2017</span><span>年于台湾证交所上市</span><span>(TWSE: 6533)</span><span>。晶心是</span><span>RISC-V</span><span>国际协会</span><span>(RISC-V International)</span><span>的创始首席会员，也是第一家采用</span><span>RISC-V</span><span>作为其第五代架构</span><span>AndeStar</span><span>™基础的主流</span><span>CPU</span><span>供货商。为了满足当今电子设备的苛刻要求，晶心提供了可配置性高的</span><span>32/64</span><span>位高效</span><span>CPU</span><span>核心，包含</span><span>DSP</span><span>、</span><span>FPU</span><span>、</span><span>Vector</span><span>、超纯量</span><span>(Superscalar)</span><span>及多核心系列，可应用于各式</span><span>SoC</span><span>与应用场景。晶心并提供功能齐全的整合开发环境和全面的软</span><span>/</span><span>硬件解决方案，可帮助客户在短时间内创新其</span><span>SoC</span><span>设计。</span><span>2020</span><span>年</span><span>Andes-Embedded</span><span>™</span><span><span>&nbsp;</span>SoC</span><span>的年出货量突破</span><span>20</span><span>亿颗，而截至</span><span>2020</span><span>年，嵌入</span><span>AndesCore</span><span>™的</span><span>SoC</span><span>累积出货量已超过</span><span>60</span><span>亿颗。</span></p>

<p><strong>关于晶心</strong><strong>RISC-V AndesCore</strong><strong>™系列</strong></p>

<p><span>晶心科技全面的</span><span>RISC-V CPU</span><span>系列涵盖了入门级</span><span>32</span><span>位</span><span>N22</span><span>、中阶</span><span>32</span><span>位</span><span>N25F/D25F/A25/A27</span><span>和</span><span>64</span><span>位</span><span>NX25F/AX25/AX27</span><span>以及高阶多核</span><span>A(X)25MP</span><span>和向量处理器</span><span>NX27V</span><span>，以及近期则推出的最新超纯量的</span><span>45</span><span>系列。</span></p>

<p><span>关于更多晶心科技的信息，欢迎参阅晶心科技官网：</span><a href="http://www.andestech.com/"><span>http://www.andestech.com/</span></a></…;

<p><strong>关于</strong><strong>Deeplite</strong></p>

<p><span>Deeplite</span><span>成立于</span><span>2018</span><span>年，总部位于加拿大蒙特利尔，是一家致力实现深度学习于日常使用设备中的</span><span>AI</span><span>软件公司。</span><span>Deeplite</span><span>专有的</span><span>AI</span><span>软件平台，可自动调整其他</span><span>AI</span><span>模型，生成更快速、更精巧、更节能并且高度压缩、高性能的深度神经网络，可用于部署在摄影机，传感器，无人机，手机及车用等边缘运算设备上。自</span><span>2018</span><span>年成立以来，</span><span>Deeplite</span><span>的核心技术已可让全球最具创新能力的公司能够推动更高效的云端</span><span>AI</span><span>运算，并且让以往无法进行深度学习的嵌入式及低功耗设备，也迈入</span><span>AI</span><span>运算的领域。</span><span>Deeplite</span><span>被列入</span><span>2020 CB Insights AI 100<span>&nbsp;</span></span><span>非公开发行公司前一百强</span><span>AI</span><span>公司的名单，并被</span><span>Gartner</span><span>、福布斯及</span><span>ARM AI</span><span>选为</span><span>Edge AI</span><span>的主要创新者。</span><span>欲了解更多信息，请至</span><a href="http://www.deeplite.ai/"><span>www.deeplite.ai</span></a></p&gt;

<p><span><span>[1]</span></span><span><span>&nbsp;</span></span><a href="https://review42.com/internet-of-things-stats/"><span>https://review42…;