晶心科技和Deeplite协力推动极精简深度学习模型

小飞飞

2019 年 12 月 31 日—32/64 位高效能、低功耗、精简 RISC-V CPU 核心的领导供货商、RISC-V 基金会创始白金会员晶心科技，与 Lightweight Intelligence™ 的创建者，总部位于加拿大蒙特利尔的新创公司 Deeplite, Inc.，今日宣布将携手合作，在基于 AndeStar™ V5 架构的晶心 RISC-V CPU 核心上配置高度优化的深度学习模型，使 AI 深度学习模型变得更轻巧、快速和节能。

近年来，诸如支持人工智能(AI)的家庭助理等智能装置如雨后春笋般普及，为将极精简的深度学习模型应用至日常生活提供了理想平台。为追求低功耗和低计算资源且有效运行，智能装置必须易于使用并能实时响应使用者请求。如今，因应复杂的 AI 模型计算和功耗需求，大多数智能装置必须将用户数据和需求发送至云端执行 AI 处理，再将结果传回智能装置。

晶心科技和 Deeplite 联手推出解决方案，使诸如智慧家庭助理的人机互动界面可以在本地操作，且几乎不需要联机至云端；当智能家庭助理通过小型摄像机侦测到人时，装置将会自动“唤醒”。其目标为优化在第一个采用 DSP SIMD ISA 的商业 RISC-V 核心 Andes A25 和 D25F 上运行的深度学习模型，适用于低成本的 AI 边缘计算应用。该团队从在 13MB 大的 Visual Wake Words(VWW)视觉唤醒关键词数据集上训练的 MobileNet 模型开始，使用 Deeplite 的硬件感知优化引擎，在精准度只降低 1％的情况下，自动发现、训练和运用小于 188KB 的新模型。

“我们发现越来越多的行业需要在我们具有 DSP 指令的 RISC-V 核心如 A25 和 D25F 上运行嵌入式、优化的深度学习模型以加速深度学习演算，”晶心科技首席技术官暨执行副总苏泓萌博士表示，“Deeplite 提供了一个可以在晶心内部使用的解决方案，同时也可以让我们的客户将在晶心 RISC-V CPU 核心上的深度学习算法运用到资源有限的边缘装置。”

“我对于这次的合作感到非常兴奋！Deeplite 不仅在最小精度的影响下提供了高达 69 倍深度学习模型的优化，我们也自动化以前费时又容易出错的人工神经网络架构设计。”Deeplite, Inc. CEO Nick Romano 表示，“过去需要花费数周反复测试才能完成的工作，现在可以在几个小时内自动完成！结合 Deeplite 的 Lightweight Intelligence™ 和晶心最好的 CPU，使我们更进一步将 AI 推广于日常生活中。”

透过将 Deeplite 领先业界的优化技术与晶心最先进的 RISC-V CPU 相结合，为如语音识别或人员侦测等所需的微控制器级内存及运算要求，原始设备厂商(OEM)和应用开发人员可以提供让用户可将数据保留在装置上，并且同时仍能提供在世界各地真实环境下 AI 需有的实时且无缝响应等优势。

欲取得此次合作的白皮书，请联系产品联合创始人暨副总 Davis Sawyer (davis@deeplite.ai)