在MCU上部署AI/ML模子的挑战及妄想
本文援用地址:
1 在MCU上部署AI/ML模子的部署机缘与挑战
IAR 专一于嵌入式配置装备部署以及运用的软件开拓 。在嵌入式家养智能(AI)以及机械学习(ML)规模,挑战咱们专一于在微操作器上部署AI/ML 模子。及妄之后,部署该行业正趋向于将AI/ML 模子尽可能地挨近数据天生源 ,挑战这个别比将数据发送到边缘配置装备部署或者云端妨碍处置更快捷 、及妄更重价以及更节能。部署这一趋向主要受到工业操作规模的挑战增长 ,该规模运用ML 妨碍预料性呵护 、及妄货物视觉魔难以及基于迷糊数据妨碍操作抉择规画。部署种种规范的挑战可衣着配置装备部署也正在部署机械学习,以清晰配置装备部署天生的及妄数据。可是部署 ,为了实现这所有,挑战软件开拓工具也必需做到更快捷、及妄更重价以及更节能。实现这些目的的一个紧张组成部份便是编译器以及构建链。
Anders Holmberg(IAR首席技术官)在将机械学习模子部署到尽可能小型以及经济型的操作零星上时 ,工程师以及妄想职员面临多个挑战。第一个挑战即是ML 模子 。一旦建树了适宜要求的适宜模子,就需要将其天生为C 或者C++ 代码,妨碍适量的量化,以防止浮点合计。
实现这一步后,天生的代码需要适配MCU。为了取患上最高效的服从 ,构建链必需可能天生快捷运行且体积小的目的代码。这会给编译器带来繁重的负责,需要以最佳方式妨碍代码体积巨细以及代码运行速率的失调优化。
另一个挑战是零星很可能经由Wi-Fi 或者蓝牙衔接,这使其简略受到收集清静侵略。这象征着,凭证一些地域的法律要求,零星必需具备短途更新的能耐 ,而且必需能呵护配置装备部署上的敏感数据 。此外,ML 模子艰深为处置妄想的中间因素,ML 知识产权(IP)必需受到呵护 ,以防止再造工程(re-engineering)以及其余窃取IP 的妄想。
2 IAR的处置妄想
为实现体积小 、运行速率快且高效的代码目的,软件开拓工具必需发挥紧张熏染。实现这些目的的一个紧张组成部份是编译器以及构建链,它们必需可能去失调这些每一每一相互限度的因素 ,以实现特定ML 模子的最佳输入服从