小米开源自研移动端深度学习框架MACE

摘要：是一个专为移动端异构计算平台优化的神经网络计算框架。地址文档链接打开在线文档网页，引入眼帘的是这里简单介绍一下中的内容移动计算引擎是一种针对移动异构计算平台优化的深度学习推理框架。

Mobile AI Compute Engine (MACE) 是一个专为移动端异构计算平台优化的神经网络计算框架。主要从以下的角度做了专门的优化：

性能

代码经过NEON指令，OpenCL以及Hexagon HVX专门优化，并且采用 Winograd算法来进行卷积操作的加速。 此外，还对启动速度进行了专门的优化。

功耗

支持芯片的功耗管理，例如ARM的big.LITTLE调度，以及高通Adreno GPU功耗选项。

系统响应

支持自动拆解长时间的OpenCL计算任务，来保证UI渲染任务能够做到较好的抢占调度， 从而保证系统UI的相应和用户体验。

内存占用

通过运用内存依赖分析技术，以及内存复用，减少内存的占用。另外，保持尽量少的外部 依赖，保证代码尺寸精简。

模型加密与保护

模型保护是重要设计目标之一。支持将模型转换成C++代码，以及关键常量字符混淆，增加逆向的难度。

硬件支持范围

支持高通，联发科，以及松果等系列芯片的CPU，GPU与DSP(目前仅支持Hexagon)计算加速。 同时支持在具有POSIX接口的系统的CPU上运行。

地址：https://github.com/XiaoMi/mace

MACE 文档

链接: https://mace.readthedocs.io/en/latest/

打开MACE 在线文档网页，引入眼帘的是：

Getting started

Development

FAQ

这里简单介绍一下Getting started中的Introduction内容：

移动AI计算引擎（MACE）是一种针对移动异构计算平台优化的深度学习推理框架。 下图显示了整体架构。

模型格式（Model format）

MACE定义了与Caffe2类似的自定义模型格式。MACE模型可以由TensorFlow和Caffe的导出模型转换。YAML文件用于描述模型部署详细信息。在下一章中，有详细的指导说明如何创建这个YAML文件。

模型转换（Model conversion）

目前，我们为TensorFlow和Caffe提供模型转换器。未来将支持更多框架。

模型加载（Model loading）

MACE模型格式包含两部分：模型图定义和模型参数张量。图形部分使用协议缓冲区进行序列化。所有模型参数张量一起连接成一个连续的字节数组，我们在下面的段落中称这个数组张量数据（array tensor data）。在模型图中，记录张量数据偏移和长度。

模型可以通过3种方式加载：

模型图和张量数据都是外部动态加载的（默认情况下，来自文件系统，但用户可以自由选择自己的实现，例如，使用压缩或加密）。这种方法提供了较大的灵活性，但却是最薄弱的模型保护。

模型图和张量数据都转换为C++代码并通过执行编译的代码加载。这种方法提供了最强大的模型保护和最简单的部署。

模型图转换为C++代码并构造为第二种方法，张量数据作为第一种方法在外部加载。

MACE Model Zoo

随着MACE一起开源的还有MACE Model Zoo项目，目前包含了物体识别，场景语义分割，图像风格化等多个公开模型。

链接: https://github.com/XiaoMi/mace-models

打开上述链接看到下述画面，着实蛮震撼的！这里简单介绍一下部分现有的model：

CNN

inception-v1-v2-v3

resnet-v2-50

vgg16

mobilenet-v1-v2（轻量级）

squeezenet（轻量级）

图像分割

deeplab-v3-plus

MACE Demo

MACE 目前还提供了Android的示例程序，大家可以下载编译好的APK文件进行安装，快速感受一下MACE的魅力。

链接: https://cnbj1.fds.api.xiaomi.com/mace/demo/mace_android_demo.apk

Amusi 这不马上就下载好，测试感受一下，下面是测试结果。

Refrigerator

Laptop

Amusi 个人觉得识别率一般般，而且是只输出Top1的结果。识别速度嘛，还可以吧，毕竟是魅族Mx6上跑CPU模式。如果换上骁龙845处理器的手机，应该...

如何评价小米开源的移动端深度学习框架MACE？

小米突然开源了自家的深度学习框架，是不是在为“上市”做准备呢？

让我们看一下知乎上大佬们怎么看待这个事件？

截止2018-06-29，只有两个人回答了该问题，大家的反映并不是很热烈，也许知道这件事情的人不多吧。但 Amusi 觉得MACE的出现，还是一件很有意义的事情，国内能做深度学习框架开源的公司真不多！

（温馨提示）国内有自研开源深度学习框架的公司有：

PaddlePaddle（百度）

Angel（腾讯）

Other

小米开源MACE，这是一件很正能量的事情，工业界和学术界都应该鼓励和支持！就如左上角所示，有222位关注者，也说明了大家对这件事情的期待。

链接: https://www.zhihu.com/question/283030623

声明：文章收集于网络，如有侵权，请联系小编及时处理，谢谢！

商业智能与数据分析群

兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识

QQ群：81035754