Zhouyi Compass的部署及仿真（19）｜ 8月更文挑战

写在前面

这个月做一点和硬件有关系的工作，刚好记录一下这里踩的坑。

相关背景知识

Zhouyi Compass是周易NPU的工具合集，这里主要介绍AIPU NN compiler和simulator的使用。

参考教程

直接去看链接里的教程就好，我这里复制粘贴没意思。

教程的补充

1. 下载环境

这一步里面 docker 环境不难搞，安装时只是需要一个不错的网络，然后需要拉镜像的时候可能要科学上网，这种事自行解决，大家都是程序员，这都不叫事。

2. 生成模型文件

这一步里面这些 Python 文件都是有出处的，不要网上随便找个什么二手文档网站抄作业。

预训练模型

export_inference_graph.py

freeze_graph.py

需要注意的问题：目前大多数论文取得的能部署在嵌入式设备上的成果使用的 TensorFlow 版本还是 TF 1，原教程中也指出了，我使用的是 TF 1 里比较新的 TF 1.15.3。但是这样代码运行中仍然有非常多警告（官方逼着研究人员更新工具版本的常规操作，问题不大）

涉及到 TF 模型从 .ckpt 格式到 .pb 格式的转化 export_inference_graph.py 这里需要安装 tf_slim 这个库，不然代码是用不了的。

设计到模型冻结的问题，这里只要把 TF 1 的环境搞定直接从官方仓库拉单个文件就可以，不用把 TF 整个库拉下来。这就设计到 git 花式玩法了，不做介绍，网上一查一大把。

小结

ckpt 模型转 pb 模型的官方转换方法以及使用预训练参数冻结模型

参考文献

R329教程一|周易 AIPU 部署及仿真教程