详解如何将TensorFlow训练的模型移植到Android手机

作者:masa_fish

前言

本文中出现的TF皆为TensorFlow的简称。

先说两句题外话吧,TensorFlow 前两天热热闹闹的发布了正式版r1.0,可感觉自己才刚刚上手 r0.12,这个时代发展的太快,脚步是一刻也不能停啊~

但是不得不吐槽 TensorFlow的向下兼容做的实在不太友好,每次更新完版本,以前的代码就跑不动,各种提示您使用的函数已经不存在。。。

代码积攒的越来越多,全部针对新版本翻改一遍,工程真是浩大。但是喜新厌旧,手贱如我,每次都忍不住点了更新。不过这次忍的还算不错,到目前还没更新,继续忍住

在之前的文章中,我介绍了如何实现 TensorFlow官网的Mobile教程:
【将Tensorflow移植到安卓手机,实现物体识别、行人检测和图像风格迁移】
但在那个教程中,TensorFlow提供了完整的、已经构建好的Android项目,我们需要做的总结下来只有3步:1、搭建环境;2、编译;3、安装到手机

这当然还不够,我们的最终目的当然是要为我所用,所以怎样才能移植自己训练好的TF模型到安卓手机呢?换句话说,怎样将训练好的模型放入Android项目中并进行成功编译?又或者怎样创建自己的Android Tensorflow项目?

PS:
之前没有安卓开发的经验,纯粹是为了实现将TF模型移植到手机才开始上手,目前属于入门级小白,如有错误之处,欢迎批评指正!


手机调用TF模型的过程简介:

1、 保存训练完毕的TF模型
2、 在Android项目中导入TF模型、导入Android平台调用TF模型需要的jar包和so文件 (它们负责TF模型的解析和运算)
3、定义变量、存储数据,通过jar包提供的接口进行模型的调用


环境

TensorFlow版本: r0.12
python 版本:2.7
Python IDE: Spyder
Android IDE : Android Studio


移植过程

我们以mnist数据集上自己训练的一个图像识别模型为例,进行讲解

一、 在使用python代码编写的TF模型定义中为模型的输入层和输出层Tensor Variable分别指定名字(通过形参 ‘name’)

X = tf.placeholder(tf.float32, shape = […], name=‘input’)  //网络的输入
Y = tf.nn.softmax(tf.matmul(f, out_weights) + out_biases, name=’output’)  //网络的输出

名字可以随便起,以方便好记为主,后面还会反复用到。我起的是input和output。


二、 将使用TensorFlow训练好的模型保存为.pb文件

在模型训练结束后的代码位置,添加下述两句代码,可将模型保存为.pb文件

output_graph_def = tf.graph_until.convert_variables_to_constants(session, session.graph_def, output_node_names=[‘output’])
//形参output_node_names用于指定输出的节点名称

贴一个说明文档,帮助大家进一步了解这个函数

这里写图片描述

with tf.gfile.FastGFile(model\mnist.pb, mode = ’wb’) as f:
    f.write(output_graph_def.SerializeToString())

第一个参数用于指定输出的文件存放路径、文件名及格式。我把它放在与代码同级目录的model文件下,取名为mnist.pb

第二个参数 mode用于指定文件操作的模式,’wb’中w代表写文件,b代表将数据以二进制方式写入文件。

如果不指明‘b’,则默认会以文本txt方式写入文件。现在TF还不支持对文本格式.pb文件的解析,在调用时会出现报错。

注:
1)、不能使用 tf.train.write_graph()保存模型,因为它只是保存了模型的结构,并不保存训练完毕的参数值
2)、不能使用 tf.train.saver()保存模型,因为它只是保存了网络中的参数值,并不保存模型的结构。
很显然,我们需要的是既保存模型的结构,又保存模型中每个参数的值。以上两者皆不符合。


三、生成在Android平台上调用tensorflow 模型需要的jar包和so文件
1) 从github下载TensorFlow的项目源码

2) 安装Bazel
Bazel的安装过程,我在另一篇文章中有介绍,欢迎参阅
Ubuntu14.04 源代码安装 TensorFlow r0.12 详细教程

3) 参考如下图的官方教程,生成Android上调用TF模型需要的so文件和jar包
这里写图片描述


四、安装Android Studio,创建Android 项目

Android Studio安装完毕后,还需要搭建环境。搭建过程可参考我的另一篇文章:

Ubuntu 使用 Android Studio 编译 TensorFlow android demo


五、添加资源到项目

1) 将(二)步生成的.pb文件放入项目中
打开 Project view ,app/src/main/assets。
若不存在assets目录,右键main->new->folder->Assets Folder

2) 添加(三)步生成的jar包
打开Project view,将jar包拷贝到app->libs下
选中jar文件,右键 add as library

3) 添加(三)生成的so文件
打开 Project view,将.so文件拷贝到 app/src/main/jniLibs下(jniLibs文件夹若没有则新建)

如果我讲的不太明白的话,可自行谷歌搜索“如何在 Android studio中添加引用 jar文件和so文件”


六、创建接口,实现调用

1) 导入jar包和so文件
在需要调用模型的.java文件中,导入jar包:

import org.tensorflow.contrib.android.TensorFlowInferenceInterface

在该java类定义的首行,导入so文件:

{
    System.loadLibrary(“tensorflow_inference”)
}

2)定义变量及对象

private static final String MODEL_FILE = “file:///android_asset/mnist.pb”   //模型存放路径
private static final String INPUT_NODE = “input”;       //模型中输入变量的名称
private static final String INPUT_NODE = “output”;  //模型中输出变量的名称
private static final int NUM_CLASSES = 10;  //样本集的类别数量,mnist数据集对应10

private static final int HEIGHT = 24;       //输入图片的像素高
private static final int WIDTH = 24;        //输入图片的像素宽
private static final int CHANNEL = 3;    //输入图片的通道数:RGB

private floats inputs = new float[HEIGHT*WIDTH*CHANNEL];    //用于存储的模型输入数据
private floats outputs = new float[NUM_CLASSES];    //用于存储模型的输出数据

2)Tensorflow 接口初始化

private TensorFlowInferenceInterface inferenceInterface = new TensorFlowInferenceInterface();   //接口定义
inferenceInterface.initializeTensorFlow(getAssets(), MODEL_FILE);  //接口初始化

在完成上述两步之后,就可以反复调用模型。
在每次调用前,先将待输入的数据按顺序存放进 inputs 变量中,然后执行下述三个语句。

3)TF模型的调用

inferenceInterface.fillNodeFloat(INPUT_NODE, new int[]{1, HEIGHT, WIDTH, CHANNEL}, inputs);  //送入输入数据
inferenceInterface.runInference(new String[]{OUTPUT_NODE});     //进行模型的推理
inferenceInterface.readNodeFloat(OUTPUT_NODE, outputs); //获取输出数据

然后接下来的主要工作就是安卓项目的编译以及将编译完的apk文件安装到手机,这部分内容与一般的安卓项目并无区别。这些内容在我的另一篇文章中也有所提及:

Ubuntu 使用 Android Studio 编译 TensorFlow android demo


为了便于大家理解,我写的代码比较面向过程。当然放在java环境下,还是要多多从面向对象的角度出发,合理的封装,提高代码的复用性。


我在CSDN发布的文章,也会同步发布到公众号 CV_life。

欢迎有兴趣的同学订阅


这里写图片描述

发表评论

11个评论

  • qzuser522767001

    将 TensorFlow 移植到 Android手机,实现物体识别、行人检测和图像风格迁 关于这个教程,为什么我三个模型都放入了,第二个行人检测还是会闪退,其他两个就没问题

    2017-03-12 21:21:52回复

  • qzuser522767001

    将 TensorFlow 移植到 Android手机,实现物体识别、行人检测和图像风格迁 关于这个教程,为什么我三个模型都放入了,第二个行人检测还是会闪退,其他两个就没问题

    2017-03-12 21:21:09回复

  • u013625492

    https://ci.tensorflow.org/view/Nightly/job/nightly-android/lastBuild/这个网上有官方的.so和jar包 最近应该是tf1.0.0的 选好cpu版本就可以直接测下能不能用so和jar~

    2017-03-12 20:34:27回复

  • L_King123

    大神,我想问一下,我现在在安卓上用,报了个错:Failed to run TensorFlow session: java.lang.IllegalArgumentException: In[0] is not a matrix,不知道是什么原因

    2017-03-12 13:45:30回复

  • b405516801

    你好,大神,你的这些教程都是在哪里学的?那里有源码介绍

    2017-03-04 10:18:46回复

加载更多
我要留言×

技术领域:

我要留言×

留言成功,我们将在审核后加至投票列表中!

提示x

人工智能开发框架知识库已成功保存至我的图谱现在你可以用它来管理自己的知识内容了

删除图谱提示×

你保存在该图谱下的知识内容也会被删除,建议你先将内容移到其他图谱中。你确定要删除知识图谱及其内容吗?

删除节点提示×

无法删除该知识节点,因该节点下仍保存有相关知识内容!

删除节点提示×

你确定要删除该知识节点吗?