部署到安卓

构建针对安卓目标的模型

针对 Android 目标的模型 Relay 编译可以采用与 android_rpc 相同的方法。下面的代码将保存编译输出，这是在 Android 目标上所需的。

lib.export_library("deploy_lib.so", fcompile=ndk.create_shared)
with open("deploy_graph.json", "w") as fo:
    fo.write(graph.json())
with open("deploy_param.params", "wb") as fo:
    fo.write(runtime.save_param_dict(params))

deploy_lib.so、deploy_graph.json 和 deploy_param.params 将会被传输到 Android 目标设备上。

面向 Android 目标的 TVM 运行时

请参考 此处 来构建适用于 Android 目标的 CPU/OpenCL 版本 TVM 运行时。关于如何通过 Android Java TVM API 加载模型并执行的示例，可以参考此 Java 示例源码。