tvm::relay::RewriteAnnotatedOps()

tvm::relay::RewriteAnnotatedOps()#

源码：tvm/include/tvm/relay/transform.h

/*!
 * \brief Rewrite the annotated program.
 *
 * \param expr The expression.
 * \param fallback_device The fallback device which is the default device for
 *                        operators without annotation.
 *
 * \return The updated program.
 */
TVM_DLL Expr RewriteAnnotatedOps(const Expr& expr, int fallback_device);

RewriteAnnotatedOps 函数，它接受两个参数：

  1. expr：一个表达式。

  2. fallback_device：一个整数，表示默认设备，用于没有注解的算子。

函数的主要功能是重写带有注解的程序。它返回更新后的程序。

具体来说，这个函数的作用是将带有注解的算子重写为在指定的设备上执行。如果没有指定设备，则使用默认设备。这个函数可以用于优化程序的性能，例如将某些算子移动到 GPU 上执行以加速计算。