跳转到主要内容
本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑
TorchCompileModel 节点对模型应用 PyTorch 编译以优化其性能。它会创建输入模型的副本,并使用指定的后端通过 PyTorch 的编译功能对其进行封装。这可以提高模型在推理过程中的执行速度。

输入参数

参数数据类型必需取值范围描述
模型MODEL-待编译和优化的模型
后端STRING”inductor"
"cudagraphs”
用于优化的 PyTorch 编译后端

输出结果

输出名称数据类型描述
模型MODEL应用了 PyTorch 编译的已编译模型