网站扩展性,网站建设调研背景,wordpress前台页面显示文章图片,动漫设计与制作专业大学排名三#xff1a;Paddle Inference推理 导出模型
Paddle Inference支持使用飞桨静态图模型进行推理#xff0c;您可以通过以下两种方式获取静态图模型#xff1a;
#xff08;1#xff09;飞桨框架导出推理模型
飞桨框架在训练模型过程中#xff0c;会在本地存储最终训练…三Paddle Inference推理 导出模型
Paddle Inference支持使用飞桨静态图模型进行推理您可以通过以下两种方式获取静态图模型
1飞桨框架导出推理模型
飞桨框架在训练模型过程中会在本地存储最终训练产出的模型结构和权重参数这个步骤中存储的模型文件包含了模型的前向、反向以及优化器等信息即常说的动态图模型模型参数文件名为*.pdparams和*.pdopt。 而在进行模型部署时我们只需要模型的前向结构以及前向的权重参数并且会针对网络结构做部署优化如算子融合等以保证部署性能更优因此在模型部署阶段需要进行模型导出即常说的静态图模型模型参数文件名为*.pdmodel和*.pdiparams。 您可以参考此篇文档导出用于推理的飞桨模型
飞桨框架模型导出
2导入其他框架模型X2Paddle
通过X2Paddle工具目前支持将Pytorch、ONNX、TensorFlow、Caffe的模型转换成飞桨静态图模型结构具体使用方法请参考以下文档
将Pytorch、TensorFlow、ONNX等框架转换成飞桨模型
可选模型结构可视化
在得到用于Paddle Inference推理的 飞桨静态图模型 后推荐您使用 VisualDL 或其他类似工具对您的模型进行查看方便您后续的推理应用开发。 您可以参考以下文档可视化您的模型
模型结构可视化
