提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档
文章目录
- 前言
- 注意事项
- 案例说明
- 1. 使用 int 转换来避免直接使用 tensor.size 的返回值:
- 2. 使用 scale_factor 替代 size 参数:
- 3. 将 -1 放在 view 操作的 batch 维度:
- 4. 使用 dynamic_axes 参数指定动态轴:
- 5. 使用 opset_version=11:
- 6. 综合应用:
- 总结
前言
提示:这里可以添加本文要记录的大概内容:
提示:以下是本篇文章正文内容,下面案例可供参考
注意事项
1.对于任何用到shape,size返回值的参数时,例如:tensor.view(tensor.size(0),-1)这类操作,避免直接使用tensor.size的返回值,而是加上int转换,tensor.view(int(tensor.size(0)),-1);
2.对于nn.Upsample或nn.functional.interpolate函数,使用scale_factor指定倍率,而不是使用size参数指定大小;
3.对于reshape、view操作时候,-1指定请放在batch维度。其他维度可以计算出来即可。batch维度禁止指定为大于-1的明确数字;
4.torch.onnx.export指定dynamic_axes参数,并且只指定batch维度。我们只需要动态batch,相对动态的宽高有其他方案;
5.使用opset_version=11,不要低于11;
6.掌握了这些,就可以保证后面各种情况的顺利了。
这些做法的必要性体现在,简化过程的复杂度,去掉gather、shape类的节点,很多时候,部分不这么改看似也是可以但是需求复杂后,依旧存在各类问题。按照说的这么做,基本可以。
案例说明
1. 使用 int 转换来避免直接使用 tensor.size 的返回值:
原始代码:
result = tensor.view(tensor.size(0), -1)
修改后的代码:
result = tensor.view(int(tensor.size(0)), -1)
解释: 使用 int 转换可以确保 tensor.size(0) 返回的结果是整数类型,避免在某些情况下可能导致的类型不匹配问题。
2. 使用 scale_factor 替代 size 参数:
原始代码:
upsampled_tensor = nn.functional.interpolate(input_tensor, size=(height, width))
修改后的代码:
upsampled_tensor = nn.functional.interpolate(input_tensor, scale_factor=(scale_height, scale_width))
解释: 使用 scale_factor 可以更直观地表示上采样的倍率,而不是直接指定目标大小。这样更易读且避免了手动计算目标大小的麻烦。
3. 将 -1 放在 view 操作的 batch 维度:
原始代码:
reshaped_tensor = tensor.view(batch_size, -1, height, width)
修改后的代码:
reshaped_tensor = tensor.view(batch_size, -1, height, width)
解释: 将 -1 放在 batch 维度可以更方便地根据张量的总大小自动计算其他维度的大小。这样可以避免手动计算其他维度的麻烦。
4. 使用 dynamic_axes 参数指定动态轴:
原始代码:
torch.onnx.export(net, dummy_input, onnx_path, dynamic_axes={'input': {0: 'batch_size', 1: 'sequence_length'}})
解释: 在 torch.onnx.export 中使用 dynamic_axes 参数,只指定 batch
维度,因为它是唯一需要动态变化的。其他轴,如序列长度,可以使用其他方案进行处理。
5. 使用 opset_version=11:
原始代码:
torch.onnx.export(net, dummy_input, onnx_path, opset_version=9)
修改后的代码:
torch.onnx.export(net, dummy_input, onnx_path, opset_version=11)
解释: 使用 opset_version=11 可以确保使用 ONNX 的较新功能和操作,提高模型的兼容性和性能。
6. 综合应用:
在综合应用上述建议时,可以考虑以下示例:
import torch
import torch.nn as nn# 示例模型
class ExampleModel(nn.Module):def __init__(self):super(ExampleModel, self).__init__()self.fc = nn.Linear(100, 50)def forward(self, x):return self.fc(x)# 示例输入
dummy_input = torch.randn(32, 100)# 导出模型到ONNX
onnx_path = "example_model.onnx"
net = ExampleModel()
torch.onnx.export(net,dummy_input,onnx_path,opset_version=11,input_names=['input'],output_names=['output']
)
上述示例中,我们使用了 int 转换,避免了手动计算大小,使用了 scale_factor 替代了 size 参数,将 -1 放在了 view 操作的 batch 维度,指定了 dynamic_axes 参数,并设置了 opset_version=11。这样可以确保导出的ONNX模型在简化过程中更加稳定和清晰。
总结
以上就是导出onnx需要注意的一些地方,不足之处,还请大家斧正!!1