FP16 模型转换(onnxruntime Python 版本)

import onnx
from onnxconverter_common import float16
model = onnx.load("fp32_model.onnx")
model_fp16 = float16.convert_float_to_float16(model, keep_io_types=True)

onnx.save(model_fp16, "fp16_model.onnx")