×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

caffe量化工具的校准集是否支持特征向量数据格式 解决中 yuanzhoulv2023-09-04 15:16:06 回复 1 查看 技术答疑 使用求助 经验交流
caffe量化工具的校准集是否支持特征向量数据格式
分享到:

我这里有一个识别模型,网络的输入是`1x1x16x32`,  训练数据用的是一个512维的向量,数据类型是浮点数, 请问caffe量化工具是否支持浮点类型的数据作为校准集进行量化?

做的一些尝试:

1. 随便找一些测试图片,使用int16量化,可以生成离线模型(排除模型问题),但是模型的推理结果不对,指标很低。

2. 使用lmdb格式的校准集进行量化, 通过将部分512维的训练数据转换为lmdb格式, 按照说明文档修改ini文件(指定images_db_path),量化报错。

····

data_transformer.cpp:1040] check failed: datum_channels > 0 (0 vs.0)

*** Check failure stack track: ****

caffe::DataTransformer<>::InferBlobShape()

caffe::Data <>::Data Setup()

caffe:: PrefetchingData <>:: Setup()

caffe::Net<>::Init()

请求协助: 200系列,caffe量化工具是否支持浮点数的校准集进行量化?

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭