打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
我这里有一个识别模型,网络的输入是`1x1x16x32`, 训练数据用的是一个512维的向量,数据类型是浮点数, 请问caffe量化工具是否支持浮点类型的数据作为校准集进行量化?
做的一些尝试:
1. 随便找一些测试图片,使用int16量化,可以生成离线模型(排除模型问题),但是模型的推理结果不对,指标很低。
2. 使用lmdb格式的校准集进行量化, 通过将部分512维的训练数据转换为lmdb格式, 按照说明文档修改ini文件(指定images_db_path),量化报错。
····
data_transformer.cpp:1040] check failed: datum_channels > 0 (0 vs.0)
*** Check failure stack track: ****
caffe::DataTransformer<>::InferBlobShape()
caffe::Data <>::Data Setup()
caffe:: PrefetchingData <>:: Setup()
caffe::Net<>::Init()
请求协助: 200系列,caffe量化工具是否支持浮点数的校准集进行量化?
热门帖子
精华帖子