• 

  LV.3 #8 HelloAI回复

  #7刘好念回复

  请问是#define CNNL_QUANTIZE_POSITION_SCALE_OFFSET 么？我在文档中没找到说需要设置 这个宏变量。不过，我还是先去尝试下。

  展开

  1、设置CNNL_QUANTIZE_POSITION_SCALE_OFFSET的是quantizeparam接口，是在线求量化参数的算子用的。

  得到的量化参数在device memory上，不能用cpu的cnnlSetTensorDescriptorPositionScaleAndOffset来设置

  
  

  2、如果是已有量化参数，直接调用cnnlSetTensorDescriptorPositionScaleAndOffset接口设到tensor里，如果conv的计算接口是cnnlconvolutionforward，offset非0就进行非对称量化了，如果是cnnlconvolutionforwardinference，接口上有个castmode，也需要设置成非对称量化

  2023-08-04 11:36:54 2| 回复
• 

  LV.2 #7 刘好念回复

  #5HelloAI回复

  支持反对称定点量化，首先要设置为CNNL_QUANTIZE_POSITION_SCALE_OFFSET，然后cnnlSetTensorDescriptorPositionScaleAndOffset

  展开

  请问是

  #define CNNL_QUANTIZE_POSITION_SCALE_OFFSET 么？

  我在文档中没找到说需要设置 这个宏变量。

  不过，我还是先去尝试下。

  
  

  2023-08-01 09:52:05 0| 回复
• 

  LV.2 #6 刘好念回复

  #5HelloAI回复

  支持反对称定点量化，首先要设置为CNNL_QUANTIZE_POSITION_SCALE_OFFSET，然后cnnlSetTensorDescriptorPositionScaleAndOffset

  展开

  我去尝试一下

  2023-08-01 09:49:16 0| 回复
• 

  LV.3 #5 HelloAI回复

  #4刘好念回复

  另外 cnnlConvolutionForward 是不是无法 使用 非对称定点量化？我使用非对称定点量化计算结果出错，但是只使用 postion 和 scale 卷积计算的结果是正确的。 

  展开

  支持反对称定点量化，首先要设置为CNNL_QUANTIZE_POSITION_SCALE_OFFSET，然后

  cnnlSetTensorDescriptorPositionScaleAndOffset

  2023-07-27 17:56:39 1| 回复
• 

  LV.2 #4 刘好念回复

  #1HelloAI回复

  是需要调用cnnlSetTensorDescriptorPositionAndScale的，可以参考下文档：https://www.cambricon.com/docs/sdk_1.12.0/cambricon_cnnl_1.17.0/user_guide/index.html

  展开

  另外 cnnlConvolutionForward 是不是无法 使用 非对称定点量化？

  我使用非对称定点量化计算结果出错，但是只使用 postion 和 scale 卷积计算的结果是正确的。 

  2023-07-07 15:49:49 0| 回复
• 

  LV.6 #3 三叶虫回复

  #2刘好念回复

  感谢回复，我今天也自己写出来了。（不得不说，寒武纪的文档写得确实一言难尽，samples里的样例太少，头文件函数的描述也差点意思，拿出几万块钱招个程序员好好写写样例吧。。。

  展开

  感谢您的反馈建议~我们会持续改进和优化的~

  2023-07-07 10:15:57 0| 回复
• 

  LV.2 #2 刘好念回复

  #1HelloAI回复

  是需要调用cnnlSetTensorDescriptorPositionAndScale的，可以参考下文档：https://www.cambricon.com/docs/sdk_1.12.0/cambricon_cnnl_1.17.0/user_guide/index.html

  展开

  感谢回复，我今天也自己写出来了。

  （不得不说，寒武纪的文档写得确实一言难尽，samples里的样例太少，头文件函数的描述也差点意思，拿出几万块钱招个程序员好好写写样例吧。。。

  2023-07-06 21:22:03 1| 回复
• 

  LV.3 #1 HelloAI回复

  是需要调用cnnlSetTensorDescriptorPositionAndScale的，可以参考下文档：

  https://www.cambricon.com/docs/sdk_1.12.0/cambricon_cnnl_1.17.0/user_guide/index.html

  2023-07-06 16:07:49 0| 回复

请登录后评论