LV.1

Sunshine

342积分1赞

34 帖子 120 回复 4 收藏

TA的动态

TA的帖子

TA的回复

MLU270 tensorflow pb模型离线部署移植: 离线模型中输入shape和模型不对应 我的回复：#4zhaodeming回复您好，图中的Conv1D算子是不支持的。好的谢谢 0

MLU270 tensorflow pb模型离线部署移植: 离线模型中输入shape和模型不对应 我的回复：def cnn(conv_layers=3,conv_sizes=(64,128,256),filter_size=3, fc_layers=2,fc_sizes=(4096,2048), dropout=0.5,pool_size=2,init='he_uniform',act='relu',optim='adam',pool=True, reg = reg.l2(0.05)): classifier = Sequential() for i in range(conv_layers): classifier.add(Conv1D(conv_sizes[i], filter_size, input_shape = X_train.shape[1:], activation = act,kernel_initializer=init,kernel_regularizer=reg)) classifier.add(BatchNormalization()) if pool: classifier.add(MaxPooling1D(pool_size = 2)) classifier.add(Flatten()) for j in range(fc_layers): classifier.add(Dense(fc_sizes[j], activation = act,kernel_initializer=init,kernel_regularizer=reg)) classifier.add(Dropout(dropout)) classifier.add(Dense(4, activation = 'softmax',kernel_initializer=init)) classifier.compile(optimizer = optim, loss = 'sparse_categorical_crossentropy', metrics = ['accuracy']) classifier.summary() classifier.fit(X_train, y_train, validation_data=(X_test,y_test),epochs=10,batch_size=64) return classifier这个是网络结构 0

MLU270 tensorflow pb模型离线部署移植: 离线模型中输入shape和模型不对应 我的回复：#1zhaodeming回复您好，根据日志来看，是模型分段的原因。应该是模型中的某些层（或算子）在MLU上不支持导致模型分段，可以尝试替换模型中的层（或算子）来解决该问题。展开感谢回复：下面是我的模型，没有特殊的算子；您能看出来是什么算子不支持吗？或者如何确定哪个算子不支持？ def cnn(conv_layers=3,conv_sizes=(64,128,256),filter_size=3, fc_layers=2,fc_sizes=(4096,2048), dropout=0.5,pool_size=2,init=\'he_uniform\',act=\'relu\',optim=\'adam\',pool=True, reg = reg.l2(0.05)): classifier = Sequential() for i in range(conv_layers): classifier.add(Conv1D(conv_sizes[i], filter_size, input_shape = X_train.shape[1:], activation = act,kernel_initializer=init,kernel_regularizer=reg)) classifier.add(BatchNormalization()) if pool: classifier.add(MaxPooling1D(pool_size = 2)) classifier.add(Flatten()) for j in range(fc_layers): classifier.add(Dense(fc_sizes[j], activation = act,kernel_initializer=init,kernel_regularizer=reg)) classifier.add(Dropout(dropout)) classifier.add(Dense(4, activation = \'softmax\',kernel_initializer=init)) classifier.compile(optimizer = optim, loss = \'sparse_categorical_crossentropy\', metrics = [\'accuracy\']) classifier.summary() classifier.fit(X_train, y_train, validation_data=(X_test,y_test),epochs=10,batch_size=64) return classifier 0

MLU270 tensorflow pb模型模型移植 我的回复：#1zhaodeming回复您好，从错误上来看，是cnrtSetRuntimeContextDeviceId接收的值错误原因，建议在程序中debug查看DeviceId接收的是否为合理整数展开感谢回复： DeviceId如何查看？我的模型输入输出维度分别是（1， 16）和（1， 4），为什么生成离线时twins文件显示输入这么多，这是正常的现象吗？用test_forward_offline.cpp文件该如何运行这个离线模型？（微信：sunshine-jzj） 0

MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致 我的回复：#6zhaodeming回复您好，个别数据有误差是正常情况。一般情况下，看量化前后总体的数据误差分布即可验证量化的正确性。好吧谢谢 0

MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致 我的回复：#3zhaodeming回复您好，是正常范围的数据值。融合模式(true)将所有算子作为一个 fusion 算子，只对 fusion 算子执行编译指令过程。逐层模式(false)对每个算子进行逐个编译，结果会有部分差距。展开您好: 麻烦再请教个问题： os.environ[\'MLU_VISIBLE_DEVICES\'] = \'\' 时输出结果： [-10.985053062438965, -4.502354145050049, 11.981266021728516, -4.67495584487915, -10.967516899108887, -5.212316513061523] os.environ[\'MLU_VISIBLE_DEVICES\'] = \'0\' 时输出结果： [-10.981719970703125, -4.060201168060303, 11.233656883239746, -4.5948405265808105, -10.96412467956543, -5.060123443603516] 其中第二项误差：4.502354145050049 - 4.060201168060303 = 0.44 CPU和MLU计算误差这么大的吗？ 0

MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致 我的回复：#3zhaodeming回复您好，是正常范围的数据值。融合模式(true)将所有算子作为一个 fusion 算子，只对 fusion 算子执行编译指令过程。逐层模式(false)对每个算子进行逐个编译，结果会有部分差距。展开好的谢谢 0

MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致 我的回复：#1zhaodeming回复您好，在量化后，原浮点数转为8bit表示，会引入量化误差，因此精度会有一部分损失，图上的结果数据属于正常范围值展开感谢回复：刚又尝试了下，上面问题是os.environ[\'MLU_STATIC_NODE_FUSION\'] 这个环境变量设置为true和false引起的不一致，不是量化的问题；这中情况也是正常的吗？ 0

MLU270 tensorflow pb模型离线部署移植过程生成NCWH参数和测试结果异常 我的回复：#1lanhao回复加您微信了感谢 0

上一页 1 2 3 4 5 6 下一页