float 问题

  • 0 replies
  • 86 views
float 问题
« 于: 十一月 17, 2022, 05:10:45 pm »
请教下,
read_imagef 读出来的都是归一化的,[0.0, 1.0]之间的图像数据,
经过计算后,会有 1.001962, 这个其实就是1.0 ,0.00192 这个实际是0.0,  也有-0.00192,这个也是0.0
因为最小像素值1
>>> 1/255
0.00392156862745098
小于0.00392的可以忽略为0.


 如果1.001962 , 0.001962  这种值直接wrtie_imagef会有问题, 这种精度问题怎么处理,一个一个判断有点费时间,opencl write_imagef 有类似处理的方法吗?

« 最后编辑时间: 十一月 17, 2022, 05:12:26 pm 作者 lukaku »