海城整站优化,凤阳做网站,网站组成费用,重庆网站优化定点和浮点都是数值的表示#xff08;representation#xff09;#xff0c;它们区别在于#xff0c;将整数#xff08;integer#xff09;部分和小数#xff08;fractional#xff09;部分分开的点#xff0c;点在哪里。定点保留特定位数整数和小数#xff0c;而浮点…定点和浮点都是数值的表示representation它们区别在于将整数integer部分和小数fractional部分分开的点点在哪里。定点保留特定位数整数和小数而浮点保留特定位数的有效数字significand和指数exponent。
1.FP与INT
FP代表浮点运算数据格式包括双精度FP64 单精度FP32 半精度FP16和FP8
INT代表整数数据格式包括INT8和INT4
后面的数字越高意味着精度越高能够支持的运算复杂度也就越高 适配场景也就越广同样对推理端的计算资源要求也就越高
2.FP64、FP32、FP8 和INT8、INT4
双精度FP64 :浮点数使用64位表示提供更好的精度和动态范围。通常应用在高精度计算的场景中对存储空间以及计算资源要求较多 通常较少使用
单精度FP32浮点数使用32位表示适用于大多数科学计算和通用计算任务。通常我们训练神经网络模型的时候默认使用的数据类型为单精度FP32
半精度FP16浮点数使用16位表示。相对于FP32提供了较低的精度,按照理论来说可以跑机器学习这些任务但是FP16会出现精度溢出和舍入误差所以很多应用都是使用混合精度计算的也就是FP16FP32模式
浮点数在高精度图像处理有较大优势能够使图片中更多颜色、对比度、质感和清晰度得以保留。
但INT类型速度更快 第一部分为 sign 符号位 s占 1 bit用来表示正负号第二部分为 exponent 指数偏移值 k占 5 bits用来表示其是 2 的多少次幂第三部分是 fraction 分数值有效数字 M占 10 bits用来表示该浮点数的数值大小。
固定点数INT8固定点数使用固定的小数点位置来表示数值可以使用定点数算法进行计算。相对于浮点数计算算力和内存资源要求更低。
