固定字节的数值格式如何取舍范围与精度：三种小数精度的十个数值编码（实例07）

同样用一个有符号字节表示位置，留给小数的位越多，步距越细，但可表示的最大绝对范围也越小。只看小数位数，很容易忽略越界后的误差。

先确定规则与输入

整数编码范围固定为负一百二十八到一百二十七，分别比较一、三、五位小数。先把数值乘二的小数位数次方，再取最近整数，恰好半格时取较大的整数，最后限制到编码范围，读取时除回相同比例。

三种格式都只使用八位有符号整数，半格一律取较大整数。

逐项算出过程

小数位1，原值39/32，放大为39/16，最近整数2，存储码2，读回1，误差-7/32，范围限制False。

小数位1，原值-55/8，放大为-55/4，最近整数-14，存储码-14，读回-7，误差-1/8，范围限制False。

小数位1，原值-305/32，放大为-305/16，最近整数-19，存储码-19，读回-19/2，误差1/32，范围限制False。

小数位1，原值-35/32，放大为-35/16，最近整数-2，存储码-2，读回-1，误差3/32，范围限制False。

小数位1，原值-75/32，放大为-75/16，最近整数-5，存储码-5，读回-5/2，误差-5/32，范围限制False。

小数位1，原值261/32，放大为261/16，最近整数16，存储码16，读回8，误差-5/32，范围限制False。

小数位1，原值-1/64，放大为-1/32，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位1，原值1/64，放大为1/32，最近整数0，存储码0，读回0，误差-1/64，范围限制False。

小数位1，原值127/32，放大为127/16，最近整数8，存储码8，读回4，误差1/32，范围限制False。

小数位1，原值129/32，放大为129/16，最近整数8，存储码8，读回4，误差-1/32，范围限制False。

小数位3，原值39/32，放大为39/4，最近整数10，存储码10，读回5/4，误差1/32，范围限制False。

小数位3，原值-55/8，放大为-55，最近整数-55，存储码-55，读回-55/8，误差0，范围限制False。

小数位3，原值-305/32，放大为-305/4，最近整数-76，存储码-76，读回-19/2，误差1/32，范围限制False。

小数位3，原值-35/32，放大为-35/4，最近整数-9，存储码-9，读回-9/8，误差-1/32，范围限制False。

小数位3，原值-75/32，放大为-75/4，最近整数-19，存储码-19，读回-19/8，误差-1/32，范围限制False。

小数位3，原值261/32，放大为261/4，最近整数65，存储码65，读回65/8，误差-1/32，范围限制False。

小数位3，原值-1/64，放大为-1/8，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位3，原值1/64，放大为1/8，最近整数0，存储码0，读回0，误差-1/64，范围限制False。

小数位3，原值127/32，放大为127/4，最近整数32，存储码32，读回4，误差1/32，范围限制False。

小数位3，原值129/32，放大为129/4，最近整数32，存储码32，读回4，误差-1/32，范围限制False。

小数位5，原值39/32，放大为39，最近整数39，存储码39，读回39/32，误差0，范围限制False。

小数位5，原值-55/8，放大为-220，最近整数-220，存储码-128，读回-4，误差23/8，范围限制True。

小数位5，原值-305/32，放大为-305，最近整数-305，存储码-128，读回-4，误差177/32，范围限制True。

小数位5，原值-35/32，放大为-35，最近整数-35，存储码-35，读回-35/32，误差0，范围限制False。

小数位5，原值-75/32，放大为-75，最近整数-75，存储码-75，读回-75/32，误差0，范围限制False。

小数位5，原值261/32，放大为261，最近整数261，存储码127，读回127/32，误差-67/16，范围限制True。

小数位5，原值-1/64，放大为-1/2，最近整数0，存储码0，读回0，误差1/64，范围限制False。

小数位5，原值1/64，放大为1/2，最近整数1，存储码1，读回1/32，误差1/64，范围限制False。

小数位5，原值127/32，放大为127，最近整数127，存储码127，读回127/32，误差0，范围限制False。

小数位5，原值129/32，放大为129，最近整数129，存储码127，读回127/32，误差-1/16，范围限制True。

分别比较步距二分之一、八分之一和三十二分之一。小数位更多时，靠近零的细节更容易保留，但较大的坐标更容易被限制到范围边缘。

复核时看什么

未被范围限制时，读回误差绝对值应不超过半个步距；一旦触及范围限制，就必须单独标记，不能继续套用这一误差界。负数半格的取法也要按已声明的规则执行。

练习时可以先遮住结果，沿用相同输入独立记录中间状态，再逐项比较。发现不同后先定位最早分歧，确认边界包含方式、编号起点、更新顺序以及是否提前取整。最后结果一致也不表示每个中间步骤都正确，因此保留过程记录有助于看清原因。

适用范围

这个模型没有采用某个网络协议的现成格式，也不比较具体处理器性能。真实同步还可能记录相对位置、分区编号或额外精度位。先按实际数值范围设计格式，再决定可接受的量化误差。