+关注 私聊
  • fisher8272

    第11楼2012/07/05

    常数不进行修越是正确的。

0
    +关注 私聊
  • 莞城.XiShui

    第12楼2012/07/05

    这是数椐处理原则:奇进偶不进
    数字位数:如果结果L的极限误差是某一位上的半个单位,该位至L的左起第一位非零数字一共有n位,说明L有n位有效数字。
    数字修约规则:1.若舍去部分的数值,大于保留末位的0.5,则末位加1
    2.若舍去部分的数值,小于保留末位的0.5,则末位不变
    3.若舍去部分的数值,等于保留末位的0.5,则末位凑成偶数。如:修约至小数后第三位 3.14159---3.1422.71729---2.7174.51050---4.5103.21650---3.216 5.6235---5.624、 6.378501--6.379、 7.691499---7.691
    还有:运算中的舍入、粗大误差、最小二乘法原理、最小二乘发、都是数椐处理方面手法。

0
    +关注 私聊
  • 莞城.XiShui

    第13楼2012/07/05

    下面数椐如何处理:15.4546--15.5(-)---?、 16.5203---16.5(+)---?、 17.5000---17.5---?

0
    +关注 私聊
  • poorlittle

    第14楼2012/07/06

    来自GB/T 8170-20083.3.2.2条的例?

    XiShui.莞城(chenboyou) 发表:下面数椐如何处理:15.4546--15.5(-)---?、 16.5203---16.5(+)---?、 17.5000---17.5---?

0
    +关注 私聊
  • 莞城.XiShui

    第15楼2012/07/06

    不是,来自《计量专业工程师手册》王立吉主编88页

    poorlittle(poorlittle) 发表:来自GB/T 8170-20083.3.2.2条的例?

0
    +关注 私聊
  • poorlittle

    第16楼2012/07/06

    GB/T 8170-20083.3.2.2条介紹了如何处理

    XiShui.莞城(chenboyou) 发表:不是,来自《计量专业工程师手册》

0
    +关注 私聊
  • 莞城.XiShui

    第17楼2012/07/07

    将GB/T 8170-2008传上,谢谢!

    poorlittle(poorlittle) 发表:GB/T 8170-20083.3.2.2条介紹了如何处理

0
0
0