tutm
第8楼2008/12/06
提出这个问题,说明楼主观察事物非常仔细,很善于思考。
实际上仪器中测到的是检测器接收到的光子数,转换成电流强度、线性放大后再经AD转换,由软件根据测到的光谱强度计算出吸光度结果。测到的电流强度可以看做是连续变化的,一般分光光度仪内检测器测到的电流强度变化范围至少可达10的6次方(A = -3— +3)。为保证运算精度(特别是加减后的精度),数值的运算位数一般都较多。如国外某品牌的仪器,我发现AD转换后的光谱强度数值变量在储存、运算时浮点数的位数达12—14位。而目前一般仪器光源和检测器的短期物理稳定性只能做到A=0.001,多显示几位也没意义。但是,运算时无论有效数字还是小数点后的位数都很多,因此运算中A=0.001后面可能还有好多位,造成楼主发现的问题。所以我认为这就是该现象的原因,楼主的想法是对的!