过路人
第3楼2006/12/05
你在开发AAS的数据处理软件吗?一般说,它的吸光度范围应在-0.1到+3.0ABS,负值是考虑到基线调零的精度控制,当然不一定是-0.1ABS.而+3.0是考虑到背景严重时,总的吸光度会很高.当然常用的范围在0.8ABS以内,这是二回事.
当然你做成-3.0到+3.0也可以.也有做到6.0的.那只是仪器允许的最大范围,我看过高无意义.这还要与你仪器选用的A/D芯片的位数有关.包括一个数据的长度,这点很重要的.
有效数字你显示4位就够了,但内部起码要有6位以上,那是考虑了不同浓度都要保留一定的精度.就看你具体要求了.
至于相关系数几位,我看6-8位够了,查一下,有些行业(如环保)对线性标准曲线相关系数的位数有要求.其实你采用浮点的数据运算,位数对你都很方便的.
huainanwang
第4楼2007/05/30
顶一个,说的很明白,连我都听懂了。