使用12位计数器,再给计数频率留出5%的余量,实选fcp=fCPmax(100%-5%)=90kHz。在+25℃时,计算量化误差的计算公式为:
式中,N1=t1max X fcp=12ms×90kHz=1 080,N2=t2max X fCP=44ms×90kHz=3 960。代入式(6)中计算出r=0.073℃。但是,当超过+25℃时,r值会增大。另外,计数器的位数愈高,测温精度也愈高。考虑到TMP03/04内部噪声所产生的量化误差约为0.1℃,因此+25℃时的总线化误差不会超过0.3℃。