检测项目
1.有效数字位数验证:要求末位数字偏差≤1个最小计数单位
2.舍入误差分析:允许误差范围0.0001~0.001
3.精度偏差测试:分辨率需达到0.00001级
4.数值修约一致性:符合GB/T8170-2008第4.3条款规定
5.计算链传递误差:累计误差应控制在0.005%以内
检测范围
1.金属材料:高温合金GH4169的线膨胀系数测定值
2.电子元件:MLCC电容器介电常数测试数据
3.光学器件:BK7玻璃折射率测量结果
4.化工产品:聚碳酸酯熔融指数测试值
5.精密机械:谐波减速器传动比实测数据
检测方法
1.ASTME29-20《StandardPracticeforUsingSignificantDigitsinTestData》
2.ISO31-0:1992《Quantitiesandunits-Part0:Generalprinciples》
3.GB/T8170-2008《数值修约规则与极限数值的表示和判定》
4.JJF1059.1-2012《测量不确定度评定与表示》
5.ISO/IECGUIDE98-3:2008《测量不确定度表示指南》
检测设备
1.Keysight3458A高精度数字万用表(8位分辨率)
2.MitutoyoLH-600三坐标测量机(精度0.6μm)
3.ZygoVerifireMST激光干涉仪(分辨率0.1nm)
4.MettlerToledoXPE205电子天平(可读性0.01mg)
5.Fluke8588A参考级万用表(基本DCV精度0.0006%)
6.HexagonGlobalClassic07.10.08三坐标(空间精度0.3μm/m)
7.AgilentN6705B精密电源/分析仪(电流分辨率10nA)
8.RenishawXL-80激光校准系统(线性精度0.5ppm)
9.BrukerD8ADVANCEX射线衍射仪(角度重复性0.0001)
10.TektronixDPO70000SX示波器(采样率100GS/s)