检测项目
1.尾数精度误差范围:测量LSB(最低有效位)偏移量≤0.5ULP(单位最小精度)
2.有效位数验证:IEEE754标准下23位(单精度)/52位(双精度)完整度≥99.998%
3.规格化异常检测:非规格化数触发阈值≤1.1754943510⁻⁸(单精度)
4.舍入模式合规性:四舍六入五成双规则执行准确率≥99.999%
5.隐藏位完整性:二进制科学计数法隐含位偏差容限≤110⁻⁵
检测范围
1.半导体晶圆制造中的FPGA浮点运算单元
2.高精度陀螺仪传感器的模数转换模块
3.气象预测服务器的并行计算协处理器
4.工业CT扫描设备的图像重建运算单元
5.量子计算芯片的经典数值接口电路
检测方法
ASTME2935-17:浮点运算单元动态误差测试规程
ISO/IEC60559:2020:信息技术-微处理器系统浮点运算标准
GB/T17966-2000:微处理器浮点部件测试方法
IEEEStd754-2019:浮点算术标准一致性测试套件
GB/T30268-2013:嵌入式系统浮点运算性能测试规范
检测设备
1.Keysight3458A数字万用表:8.5位分辨率,支持1ppm基本DC精度
2.AdvantestR3757E高频信号分析仪:12GHz带宽,24位ADC转换模块
3.TektronixDPO73304SX示波器:33GHz模拟带宽,256GS/s采样率
4.Agilent4156C精密半导体分析仪:0.1fA~100mA电流测量范围
5.Fluke8588A参考级万用表:0.5ppm年基本DC电压精度
6.NIPXIe-4163高密度DMM模块:18位分辨率同步采样功能
7.Chroma12300电源测试系统:0.005%电压设定精度
8.Rohde&SchwarzRTO2044示波器:16位垂直分辨率模式
9.Keithley2636B源表:10aA电流测量灵敏度
10.XilinxVCU128验证平台:支持IEEE754-2019全模式仿真