检测项目

1.尾数精度误差范围:测量LSB(最低有效位)偏移量≤0.5ULP(单位最小精度)

2.有效位数验证:IEEE754标准下23位(单精度)/52位(双精度)完整度≥99.998%

3.规格化异常检测:非规格化数触发阈值≤1.1754943510⁻⁸(单精度)

4.舍入模式合规性:四舍六入五成双规则执行准确率≥99.999%

5.隐藏位完整性:二进制科学计数法隐含位偏差容限≤110⁻⁵

检测范围

1.半导体晶圆制造中的FPGA浮点运算单元

2.高精度陀螺仪传感器的模数转换模块

3.气象预测服务器的并行计算协处理器

4.工业CT扫描设备的图像重建运算单元

5.量子计算芯片的经典数值接口电路

检测方法

ASTME2935-17:浮点运算单元动态误差测试规程

ISO/IEC60559:2020:信息技术-微处理器系统浮点运算标准

GB/T17966-2000:微处理器浮点部件测试方法

IEEEStd754-2019:浮点算术标准一致性测试套件

GB/T30268-2013:嵌入式系统浮点运算性能测试规范

检测设备

1.Keysight3458A数字万用表:8.5位分辨率,支持1ppm基本DC精度

2.AdvantestR3757E高频信号分析仪:12GHz带宽,24位ADC转换模块

3.TektronixDPO73304SX示波器:33GHz模拟带宽,256GS/s采样率

4.Agilent4156C精密半导体分析仪:0.1fA~100mA电流测量范围

5.Fluke8588A参考级万用表:0.5ppm年基本DC电压精度

6.NIPXIe-4163高密度DMM模块:18位分辨率同步采样功能

7.Chroma12300电源测试系统:0.005%电压设定精度

8.Rohde&SchwarzRTO2044示波器:16位垂直分辨率模式

9.Keithley2636B源表:10aA电流测量灵敏度

10.XilinxVCU128验证平台:支持IEEE754-2019全模式仿真