TGTGInsighttelegram intelligenceLIVE / telegram public index
← Hypercube's Channel
Hypercube's Channel avatar

TGINSIGHT POST

Post #69

@SmartHypercube_channel

Hypercube's Channel

Views237帖子阅读量
发布6月3日2022/06/03 09:29
Post content

帖子内容

(发现总是记不住这些信息,整理出来备查) IEEE 754 双精度浮点数 53 位有效数字,指数范围 -1022 到 1023 最小非规约正数 ≈ 4.9e-324 最小规约正数 ≈ 2.2e-308 最大正数 ≈ 1.8e308 转换到 17 位十进制有效数字保证可逆 在指数范围内,15 位十进制有效数字转换到浮点数保证可逆 可以精确表示绝对值小于等于 2^53 ≈ 9.01e15 的所有整数 可以精确表示绝对值小于等于 4e22 的只有一位有效数字的整数 IEEE 754 单精度浮点数 24 位有效数字,指数范围 -126 到 127 最小非规约正数 ≈ 1.4e-45 最小规约正数 ≈ 1.2e-38 最大正数 ≈ 3.4e38 转换到 9 位十进制有效数字保证可逆 在指数范围内,6 位十进制有效数字转换到浮点数保证可逆 可以精确表示绝对值小于等于 2^24 ≈ 1.7e7 的所有整数 可以精确表示绝对值小于等于 8e9 的只有一位有效数字的整数 IEEE 754 半精度浮点数 11 位有效数字,指数范围 -14 到 15 最小非规约正数 ≈ 5.96e-8 最小规约正数 ≈ 6.1e-5 最大正数 = 65504 转换到 5 位十进制有效数字保证可逆 在指数范围内,3 位十进制有效数字转换到浮点数保证可逆 可以精确表示绝对值小于等于 2^11 = 2048 的所有整数 可以精确表示绝对值小于等于 40000 的只有一位有效数字的整数