主页 / dba / 问题 / 278828
Accepted
turtle
Asked: 2020-10-29 12:18:04 +0800 CST

Postgresql中的浮点数和数字有什么区别？

  • 772

阅读有关数字数据类型的 Postgresql 文档 让我想到了这个问题：为什么我会在数据类型Float（SQL 标准）和NumericPostgresql 中得到这些意外结果？

例如：

CREATE TEMP TABLE testnum (a numeric, b float);
INSERT INTO testnum VALUES (100,100);
INSERT INTO testnum VALUES (9*9*9,9*9*9);
INSERT INTO testnum VALUES (9^9^9,9^9^9);
SELECT (a/3)*3 AS numeric, (b/3) * 3 AS float FROM testnum;
SELECT (a/5)*5 AS numeric, (b/5) * 5 AS float FROM testnum;

然后运行

SELECT (a/3)*3 AS numeric, (b/3) * 3 AS float FROM testnum;

numeric                                     |         float          
                        99.9999999999999999 |                    100
                       729.0000000000000000 |                    729

在这个测试中Float看起来比Numeric.

对于货币或库存数量等精确数值，哪一种是合适的数据类型？

database-design postgresql

1 个回答

  1. Best Answer

    您正在成为隐式类型转换的受害者。当其中一个操作数是numeric和另一个integer时，整数操作数将被强制转换为numeric，结果将是numeric。由于numeric具有严格定义的精度，因此尝试在不四舍五入的情况下为其分配小数点后具有无限位数的值（100/3 产生）将导致截断。同样的逻辑适用于乘法，现在一个操作数不是您似乎期望的 33.333...（具有无限序列的“3”），而是定义的精度numeric33.333...3（有限序列"3"s)，自然产生 99.999...9 -- 一个有限序列

    当其中一个操作数是float和另一个integer时，整数操作数将被强制转换为float，结果将是float。由于float具有近似精度，因此它能够以不同的方式处理 33.333... 和 99.999...，最终得出近似值 100。

    至于

    对于货币或库存数量等精确数值，哪一种是合适的数据类型？

    该手册为您提供了所需的确切答案：

    如果您需要精确的存储和计算（例如货币金额），请改用数字类型。

    它没有说的是您应该通过使用适合您的业务规则的显式类型转换和舍入来控制每个步骤的计算。

    • 2

相关问题