主页 / dba / 问题 / 311807
Accepted
FiddlingAway
Asked: 2022-05-07 11:15:20 +0800 CST

选择一个浮点值会产生不正确的结果

  • 772

考虑以下。

CREATE TABLE IF NOT EXISTS `docs` (
  `id` int(6) unsigned NOT NULL,
  `qty` float NOT NULL,
  `price` float NOT NULL,
  `rebate` float not null,
  PRIMARY KEY (`id`)
) DEFAULT CHARSET=utf8;
INSERT INTO `docs` VALUES
  (1,1,43616.7,0);

SELECT SUM(qty * (price - price * rebate/100)) AS endval
FROM docs

此查询没有按预期返回 43616.7，而是返回 43616.69921875（在某些机器上为 43616.671875）。演示小提琴可以在这里找到。

为什么会这样？我希望它能够像这样工作（为实际输入像这样基本的东西道歉）：

1 * (43616.7 - 43616.7 * 0 / 100) = 1 * (43616.7 - 0) = 43616.7

我意识到我可以通过使用decimal (10,2)我的专栏来克服这个问题，我只是想知道是什么导致了这种意外行为。

mysql floating-point

1 个回答

  1. Best Answer

    • 不要使用FLOAT或DOUBLE为钱；利用DECIMAL(m,n)

    • 好像qty应该是积分？

    • 以下以及大多数类似的事情都注定要返回 FALSE：

      WHERE float_col = 1.23

      这是由于FLOAT存储在二进制中，但是1.23是十进制的。

    • 43616.7 几乎处于 的范围限制FLOAT，大约是 7 位有效数字。（该常数是 6 个“有效数字”。）

    • 2

相关问题