主页 / dba / 问题 / 108577
Accepted
WAF
Asked: 2015-07-31 07:43:08 +0800 CST

具有非整数的模运算符 - 意外结果

  • 772

MySQL 5.5.32，甲骨文 11g

mod()对于涉及非整数模数的查询，MySQL 会返回奇怪的结果。为什么是这样？

我有一个这样定义的列：

+--------+--------------+------+-----+---------+-------+
| Field  | Type         | Null | Key | Default | Extra |
+--------+--------------+------+-----+---------+-------+
| col    | double(15,6) | YES  |     | NULL    |       |
+--------+--------------+------+-----+---------+-------+

我从该列中选择了一个已知值用于测试 - 5850。如果我查询表，测试该列的整数，我得到这些结果：

mysql> SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,1) != 0;
Empty set (1.07 sec)

这是意料之中的。但这不是：

mysql> SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,.1) != 0;
+-----------+-----------+
| thing_id  | name      |
+-----------+-----------+
|   4444444 | some      |
|   4444445 | names     |
...
|  55555555 | go        |
|  55555556 | here      |
+-----------+-----------+
416 rows in set (1.07 sec)

替换的结果相同col MOD .1，col % .1因此它与计算而不是语义有关。

将此与 Oracle 的行为（如果重要，则使用 SQL Developer）进行比较，其中的类型col是NUMBER：

SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,.1) != 0;
thing_id    name
[NO RECORDS]

MySQL 列的精度似乎造成了这种差异，但我不明白如何。从概念上讲，不应该integer_value % .1 = 0吗？

datatypes floating-point

1 个回答

  1. Best Answer

    我将从一个链接开始：What Every Programmer Should Know About Floating-Point Arithmetic。

    简而言之，浮点算术类型，如float和doublemysql 类型，永远不应该用于精确算术。而你col mod 0.1正试图做到这一点，一个精确的算术检查。它试图找出 中的值col是否是 的精确倍数0.1。它惨遭失败，从您的结果中可以明显看出。

    解决办法是使用固定类型，比如decimal(m, n)做这些类型的检查。

    至于为什么你在 Oracle 中得到不同的结果，那是因为你使用了NUMBER不同的实现方式（小数精度）。Oracle 中 float 和 double 的等价物是BINARY_FLOATandBINARY_DOUBLE和 使用二进制精度。请参阅 Oracle 文档中的注释：Overview of Numeric Datatypes：

    Oracle 数据库提供了两种专门用于浮点数的数字数据类型：BINARY_FLOAT和BINARY_DOUBLE. 它们支持NUMBER数据类型提供的所有基本功能。但是，虽然NUMBER使用十进制精度，BINARY_FLOAT但BINARY_DOUBLE使用二进制精度。这可以实现更快的算术计算，并且通常可以降低存储需求。

    注意：
    BINARY_DOUBLE并BINARY_FLOAT实施大多数电气和电子工程师协会 (IEEE) 二进制浮点运算标准，即 IEEE 标准 754-1985 (IEEE754)。

    如果你坚持使用double（我看不出为什么），mod在 mysql 中对运算符/函数进行更多测试，表明：

    当您使用整数作为参数时，假设您使用x mod K，结果始终是介于0和之间的整数K-1。预期的数学行为。

    当您使用浮点数/双精度数时，假设您这样做x mod K，结果是从0.0到K included的任何数字。（如您的测试5850.0 mod 0.1结果所示0.1）。我没有做过数百万次测试，所以在某些情况下结果甚至可能大于K! 浮点运算会产生奇怪的结果。

    因此，一种解决方法（可能并不总是有效！）是使用以下条件：

    ( mod(col, 0.1) <> 0.0  AND  mod(col, 0.1) <> 0.1 )

    老实说，我什至感到难过，我什至提出了解决方法建议。请再次阅读What Every Programmer Should Know About Floating-Point Arithmetic并且不要使用解决方法。

    使用固定精度类型进行精度算术运算。

    • 4

相关问题