Início / dba / Perguntas / 108577
Accepted
WAF
Asked: 2015-07-31 07:43:08 +0800 CST

Operador de módulo com não inteiros - resultados inesperados

  • 772

MySQL 5.5.32, Oracle 11g

O MySQL retorna resultados estranhos para consultas envolvendo mod()módulos não inteiros. Por que é isso?

Eu tenho uma coluna definida assim:

+--------+--------------+------+-----+---------+-------+
| Field  | Type         | Null | Key | Default | Extra |
+--------+--------------+------+-----+---------+-------+
| col    | double(15,6) | YES  |     | NULL    |       |
+--------+--------------+------+-----+---------+-------+

Selecionei um valor conhecido dessa coluna para usar no teste - 5850. Se eu consultar a tabela, testando essa coluna para números inteiros, obtenho estes resultados:

mysql> SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,1) != 0;
Empty set (1.07 sec)

Isso é esperado. Mas isso não é:

mysql> SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,.1) != 0;
+-----------+-----------+
| thing_id  | name      |
+-----------+-----------+
|   4444444 | some      |
|   4444445 | names     |
...
|  55555555 | go        |
|  55555556 | here      |
+-----------+-----------+
416 rows in set (1.07 sec)

O mesmo resulta da substituição col MOD .1e col % .1, portanto, tem a ver com o cálculo, não com a semântica.

Compare isso com o comportamento do Oracle (usando o SQL Developer, se isso for importante), onde o tipo de colé NUMBER:

SELECT thing_id,name FROM table WHERE col=5850 AND mod(col,.1) != 0;
thing_id    name
[NO RECORDS]

A precisão na coluna MySQL parece fazer essa diferença, mas não entendo como. Conceitualmente, não deveria integer_value % .1 = 0?

datatypes floating-point

1 respostas

  1. Best Answer

    Vou começar com um link: O que todo programador deve saber sobre aritmética de ponto flutuante .

    Resumindo, tipos aritméticos de ponto flutuante, como os tipos floate doublemysql, nunca devem ser usados ​​para aritmética precisa. E você col mod 0.1está tentando fazer exatamente isso, uma verificação aritmética precisa. Ele está tentando descobrir se o valor em colé um múltiplo exato de 0.1. E falha miseravelmente, como é óbvio pelos seus resultados.

    A solução é usar um tipo fixo, comodecimal(m, n) para fazer esses tipos de verificações.

    Quanto ao motivo pelo qual você obteve resultados diferentes no Oracle, é porque você usou o NUMBERque é implementado de maneira diferente (com precisão decimal). Os equivalentes no Oracle de float e double são BINARY_FLOATe BINARY_DOUBLEe usam precisão binária. Consulte as notas nos documentos do Oracle: Visão geral dos tipos de dados numéricos :

    O Oracle Database fornece dois tipos de dados numéricos exclusivamente para números de ponto flutuante: BINARY_FLOATe BINARY_DOUBLE. Eles suportam todas as funcionalidades básicas fornecidas pelo tipo de NUMBERdados. No entanto , while NUMBERusa precisão decimalBINARY_FLOAT e BINARY_DOUBLEusa precisão binária. Isso permite cálculos aritméticos mais rápidos e geralmente reduz os requisitos de armazenamento.

    Nota:
    BINARY_DOUBLE e BINARY_FLOATimplemente a maior parte do padrão do Institute of Electrical and Electronics Engineers (IEEE) para aritmética de ponto flutuante binário, padrão IEEE 754-1985 (IEEE754).

    Se você insiste em usar double(não vejo porque), mais alguns testes com o modoperador/função no mysql, revela que:

    Quando você usa números inteiros para os argumentos, digamos que sim x mod K, o resultado é sempre um número inteiro entre 0e K-1. O comportamento matemático esperado.

    Quando você usa floats/doubles, digamos que sim x mod K, o resultado é qualquer número de 0.0a K included . (como seus testes que mostram 5850.0 mod 0.1resultar em 0.1). Não fiz milhões de testes, então pode haver casos em que o resultado pode ser ainda maior do que K! A aritmética de ponto flutuante pode dar resultados estranhos.

    Portanto, uma solução alternativa (que nem sempre funciona!) seria usar esta condição:

    ( mod(col, 0.1) <> 0.0  AND  mod(col, 0.1) <> 0.1 )

    Para ser sincero, sinto-me triste por ter feito a sugestão de solução alternativa. Leia novamente O que todo programador deve saber sobre aritmética de ponto flutuante e não use a solução alternativa.

    Use tipos de precisão fixa para operações aritméticas de precisão.

    • 4

relate perguntas