AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / coding / Perguntas / 77166047
Accepted
akhmathew
akhmathew
Asked: 2023-09-24 15:11:49 +0800 CST2023-09-24 15:11:49 +0800 CST 2023-09-24 15:11:49 +0800 CST

Valores decimais dispersos em números reais

  • 772

Tenho um número real delayque gostaria de converter para o primeiro múltiplo de 10. Por exemplo, se atraso = 0,0024, quero que a saída seja 240.

No trecho de código a seguir, delay= 1.52e-6. Após whilea execução do loop, eu esperava delayser 1520. No entanto, estou vendo que delay= 1,52e17 após whileo loop. Verifiquei a forma de onda e parece que o valor de delayera 1,5200000000000001e-6 para começar. Por que é tão? Estou fazendo algo errado?

Aqui está o código:

  real delay = 1.52e-6;

  function real mod (real a, real b);
      mod = a - b*$floor(a/b);
  endfunction

  initial begin
      while (mod(delay, 10) != 0) delay = delay*10;
  end
floating-point
  • 2 2 respostas
  • 41 Views

2 respostas

  • Voted
  1. chux - Reinstate Monica
    2023-09-24T22:26:00+08:002023-09-24T22:26:00+08:00

    No trecho de código a seguir, delay = 1.52e-6

    Observe bastante.

    Os tipos de ponto flutuante são comumente codificados usando binary64 ou algo semelhante. Essa codificação de 64 bits pode codificar exatamente cerca de 2 64 valores diferentes. 1.52e-6 não é um deles, pois não é um racional diádico (alguns números inteiros vezes uma potência de 2). Em vez disso, o código começa a funcionar com um valor próximo de 1.5200000000000000582720720634921640623815619619563e-06 ou 0x198059AC99A685 * 2 -72 .

    Outras complicações ocorrem porque muitos deles delay = delay*10incorrem em erros de arredondamento.

    Altere a meta ou use uma abordagem diferente.

    "converter para o primeiro múltiplo de 10" parece um objetivo secundário. Qual é a meta de nível superior?

    Nota: Todos os valores finitos de ponto flutuante são exatos . É a forma como operamos com eles que muitas vezes leva a um resultado diferente do resultado matemático exato que aprendemos na escola.

    • 1
  2. Best Answer
    toolic
    2023-09-24T19:03:10+08:002023-09-24T19:03:10+08:00

    Por que é tão?

    Você pode ver por que isso acontece se você $displayintermediar valores ao executar sua simulação. Será mais óbvio do que olhar para uma forma de onda, que só mostrará o valor final após a whileconclusão do loop. Aqui está um exemplo de código executável:

    module tb;
    real delay = 1.52e-6;
    
    function real mod (real a, real b);
        mod = a - b*$floor(a/b);
        $display("a=%g, floor=%g, mod=%g", a, $floor(a/b), mod);
    endfunction
    
    initial begin
        $display(delay);
        while (mod(delay, 10) != 0) delay = delay*10;
        $display(delay);
    end
    endmodule
    

    Saída:

    1.52e-06
    a=1.52e-06, floor=0, mod=1.52e-06
    a=1.52e-05, floor=0, mod=1.52e-05
    a=0.000152, floor=0, mod=0.000152
    a=0.00152, floor=0, mod=0.00152
    a=0.0152, floor=0, mod=0.0152
    a=0.152, floor=0, mod=0.152
    a=1.52, floor=0, mod=1.52
    a=15.2, floor=1, mod=5.2
    a=152, floor=15, mod=2
    a=1520, floor=152, mod=2.27374e-13
    a=15200, floor=1520, mod=1.81899e-12
    a=152000, floor=15200, mod=2.91038e-11
    a=1.52e+06, floor=152000, mod=2.32831e-10
    a=1.52e+07, floor=1.52e+06, mod=1.86265e-09
    a=1.52e+08, floor=1.52e+07, mod=2.98023e-08
    a=1.52e+09, floor=1.52e+08, mod=2.38419e-07
    a=1.52e+10, floor=1.52e+09, mod=1.90735e-06
    a=1.52e+11, floor=1.52e+10, mod=3.05176e-05
    a=1.52e+12, floor=1.52e+11, mod=0.000244141
    a=1.52e+13, floor=1.52e+12, mod=0.00195312
    a=1.52e+14, floor=1.52e+13, mod=0.03125
    a=1.52e+15, floor=1.52e+14, mod=0.25
    a=1.52e+16, floor=1.52e+15, mod=2
    a=1.52e+17, floor=1.52e+16, mod=0
    1.52e+17
    

    Estou fazendo algo errado?

    Sim. O problema é que sua verificação de comparação no whileloop não funcionou da maneira que você esperava. Você não deve comparar realvalores com 0 assim. Em vez disso, você precisa compará-lo com algum valor de tolerância razoavelmente pequeno. Por exemplo:

    while (mod(delay, 10) > 1e-12) delay = delay*10;
    

    Isso fornece a saída desejada:1520

    Aqui está a saída completa:

    1.52e-06
    a=1.52e-06, floor=0, mod=1.52e-06
    a=1.52e-05, floor=0, mod=1.52e-05
    a=0.000152, floor=0, mod=0.000152
    a=0.00152, floor=0, mod=0.00152
    a=0.0152, floor=0, mod=0.0152
    a=0.152, floor=0, mod=0.152
    a=1.52, floor=0, mod=1.52
    a=15.2, floor=1, mod=5.2
    a=152, floor=15, mod=2
    a=1520, floor=152, mod=2.27374e-13
    1520
    

    Há incerteza com todos os tipos de variáveis ​​de ponto flutuante. Às vezes, uma comparação direta !=funciona e outras vezes não. Não é garantido que funcione, e é por isso que um valor de tolerância ajuda.

    Este é um problema geral com comparação de ponto flutuante .

    • 0

relate perguntas

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    destaque o código em HTML usando <font color="#xxx">

    • 2 respostas
  • Marko Smith

    Por que a resolução de sobrecarga prefere std::nullptr_t a uma classe ao passar {}?

    • 1 respostas
  • Marko Smith

    Você pode usar uma lista de inicialização com chaves como argumento de modelo (padrão)?

    • 2 respostas
  • Marko Smith

    Por que as compreensões de lista criam uma função internamente?

    • 1 respostas
  • Marko Smith

    Estou tentando fazer o jogo pacman usando apenas o módulo Turtle Random e Math

    • 1 respostas
  • Marko Smith

    java.lang.NoSuchMethodError: 'void org.openqa.selenium.remote.http.ClientConfig.<init>(java.net.URI, java.time.Duration, java.time.Duratio

    • 3 respostas
  • Marko Smith

    Por que 'char -> int' é promoção, mas 'char -> short' é conversão (mas não promoção)?

    • 4 respostas
  • Marko Smith

    Por que o construtor de uma variável global não é chamado em uma biblioteca?

    • 1 respostas
  • Marko Smith

    Comportamento inconsistente de std::common_reference_with em tuplas. Qual é correto?

    • 1 respostas
  • Marko Smith

    Somente operações bit a bit para std::byte em C++ 17?

    • 1 respostas
  • Martin Hope
    fbrereto Por que a resolução de sobrecarga prefere std::nullptr_t a uma classe ao passar {}? 2023-12-21 00:31:04 +0800 CST
  • Martin Hope
    比尔盖子 Você pode usar uma lista de inicialização com chaves como argumento de modelo (padrão)? 2023-12-17 10:02:06 +0800 CST
  • Martin Hope
    Amir reza Riahi Por que as compreensões de lista criam uma função internamente? 2023-11-16 20:53:19 +0800 CST
  • Martin Hope
    Michael A formato fmt %H:%M:%S sem decimais 2023-11-11 01:13:05 +0800 CST
  • Martin Hope
    God I Hate Python std::views::filter do C++20 não filtrando a visualização corretamente 2023-08-27 18:40:35 +0800 CST
  • Martin Hope
    LiDa Cute Por que 'char -> int' é promoção, mas 'char -> short' é conversão (mas não promoção)? 2023-08-24 20:46:59 +0800 CST
  • Martin Hope
    jabaa Por que o construtor de uma variável global não é chamado em uma biblioteca? 2023-08-18 07:15:20 +0800 CST
  • Martin Hope
    Panagiotis Syskakis Comportamento inconsistente de std::common_reference_with em tuplas. Qual é correto? 2023-08-17 21:24:06 +0800 CST
  • Martin Hope
    Alex Guteniev Por que os compiladores perdem a vetorização aqui? 2023-08-17 18:58:07 +0800 CST
  • Martin Hope
    wimalopaan Somente operações bit a bit para std::byte em C++ 17? 2023-08-17 17:13:58 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve