AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / coding / 问题 / 77166047
Accepted
akhmathew
akhmathew
Asked: 2023-09-24 15:11:49 +0800 CST2023-09-24 15:11:49 +0800 CST 2023-09-24 15:11:49 +0800 CST

实数中的杂散小数值

  • 772

我有一个实数delay,我想将其转换为 10 的第一个倍数。例如,如果延迟 = 0.0024,我希望输出为 240。

在以下代码片段中,delay= 1.52e-6。循环执行后while,我预计为 1520。但是,循环后delay我看到= 1.52e17 。我检查了波形,看起来 的值最初是 1.5200000000000001e-6。为什么会这样呢?难道我做错了什么?delaywhiledelay

这是代码:

  real delay = 1.52e-6;

  function real mod (real a, real b);
      mod = a - b*$floor(a/b);
  endfunction

  initial begin
      while (mod(delay, 10) != 0) delay = delay*10;
  end
floating-point
  • 2 2 个回答
  • 41 Views

2 个回答

  • Voted
  1. chux - Reinstate Monica
    2023-09-24T22:26:00+08:002023-09-24T22:26:00+08:00

    在下面的代码片段中,延迟 = 1.52e-6

    注意相当。

    浮点类型通常使用binary64等进行编码。这种 64 位编码可以精确地编码大约 2 64个不同的值。1.52e-6 不是其中之一,因为它不是二进有理数(某个整数乘以 2 的幂)。相反,代码开始使用附近的值 1.5200000000000000582720720634921640623815619619563e-06 或 0x198059AC99A685 * 2 -72。

    由于许多会delay = delay*10产生舍入误差,因此会出现进一步的复杂情况。

    修改目标或使用不同的方法。

    “转换为 10 的第一个倍数”听起来像是次要目标。更高层次的目标是什么?

    注意:所有有限浮点值都是精确的。我们对它们进行操作的方式常常导致结果与我们在学校学到的确切数学结果不同。

    • 1
  2. Best Answer
    toolic
    2023-09-24T19:03:10+08:002023-09-24T19:03:10+08:00

    为什么会这样呢?

    如果您$display在运行模拟时使用中间值,您就会明白为什么会发生这种情况。这比查看波形更明显,波形只会显示while循环完成后的最终值。这是一个可运行的代码示例:

    module tb;
    real delay = 1.52e-6;
    
    function real mod (real a, real b);
        mod = a - b*$floor(a/b);
        $display("a=%g, floor=%g, mod=%g", a, $floor(a/b), mod);
    endfunction
    
    initial begin
        $display(delay);
        while (mod(delay, 10) != 0) delay = delay*10;
        $display(delay);
    end
    endmodule
    

    输出:

    1.52e-06
    a=1.52e-06, floor=0, mod=1.52e-06
    a=1.52e-05, floor=0, mod=1.52e-05
    a=0.000152, floor=0, mod=0.000152
    a=0.00152, floor=0, mod=0.00152
    a=0.0152, floor=0, mod=0.0152
    a=0.152, floor=0, mod=0.152
    a=1.52, floor=0, mod=1.52
    a=15.2, floor=1, mod=5.2
    a=152, floor=15, mod=2
    a=1520, floor=152, mod=2.27374e-13
    a=15200, floor=1520, mod=1.81899e-12
    a=152000, floor=15200, mod=2.91038e-11
    a=1.52e+06, floor=152000, mod=2.32831e-10
    a=1.52e+07, floor=1.52e+06, mod=1.86265e-09
    a=1.52e+08, floor=1.52e+07, mod=2.98023e-08
    a=1.52e+09, floor=1.52e+08, mod=2.38419e-07
    a=1.52e+10, floor=1.52e+09, mod=1.90735e-06
    a=1.52e+11, floor=1.52e+10, mod=3.05176e-05
    a=1.52e+12, floor=1.52e+11, mod=0.000244141
    a=1.52e+13, floor=1.52e+12, mod=0.00195312
    a=1.52e+14, floor=1.52e+13, mod=0.03125
    a=1.52e+15, floor=1.52e+14, mod=0.25
    a=1.52e+16, floor=1.52e+15, mod=2
    a=1.52e+17, floor=1.52e+16, mod=0
    1.52e+17
    

    难道我做错了什么?

    是的。问题是while循环中的比较检查没有按照您期望的方式工作。你不应该 real像这样将值与 0 进行比较。相反,您需要将其与某个相当小的容差值进行比较。例如:

    while (mod(delay, 10) > 1e-12) delay = delay*10;
    

    这将为您提供所需的输出:1520

    这是完整的输出:

    1.52e-06
    a=1.52e-06, floor=0, mod=1.52e-06
    a=1.52e-05, floor=0, mod=1.52e-05
    a=0.000152, floor=0, mod=0.000152
    a=0.00152, floor=0, mod=0.00152
    a=0.0152, floor=0, mod=0.0152
    a=0.152, floor=0, mod=0.152
    a=1.52, floor=0, mod=1.52
    a=15.2, floor=1, mod=5.2
    a=152, floor=15, mod=2
    a=1520, floor=152, mod=2.27374e-13
    1520
    

    所有浮点变量类型都存在不确定性。有时,像这样的直接比较!=会起作用,而有时则不起作用。它不能保证有效,这就是为什么容差值会有所帮助。

    这是浮点比较的常见问题。

    • 0

相关问题

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    使用 <font color="#xxx"> 突出显示 html 中的代码

    • 2 个回答
  • Marko Smith

    为什么在传递 {} 时重载解析更喜欢 std::nullptr_t 而不是类?

    • 1 个回答
  • Marko Smith

    您可以使用花括号初始化列表作为(默认)模板参数吗?

    • 2 个回答
  • Marko Smith

    为什么列表推导式在内部创建一个函数?

    • 1 个回答
  • Marko Smith

    我正在尝试仅使用海龟随机和数学模块来制作吃豆人游戏

    • 1 个回答
  • Marko Smith

    java.lang.NoSuchMethodError: 'void org.openqa.selenium.remote.http.ClientConfig.<init>(java.net.URI, java.time.Duration, java.time.Duratio

    • 3 个回答
  • Marko Smith

    为什么 'char -> int' 是提升,而 'char -> Short' 是转换(但不是提升)?

    • 4 个回答
  • Marko Smith

    为什么库中不调用全局变量的构造函数?

    • 1 个回答
  • Marko Smith

    std::common_reference_with 在元组上的行为不一致。哪个是对的?

    • 1 个回答
  • Marko Smith

    C++17 中 std::byte 只能按位运算?

    • 1 个回答
  • Martin Hope
    fbrereto 为什么在传递 {} 时重载解析更喜欢 std::nullptr_t 而不是类? 2023-12-21 00:31:04 +0800 CST
  • Martin Hope
    比尔盖子 您可以使用花括号初始化列表作为(默认)模板参数吗? 2023-12-17 10:02:06 +0800 CST
  • Martin Hope
    Amir reza Riahi 为什么列表推导式在内部创建一个函数? 2023-11-16 20:53:19 +0800 CST
  • Martin Hope
    Michael A fmt 格式 %H:%M:%S 不带小数 2023-11-11 01:13:05 +0800 CST
  • Martin Hope
    God I Hate Python C++20 的 std::views::filter 未正确过滤视图 2023-08-27 18:40:35 +0800 CST
  • Martin Hope
    LiDa Cute 为什么 'char -> int' 是提升,而 'char -> Short' 是转换(但不是提升)? 2023-08-24 20:46:59 +0800 CST
  • Martin Hope
    jabaa 为什么库中不调用全局变量的构造函数? 2023-08-18 07:15:20 +0800 CST
  • Martin Hope
    Panagiotis Syskakis std::common_reference_with 在元组上的行为不一致。哪个是对的? 2023-08-17 21:24:06 +0800 CST
  • Martin Hope
    Alex Guteniev 为什么编译器在这里错过矢量化? 2023-08-17 18:58:07 +0800 CST
  • Martin Hope
    wimalopaan C++17 中 std::byte 只能按位运算? 2023-08-17 17:13:58 +0800 CST

热门标签

python javascript c++ c# java typescript sql reactjs html

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve