AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / coding / 问题 / 79491951
Accepted
Zebrafish
Zebrafish
Asked: 2025-03-07 18:17:51 +0800 CST2025-03-07 18:17:51 +0800 CST 2025-03-07 18:17:51 +0800 CST

将浮点数转换为定点数时,为什么我看到一些代码执行 BIT_WIDTH ^ 2 MINUS 1?

  • 772

在我的直觉中,甚至经过一番思考之后,如果我想将一个规范化的浮点值转换回定点数,我会将其乘以定点格式能够容纳的最大值。所以乘以 255 或 65535,或其他什么。然而在某些情况下,我看到一些人或代码坚持认为正确的方法是乘以 255 - 1 或 65535 - 1。我不知道为什么会这样或为什么应该这样。这是为了处理溢出吗?我不知道如果将 1.0f * 255 相乘会发生什么不好的事情。即使 1.0f 不能在 IEEE 754 中完美表示并且乘法得出 255.0001,那么当将其转换为整数时它仍然为 255,没有溢出。

编辑:抱歉,我的问题中有两个错误。我的意思是 2 ^ bit_width - 1,而不是 bit_width ^ 2 - 1。这大概是正确的,因此对于 8 位整数,您需要乘以 255,对于 16 位整数,您需要乘以 65535。我的问题是,我很确定我见过乘以 255 - 1(即 254)的代码。有什么理由乘以 254 而不是 255?

graphics
  • 1 1 个回答
  • 40 Views

1 个回答

  • Voted
  1. Best Answer
    Eric Postpischil
    2025-03-07T19:59:19+08:002025-03-07T19:59:19+08:00

    您不太可能看到任何代码乘以BIT_WIDTH ^ 2 MINUS 1。例如,对于宽度为 16 的情况,这将乘以 16 2 −1 = 256−1 = 255,而 16 位无符号整数的最大值是 65,535。您更有可能看到代码乘以2 ^ BIT_WDITH - 1,结果为 65,535。

    考虑一个n位无符号整数格式。其值范围从 0 到 2 n −1。将其映射到浮点区间 [0, 1] 的人可能会选择映射 f: x ➝ x / (2 n −1),因为它将 0 映射到 0,将 2 n −1 映射到 1,并将 0 到 2 n −1之间的每个值映射到 0 到 1 之间的值。

    一旦做出选择,逆映射为 f −1 : y ➝ y •(2 n −1)。

    然而在某些情况下,我看到一些人或代码坚持认为正确的方法是乘以 255 - 1 或 65535 - 1。

    我看不出这有什么道理。请给我们看看那些人的话或那段代码的文本。

    如果反向映射为y ➝ y •(2 n −2),则正向映射为x ➝ x / (2 n −2)。对于n = 8,这会将 255 映射到 255/254 = 1.045…,这不在通常使用的归一化区间 [0, 1] 内。

    这可能有意义的一种方式是,如果定点格式保留值 2 n −1 来表示某些异常情况(例如发生错误或数据丢失),则其数值间隔为 [0, 2 n −2]。在这种情况下,映射将是x ➝ x / ( y ➝ y •(2 n −2) 和y ➝ y •(2 n −2)。

    • 1

相关问题

  • 这是使用 Vulkan 将图像传输到 GPU 内存的最快方法吗?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    重新格式化数字,在固定位置插入分隔符

    • 6 个回答
  • Marko Smith

    为什么 C++20 概念会导致循环约束错误,而老式的 SFINAE 不会?

    • 2 个回答
  • Marko Smith

    VScode 自动卸载扩展的问题(Material 主题)

    • 2 个回答
  • Marko Smith

    Vue 3:创建时出错“预期标识符但发现‘导入’”[重复]

    • 1 个回答
  • Marko Smith

    具有指定基础类型但没有枚举器的“枚举类”的用途是什么?

    • 1 个回答
  • Marko Smith

    如何修复未手动导入的模块的 MODULE_NOT_FOUND 错误?

    • 6 个回答
  • Marko Smith

    `(表达式,左值) = 右值` 在 C 或 C++ 中是有效的赋值吗?为什么有些编译器会接受/拒绝它?

    • 3 个回答
  • Marko Smith

    在 C++ 中,一个不执行任何操作的空程序需要 204KB 的堆,但在 C 中则不需要

    • 1 个回答
  • Marko Smith

    PowerBI 目前与 BigQuery 不兼容:Simba 驱动程序与 Windows 更新有关

    • 2 个回答
  • Marko Smith

    AdMob:MobileAds.initialize() - 对于某些设备,“java.lang.Integer 无法转换为 java.lang.String”

    • 1 个回答
  • Martin Hope
    Fantastic Mr Fox msvc std::vector 实现中仅不接受可复制类型 2025-04-23 06:40:49 +0800 CST
  • Martin Hope
    Howard Hinnant 使用 chrono 查找下一个工作日 2025-04-21 08:30:25 +0800 CST
  • Martin Hope
    Fedor 构造函数的成员初始化程序可以包含另一个成员的初始化吗? 2025-04-15 01:01:44 +0800 CST
  • Martin Hope
    Petr Filipský 为什么 C++20 概念会导致循环约束错误,而老式的 SFINAE 不会? 2025-03-23 21:39:40 +0800 CST
  • Martin Hope
    Catskul C++20 是否进行了更改,允许从已知绑定数组“type(&)[N]”转换为未知绑定数组“type(&)[]”? 2025-03-04 06:57:53 +0800 CST
  • Martin Hope
    Stefan Pochmann 为什么 {2,3,10} 和 {x,3,10} (x=2) 的顺序不同? 2025-01-13 23:24:07 +0800 CST
  • Martin Hope
    Chad Feller 在 5.2 版中,bash 条件语句中的 [[ .. ]] 中的分号现在是可选的吗? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench 为什么双破折号 (--) 会导致此 MariaDB 子句评估为 true? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng 为什么 `dict(id=1, **{'id': 2})` 有时会引发 `KeyError: 'id'` 而不是 TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob:MobileAds.initialize() - 对于某些设备,“java.lang.Integer 无法转换为 java.lang.String” 2024-03-20 03:12:31 +0800 CST

热门标签

python javascript c++ c# java typescript sql reactjs html

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve