Na minha mente intuitivamente, e mesmo depois de pensar um pouco, se eu quiser converter um valor float normalizado de volta para ponto fixo, eu o multiplicaria pelo valor máximo que pode ser mantido pelo formato de ponto fixo. Então multiplique por 255 ou 65535, ou o que for. No entanto, em alguns casos, vi algumas pessoas ou códigos insistirem que a maneira correta é multiplicar por 255 - 1, ou 65535 - 1. Não sei por que isso acontece ou por que deveria ser o caso. Isso é para lidar com estouro? Não vejo o que de ruim poderia acontecer se você multiplicasse 1,0f * 255. Mesmo que 1,0f não possa ser perfeitamente representado no IEEE 754 e a multiplicação produza 255,0001, então, ao converter isso para um inteiro, ainda termina como 255, sem estouro.
Editar: Desculpe, há dois erros na minha pergunta. Quero dizer 2 ^ bit_width - 1, não bit_width ^ 2 - 1. O que provavelmente está correto, então para um inteiro de 8 bits você multiplicaria por 255, e para um inteiro de 16 bits você multiplicaria por 65535. Minha pergunta é, tenho quase certeza de que já vi código que multiplica por 255 - 1, que é 254. Existe algum motivo para multiplicar por 254 em vez de 255?
É muito improvável que você tenha visto algum código multiplicando por
BIT_WIDTH ^ 2 MINUS 1. Para uma largura de, digamos, 16, isso multiplicaria por 16 2 −1 = 256−1 = 255, enquanto o valor máximo em um inteiro sem sinal de 16 bits é 65.535. É mais provável que você tenha visto código multiplicando por2 ^ BIT_WDITH - 1, o que produziria 65.535.Considere um formato inteiro sem sinal de n bits. Seus valores variam de 0 a 2 n −1. Alguém mapeando isso para um intervalo de ponto flutuante [0, 1] pode escolher o mapeamento f: x ➝ x / (2 n −1), pois isso mapeia 0 para 0, 2 n −1 para 1 e todo valor entre 0 e 2 n −1 para um valor entre 0 e 1.
Uma vez feita essa escolha, o mapeamento inverso é f −1 : y ➝ y •(2 n −1).
Não vejo razão para isso. Mostre-nos as palavras dessas pessoas ou o texto desse código.
Se o mapa reverso for y ➝ y •(2 n −2), então o mapa direto será x ➝ x / (2 n −2). Para n = 8, isso mapearia 255 para 255/254 = 1,045…, o que não está dentro do que normalmente seria usado para um intervalo normalizado, [0, 1].
Uma maneira pela qual isso pode fazer sentido é se o formato de ponto fixo reservar o valor 2 n −1 para denotar alguma condição excepcional (como a ocorrência de um erro ou a falta de dados), então seu intervalo de valores numéricos seria [0, 2 n −2]. Nesse caso, os mapas seriam x ➝ x / ( y ➝ y •(2 n −2) e y ➝ y •(2 n −2).