主页 / dba / 问题 / 35159
Accepted
Iain Samuel McLean Elder
Asked: 2013-02-22 05:31:52 +0800 CST

FLOOR(3) 如何等于 2？

  • 772

我试图找到一个可靠、高效的表达式来计算写一个正整数需要多少个小数位。

在数学上，整数的小数位数n是1 + floor(log(n))，其中 log 是常用对数（以 10 为底）。

有多种方法可以使用内置函数构造等价表达式，但其中一些会给出不正确的结果。有人可以解释为什么吗？

这是一个例子。

如何计算日志？

计算常用对数的最简单方法是使用LOG10函数。

如果您更喜欢对所有对数使用一个函数，则可以使用该LOG函数并在第二个参数中指定以 10 为底。

在 2012 年之前，SQL Server 的LOG函数只会计算自然对数（base e=2.71828...）。您可以通过将数字的自然对数除以底数的自然对数来计算数字的任意底数的对数。

以下查询计算某些示例值的所有三个表达式：

SELECT
  Number,
  LOG(Number, 10) AS LogAB,
  LOG10(Number) AS LogTen,
  LOG(Number) / LOG(10) AS LogOverLog
FROM (
  VALUES (999), (1000), (1001)
) AS Tally (Number);

输出：

Number      LogAB                  LogTen                 LogOverLog
----------- ---------------------- ---------------------- ----------------------
999         2.99956548822598       2.99956548822598       2.99956548822598
1000        3                      3                      3
1001        3.00043407747932       3.00043407747932       3.00043407747932

我选择了值 999、1000 和 1001，因为 1000 是位数增加的点。999 有 3 个数字，1000 有 4 个数字。

所有三个表达式的值在视觉上是相同的，并且看起来是正确的。

让我们继续前进。

如何计算地板？

您可以使用如下查询获取前面示例中每个日志的发言权：

SELECT
  Number,
  FLOOR(LOG(Number, 10)) AS FloorLogAB,
  FLOOR(LOG10(Number)) AS FloorLogTen,
  FLOOR(LOG(Number) / LOG(10)) AS FloorLogOverLog
FROM (
  VALUES (999), (1000), (1001)
) AS Tally (Number);

输出：

Number      FloorLogAB             FloorLogTen            FloorLogOverLog
----------- ---------------------- ---------------------- ----------------------
999         2                      2                      2
1000        2                      3                      2
1001        3                      3                      3

999 和 1001 的每个表达式的值都相等且正确。如果我们将每个值加 1，则 999 中的计数为 3 位，1001 中的计数为 4 位。

1000 的值不一样！如果我们将每个值加 1，那么如果我们使用该函数，我们将得到 1000 中的 4 位数字，如果我们以任何一种形式LOG10使用该函数，我们将得到 3 位数字的计数。LOG

这里有一个不一致！

FLOOR(3) 如何等于 2？

含义很明确：使用该LOG函数会给我一些值的错误计数，因此我应该使用该LOG10函数。

但是每个日志表达式本身的值是相同且正确的。为什么 floor 函数从他们的输入中产生不同的值？

sql-server

2 个回答

  1. Best Answer
    SELECT
  Number,
  CAST(LOG(Number, 10) AS VARBINARY) AS LogAB,
  CAST(LOG10(Number) AS VARBINARY) AS LogTen,
  CAST(LOG(Number) / LOG(10) AS VARBINARY) AS LogOverLog
FROM (
  VALUES (1000)
) AS Tally (Number);

    退货

    Number      LogAB                   LogTen                  LogOverLog
----------- ----------------------- ----------------------- ----------------------
1000        0x4007FFFFFFFFFFFF      0x4008000000000000      0x4007FFFFFFFFFFFF

    0x4008000000000000正好是 3。

    0x4007FFFFFFFFFFFF是2.99999999999999955591079014994。

    如果您正在寻找一个有效的表达式CASE，那么具有 10 种不同情况的表达式实际上比计算对数更能减少 CPU 占用（或者您可以使用嵌套的情况表达式来进行三元搜索）

    • 6

  2. 我会称之为舍入问题......

    declare @a table(Number int)
insert into @a Values (999),(1000),(1001);

SELECT
  Number ,
  LOG10(Number) AS LogTen,
  LOG(Number) / LOG(10) AS LogOverLog
  ,LOG10(Number) - (LOG(Number) / LOG(10)) as Diff
FROM @a

    输出

    999 2,99956548822598    2,99956548822598    0
1000    3   3   4,44089209850063E-16
1001    3,00043407747932    3,00043407747932    4,44089209850063E-16

    显示限制

    SELECT
  Number,

  FLOOR(LOG10(Number)) AS FloorLogTen,
  FLOOR(LOG(Number) / LOG(10) ) AS FloorLogOverLog,
  FLOOR(LOG(Number) / LOG(10) + 2.22044E-16) AS LessCorrection,
  FLOOR(LOG(Number) / LOG(10) + 2.22045E-16) AS Overcorrection
FROM @a
    • 3

相关问题