主页 / coding / 问题 / 79189683
Accepted
Sebastian
Asked: 2024-11-15 00:37:38 +0800 CST

Snowflake 中的小数无法正确计算

  • 772

当我在 Snowflake 中像这样计算 1 / 100,000,000 时：

SELECT (1 / 100000000)::NUMBER(38,12);

结果显示为0：

0.000000000000

即使精度足够高。

但是，当我删除两个零并除以 1 / 1,000,000 时，它就会按预期工作：

SELECT (1 / 1000000)::NUMBER(38,12);

然后我得到了正确的结果0.000001：

0.000001000000

这里发生了什么事？

snowflake-cloud-data-platform

1 个回答

  1. Best Answer

    执行除法时操作数具有以下数据类型：

    SELECT 1, 100000000,  (1 / 100000000);
DESCRIBE RESULT LAST_QUERY_ID();
-- NUMBER(1,0) -- NUMBER(9,0) -- NUMBER(7,6)

    分配：

    执行除法时：

    • 输出的前几位​​数字是分子的前几位数字与分母的小数位数之和。

    • Snowflake 通过在分子的刻度上添加 6 位数字来最大限度地减少输出中的潜在溢出（由于链式除法）和刻度损失，最大阈值为 12 位数字，除非分子的刻度大于 12，在这种情况下分子刻度将用作输出刻度。

    如果除法运算的结果超出了输出范围，Snowflake 会对输出进行四舍五入（而不是截断输出）。

    因此，应在除法之前进行转换：

    SELECT (1 / 100000000)::NUMBER(38,12);
-- 0.000000000000

=> 

SELECT 1::NUMBER(38,12) / 100000000;
-- 0.000000010000
    • 2

相关问题