Alireza Asked: 2018-03-08 04:39:51 +0800 CST2018-03-08 04:39:51 +0800 CST 2018-03-08 04:39:51 +0800 CST 我是否通过在 MongoDB 中使用 zlib 而不是 snappy 压缩来提高读取性能? 772 我当前的存储引擎是WiredTiger,它的压缩级别是默认的,snappy。我遇到过 MongoDB 文档,有人提到使用 zlib 压缩效果更好,但需要更多 CPU。 我想知道与压缩数据zlib相比,它会在内存中存储更多数据吗?snappy我有一台具有 16 个 CPU 内核的服务器。由于 RAM 更昂贵,我宁愿节省内存以防它保留更多数据。 这个对吗?可以盲目切换到zlib来缓存更多数据,提高读取性能吗? 注意:我们的服务器是读取密集型的。 mongodb memory 1 个回答 Voted Best Answer David Spillett 2018-03-08T06:19:25+08:002018-03-08T06:19:25+08:00 https://docs.mongodb.com/manual/core/wiredtiger/#memory-use上的文档说收集数据仅在磁盘上压缩,因此在内存中未压缩。索引将其前缀压缩保留在内存中,但不是块级压缩。 因此,更改压缩算法不会直接减少保持读取繁重工作负载高效所需的内存量(即确保其工作集保留在 RAM 中),除非您已经内存不足,在这种情况下,更好的压缩可能会有所帮助由于存储系统受到冲击,因此减少了 IO,因为操作系统缓冲区和缓存中的任何数据库数据都将被压缩。唯一可以确定的方法是在测试环境中使用您正在考虑的每种选项组合对类似生产数据的实际工作负载进行基准测试。 但是,“除非您已经内存不足”在这里很重要:一旦您处于这种状态,压缩可能会做的最好的事情就是将您的性能从非常缓慢提高到非常缓慢。 上述情况的一个例外是任何需要读取太大而无法放入任何实际内存量的数据集的查询,在这种情况下,您可能会看到显着的改进:需要读取查询所需的所有数据无论如何,来自 IO 子系统,压缩可能对此有所帮助。我们需要更多地了解您的应用程序的数据和工作负载,以提供有关这是否会对您的情况产生明显影响的具体提示,即使这样,唯一可以确定的方法还是再次运行基准测试。 注意:并非所有数据库都是这种情况。例如,使用 MS SQL Server 的压缩选项,RAM 中页面中的数据被压缩,就像它们在磁盘上一样。这减少了缓冲池对 RAM 的使用,但每次读取每页时都会消耗 CPU 时间。当数据在 RAM 中解压缩时,解压缩 CPU 命中只会在从磁盘加载数据时发生,因此不会影响后续读取,直到该页面/块/文档被驱逐,因为它最近没有被引用。 能不能瞎... 最简洁的答案是不。 一个更长的答案是:nnnnnoooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooo 少开玩笑:在生产数据库和/或应用程序上盲目地做任何事情都是危险的,因此它绝不是推荐的做法。如果您重视您的用户和您自己的理智,请永远不要这样做。无论您多么信任任何建议的建议来源,都始终首先在开发/测试环境中进行测试。当您进行测试并没有发现任何不良影响时,您可能会觉得这是在浪费时间,但是在您的职业生涯中的某个时刻,您会非常高兴地进行了尽职调查,并让自己免于生产应用程序中令人讨厌和尴尬的事件!如果您不以这种方式进行尽职调查,您可能会遇到计划外的简历更新事件。
https://docs.mongodb.com/manual/core/wiredtiger/#memory-use上的文档说收集数据仅在磁盘上压缩,因此在内存中未压缩。索引将其前缀压缩保留在内存中,但不是块级压缩。
因此,更改压缩算法不会直接减少保持读取繁重工作负载高效所需的内存量(即确保其工作集保留在 RAM 中),除非您已经内存不足,在这种情况下,更好的压缩可能会有所帮助由于存储系统受到冲击,因此减少了 IO,因为操作系统缓冲区和缓存中的任何数据库数据都将被压缩。唯一可以确定的方法是在测试环境中使用您正在考虑的每种选项组合对类似生产数据的实际工作负载进行基准测试。
但是,“除非您已经内存不足”在这里很重要:一旦您处于这种状态,压缩可能会做的最好的事情就是将您的性能从非常缓慢提高到非常缓慢。
上述情况的一个例外是任何需要读取太大而无法放入任何实际内存量的数据集的查询,在这种情况下,您可能会看到显着的改进:需要读取查询所需的所有数据无论如何,来自 IO 子系统,压缩可能对此有所帮助。我们需要更多地了解您的应用程序的数据和工作负载,以提供有关这是否会对您的情况产生明显影响的具体提示,即使这样,唯一可以确定的方法还是再次运行基准测试。
注意:并非所有数据库都是这种情况。例如,使用 MS SQL Server 的压缩选项,RAM 中页面中的数据被压缩,就像它们在磁盘上一样。这减少了缓冲池对 RAM 的使用,但每次读取每页时都会消耗 CPU 时间。当数据在 RAM 中解压缩时,解压缩 CPU 命中只会在从磁盘加载数据时发生,因此不会影响后续读取,直到该页面/块/文档被驱逐,因为它最近没有被引用。
最简洁的答案是不。
一个更长的答案是:nnnnnoooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooooo
少开玩笑:在生产数据库和/或应用程序上盲目地做任何事情都是危险的,因此它绝不是推荐的做法。如果您重视您的用户和您自己的理智,请永远不要这样做。无论您多么信任任何建议的建议来源,都始终首先在开发/测试环境中进行测试。当您进行测试并没有发现任何不良影响时,您可能会觉得这是在浪费时间,但是在您的职业生涯中的某个时刻,您会非常高兴地进行了尽职调查,并让自己免于生产应用程序中令人讨厌和尴尬的事件!如果您不以这种方式进行尽职调查,您可能会遇到计划外的简历更新事件。