我们在 RHEL 8.6 Linux 服务器上使用了 15TB 的磁盘。这些磁盘用于 HDFS 文件系统。与其他 4TB 或 8TB 磁盘相比,我们注意到数据节点的日志性能有所下降。为了了解使用 4TB 或 8TB 磁盘的 Hadoop 集群与使用 16TB 磁盘的较新 Hadoop 集群之间的区别,我们进行了许多检查。在 Google 上搜索后,我们发现磁盘上创建的文件系统是 ext4。我想知道 ext4 能否用于 15TB 这样的大磁盘。所以我的问题是:ext4 是否支持 15TB 这样的超大磁盘?或者在 15TB 的磁盘上使用 XFS 是否更好?
ext4 文件系统的最大支持大小是 1000TB。所以不存在这个问题。
如果在 HDFS 中保存大量小文件和目录,这对 ext4 来说可能是一个挑战,而 XFS 在这方面表现更好。我所说的“大量”是指超过 1000 万个文件和 10 万个目录(分布在两层或多层上)。
如果您在 HDFS 中保存大文件(大于 1GB),XFS 也是更好的选择。
在我看来,4/8 TB 和 16TB 之间的许多区别在于您可以在更大的磁盘上创建/存储更多文件并达到某种瓶颈。