AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 1041892
Accepted
elliotp
elliotp
Asked: 2020-11-10 12:27:54 +0800 CST2020-11-10 12:27:54 +0800 CST 2020-11-10 12:27:54 +0800 CST

HPC SSD 环境中 ZFS RAIDz1/2 的开销是多少?

  • 772

示例硬件/主机:

  • 现代 64 核 CPU,128GB 内存
  • 8 个美光 Pro 15.36TB u.2 SSD
  • 每个设备通过专用 Oculink 连接 SSD(无背板或 PCIe 共享)
  • Ubuntu 20.04

用例:

  • 数百台主机的备份服务器。备份是通过增量 rsync 执行的,首先是来自远程主机的 rsync,然后是本地副本(使用 cp)以创建快照。- - - 数以百万计的小文件(电子邮件、html 文件等)是典型的备份。
  • 在任何时候,服务器都可以处理 50 个传入的 rsync(cpu 轻加密算法和无压缩)
  • 冗余虽然是有利的,但不是必需的。最多单个驱动器故障。
  • 文件轮换所需的极端本地 i/o
  • rsync 和硬链接差异复制('rsnapshot')的使用不能改变,这是已部署并投入生产的备份软件所要求的 - 所以 BTRFS 快照是不可能的。

我提出了两种可能的解决方案:

  1. 分片我的数据存储,没有冗余。BTRRFS 中基于每个驱动器的格式,并使用内联 LZO 压缩进行安装。
  • 优点:简单轻量,无raid管理开销
  • 优点:独立故障,在磁盘故障时只有一小部分备份丢失,可以快速重新建立
  • 优势:获得的最大总容量
  • 缺点:容量管理的复杂性——没有一个大容量意味着战略性地平衡特定磁盘上的数据以充分利用它们
  • 缺点:磁盘故障确实会丢失数据
  1. 一个大卷跨所有磁盘的 ZFS RAIDz1/2
  • 优点:1或2个磁盘故障冗余
  • 优点:易于管理,所有内容都集中在一个巨大的体积中 - 空间充足。
  • 缺点:损失 1 或 2 个磁盘的容量

问题:与选项 1 相比,是否存在显着的 ZFS RAID 管理开销会降低阵列的性能?- 在他设计的每个级别以最大限度地提高操作系统和 SSD 之间的磁盘吞吐量的配置中,以每秒 10 千兆比特为单位,ZFS RAID 管理的开销是否会导致性能显着下降和/或 CPU 或内存过载?

谢谢你。

ssd zfs raid5 btrfs hpc
  • 2 2 个回答
  • 445 Views

2 个回答

  • Voted
  1. Best Answer
    ewwhite
    2020-11-11T05:11:57+08:002020-11-11T05:11:57+08:00

    使用 ZFS。使用 LZ4 压缩。适当地调整您的 ZFS,因为默认值对于那么多 NVMe 驱动器来说并不理想。

    使用您的实际工作负载进行测试和基准测试。我们无法告诉您它将如何执行。

    RAIDZ 开销不是这个问题。

    CPU 的微基准测试会自动为您的给定平台选择最快的。

    查看ZFS 模块参数:

    在此处输入图像描述

    • 3
  2. shodanshok
    2020-11-10T13:42:06+08:002020-11-10T13:42:06+08:00

    由于 BTRFS RAID5 不被认为是 100% 稳定的,所以我不建议将它用于备份机器。此外,对于这些大型 SSD,我会使用 RAID6 而不是 RAID5。

    所以我建议使用带有 XFS 的 MD RAID6,或者作为 Ubuntu 机器,使用带有 lz4 压缩的 ZFS RAIDZ2。

    编辑:我根本不考虑使用单驱动器 BTRFS 文件系统作为有效的备份方法。在此配置中,任何单个驱动器故障都将导致(部分)数据丢失。我强烈建议您使用带有 LZ4 压缩的 RAIDZ2,或者为了获得最佳性能,使用带有 XFS 的 MD RAID6(但会丢失压缩和校验和)。

    • 2

相关问题

  • SSD TRIM 的硬件 RAID 控制器支持

  • 用于存档目的的 SSD?

  • 在 SSD 上重新分区是否会有效缩短设备的使用寿命?

  • 最适合与 Linux / SSD 一起使用的日志结构文件系统?

  • 在 RAID 0 中使用 2 个固态驱动器是否可靠?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve