AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 716234
Accepted
merlin
merlin
Asked: 2015-08-24 23:09:00 +0800 CST2015-08-24 23:09:00 +0800 CST 2015-08-24 23:09:00 +0800 CST

如何为 GlusterFS 分区目录系统?

  • 772

我们在 Ubuntu 14.04 机器上有 3 个文件夹,每个文件夹包含 250K 张图片,每个文件夹大小为 2KB-30KB,预计每个目录会增长到 1M 文件。

在尝试将应用程序扩展到多台服务器时,我们正在研究 Glusterfs 以实现共享存储。由于 ext4 上 250K 文件不是问题,因此 glusterfs 似乎有问题。试图复制文件会使机器完全崩溃。

我希望将文件划分为 2 个级别的目录:

mkdir -p {000..255}/{000..255}

/000/000/filename
/001/000/filename
/001/001/filename
...

这听起来像是一个可行的好方法吗?整个结构稍后将包含数百万个文件。这会让 glusterfs 在生产中可靠且性能良好,托管数百万个文件吗?

glusterfs
  • 1 1 个回答
  • 1030 Views

1 个回答

  • Voted
  1. Best Answer
    Gene
    2015-08-25T00:33:21+08:002015-08-25T00:33:21+08:00

    使用 GlusterFS 存储和访问大量非常小的文件是许多实现面临的困难,而且您似乎已经走上了解决问题的好道路:将文件分成单独的目录。

    您可以实施这样的解决方案。只需创建一堆目录,为每个目录中可以放置的文件数量选择一个限制,并希望您不会用完放置文件的地方。在您的示例中,您正在创建 65k+ 目录,因此这不会很快成为问题。

    另一种选择是根据创建文件的日期创建目录。例如,如果文件cust_logo_xad.png是今天创建的,它将存储在这里:

    /gluster/files/2015/08/24/cust_logo_xad.png
    

    如果您托管不同实体(客户、部门等)的数据,您可以根据所有权分离文件,为实体分配某种唯一 ID。例如:

    /gluster/files/ry/ry7eg4k/cust_logo_xad.png
    

    除此之外,最好查看GlusterFS 文档以调整存储集群以托管小文件。 至少要确保:

    1. GlusterFS 存储服务器上的文件系统有足够的空闲 inode 可用(mkfs选项)
    2. GlusterFS 存储服务器上的驱动器可以处理大量 IOP。
    3. 您为任务使用适当的文件系统(ext4 或 xfs)
    4. 您的应用程序/员工不会尝试频繁扫描包含大量小文件的目录。

    如果可以(如果还没有),最好创建一个数据库作为文件的索引,而不是一直扫描(例如ls)或搜索(例如find)文件。

    • 1

相关问题

  • 如何管理进程与 CPU 内核的关联?

  • gluster IOPS 性能

  • 分布式文件系统

  • 使用 Gluster 作为主/配置文件目录服务器的陷阱?

  • 对于不断增长的网站,推荐的 GlusterFS 配置是什么?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve