AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 804099
Accepted
Alex Dumitru
Alex Dumitru
Asked: 2016-09-20 14:31:33 +0800 CST2016-09-20 14:31:33 +0800 CST 2016-09-20 14:31:33 +0800 CST

GlusterFS 替代文件上传网站

  • 772

我有几个文件上传网站,文件从数百千字节到几千兆字节不等。

目前,我在几台服务器上的分布式复制 Gluster 卷中拥有所有文件。

Gluster 最大的问题是速度。

例如,我有一个包含约 80,000 张图像的文件夹,每个图像平均 500KB,我花了几个小时来更改图像的所有者。

目前一切都相当不错,但我担心有更多的文件以及处理它们所需的时间。

我有什么选择?我对 Gluster 做错了吗?

这是我的 gluster 配置:

performance.cache-size: 1GB
performance.cache-refresh-timeout: 60
performance.cache-max-file-size: 100KB
cluster.choose-local: true
performance.readdir-ahead: on
performance.io-thread-count: 16
client.event-threads: 3
server.event-threads: 3
filesystems storage distributed-filesystems glusterfs
  • 2 2 个回答
  • 799 Views

2 个回答

  • Voted
  1. Tero Kilkanen
    2017-06-09T04:04:16+08:002017-06-09T04:04:16+08:00

    我lsyncd在类似的情况下使用过程序,我需要同步可能服务器的内容。在内部,它用于rsync在服务器之间同步文件。

    但是,缺点是您需要直接上传到单个服务器,并将文件从该服务器同步到所有服务器。

    • 3
  2. Best Answer
    shodanshok
    2017-06-09T07:27:26+08:002017-06-09T07:27:26+08:00

    任何分布式文件系统在对大量文件执行批处理操作时都会受到影响:毕竟,它必须将所有更改传播到远程机器,与仅本地主机相比,延迟会飙升。这在执行元数据更改操作时尤其明显:不接触真实数据,它们在本地非常快;但是,远程复制将完全受延迟限制。

    您基本上有两种解决方案:

    • 使用文件共享方法,将文件上传到特定的盒子并通过 NFS 导出。虽然 NFS 不是灵丹妙药(也不是速度怪物),但当与客户端缓存结合使用时,它可以充分发挥作用
    • 使用异步文件复制系统作为lsyncd(或基于rsync)
    • 1

相关问题

  • 我如何知道 AIX 中磁盘上的文件系统是什么?

  • 控制 UNIX 目录内容用户组所有权

  • 在 Ubuntu 上将 Windows 磁盘分区与 Linux 分区合并

  • 在 VMPlayer 上 Windows 和 Linux 之间共享目录的最佳方式

  • md5sum 重复为同一台机器上的同一文件提供不同的校验和

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve