AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 1008255
Accepted
Tim
Tim
Asked: 2020-03-25 15:28:36 +0800 CST2020-03-25 15:28:36 +0800 CST 2020-03-25 15:28:36 +0800 CST

分布式文件系统是否跨节点对文件进行分区?

  • 772

在 HDFS 中,文件被分割成块,这些块分布在多个节点上。

我想知道在以下分布式文件系统中是否也是如此:NFS、Andrew 文件系统(以及 Bayou、Coda,如果你碰巧知道的话)?

谢谢。

nfs distributed-filesystems
  • 2 2 个回答
  • 111 Views

2 个回答

  • Voted
  1. kofemann
    2020-03-26T01:27:30+08:002020-03-26T01:27:30+08:00

    NFS 协议有多个版本 - v2、v3、v4.0、v4.1 和 v4.2。在4.1 版本中, NFS 协议定义了并行 nfs,称为pNFS,它定义了如何通过 NFS 协议访问分布式数据。Linux 内核 3.9 和更新版本中提供了支持 pNFS 的版本。

    pNFS 描述了客户端如何访问分布式数据的各种方式:

    • NFSv4.1 布局:客户端/数据服务器使用 NFS4.1 协议
    • 块布局 SCSI/iSCSI/FC https://tools.ietf.org/rfc/rfc5663.txt
    • 对象布局 - T10 https://tools.ietf.org/rfc/rfc5662.txt

    尽管 pNFS 允许(并期望)一个文件在多个数据服务器上进行条带化(a-la raid-0),但所有现有的file layout服务器实现都分布文件集并将单个文件的整个块保存在同一台服务器上。这当然会随着时间而改变。

    我希望基于块布局的 linux 服务器支持文件条带化,但我不是这方面的专家。您最好查看Redhat 管理员指南

    注意HDFS NFS 网关使用 NFSv3 并通过单个节点代理所有(分布式)数据。

    • 2
  2. Best Answer
    John Mahowald
    2020-03-26T05:29:27+08:002020-03-26T05:29:27+08:00

    其中,只有 HDFS 从一开始就被设计为跨多个节点拆分数据块,以及用于这样做的磁盘格式。戴尔的 HPC 小组将这些并行文件系统称为。或者我想你可以说向外扩展。

    其余的是远程访问存储阵列的网络协议。这是 1980 年代的分布式挑战,如何将工作站连接到部门的中央存储?虽然 AFS、Coda 和 Bayou 有各种复制方案,但它们是在服务器或卷级别,而不是块或范围级别。

    pNFS 是 NFS 的可选插件,允许通过任意数据协议进行块访问。这种抽象允许对存储数据块的位置进行一些巧妙的工程。但与HDFS的设计大相径庭。

    请注意,Ceph、Lustre 或 HDFS 可以通过 NFS 提供文件访问。实现跨多个节点的对象存储的并行文件系统有时会为需要文件共享的客户端提供最小公分母。更多的抽象层......

    • 2

相关问题

  • 在 NFS 文件服务器上获取不规则时间戳

  • 过时的 NFS 句柄

  • sh 脚本:如果未安装远程文件系统,如何安装它?

  • 分析 Linux NFS 服务器性能

  • NFS 缓存导致间歇性滞后

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve