Tim Asked: 2020-03-25 15:28:36 +0800 CST2020-03-25 15:28:36 +0800 CST 2020-03-25 15:28:36 +0800 CST 分布式文件系统是否跨节点对文件进行分区? 772 在 HDFS 中,文件被分割成块,这些块分布在多个节点上。 我想知道在以下分布式文件系统中是否也是如此:NFS、Andrew 文件系统(以及 Bayou、Coda,如果你碰巧知道的话)? 谢谢。 nfs distributed-filesystems 2 个回答 Voted kofemann 2020-03-26T01:27:30+08:002020-03-26T01:27:30+08:00 NFS 协议有多个版本 - v2、v3、v4.0、v4.1 和 v4.2。在4.1 版本中, NFS 协议定义了并行 nfs,称为pNFS,它定义了如何通过 NFS 协议访问分布式数据。Linux 内核 3.9 和更新版本中提供了支持 pNFS 的版本。 pNFS 描述了客户端如何访问分布式数据的各种方式: NFSv4.1 布局:客户端/数据服务器使用 NFS4.1 协议 块布局 SCSI/iSCSI/FC https://tools.ietf.org/rfc/rfc5663.txt 对象布局 - T10 https://tools.ietf.org/rfc/rfc5662.txt 尽管 pNFS 允许(并期望)一个文件在多个数据服务器上进行条带化(a-la raid-0),但所有现有的file layout服务器实现都分布文件集并将单个文件的整个块保存在同一台服务器上。这当然会随着时间而改变。 我希望基于块布局的 linux 服务器支持文件条带化,但我不是这方面的专家。您最好查看Redhat 管理员指南 注意HDFS NFS 网关使用 NFSv3 并通过单个节点代理所有(分布式)数据。 Best Answer John Mahowald 2020-03-26T05:29:27+08:002020-03-26T05:29:27+08:00 其中,只有 HDFS 从一开始就被设计为跨多个节点拆分数据块,以及用于这样做的磁盘格式。戴尔的 HPC 小组将这些并行文件系统称为。或者我想你可以说向外扩展。 其余的是远程访问存储阵列的网络协议。这是 1980 年代的分布式挑战,如何将工作站连接到部门的中央存储?虽然 AFS、Coda 和 Bayou 有各种复制方案,但它们是在服务器或卷级别,而不是块或范围级别。 pNFS 是 NFS 的可选插件,允许通过任意数据协议进行块访问。这种抽象允许对存储数据块的位置进行一些巧妙的工程。但与HDFS的设计大相径庭。 请注意,Ceph、Lustre 或 HDFS 可以通过 NFS 提供文件访问。实现跨多个节点的对象存储的并行文件系统有时会为需要文件共享的客户端提供最小公分母。更多的抽象层......
NFS 协议有多个版本 - v2、v3、v4.0、v4.1 和 v4.2。在4.1 版本中, NFS 协议定义了并行 nfs,称为pNFS,它定义了如何通过 NFS 协议访问分布式数据。Linux 内核 3.9 和更新版本中提供了支持 pNFS 的版本。
pNFS 描述了客户端如何访问分布式数据的各种方式:
尽管 pNFS 允许(并期望)一个文件在多个数据服务器上进行条带化(a-la raid-0),但所有现有的
file layout
服务器实现都分布文件集并将单个文件的整个块保存在同一台服务器上。这当然会随着时间而改变。我希望基于块布局的 linux 服务器支持文件条带化,但我不是这方面的专家。您最好查看Redhat 管理员指南
注意HDFS NFS 网关使用 NFSv3 并通过单个节点代理所有(分布式)数据。
其中,只有 HDFS 从一开始就被设计为跨多个节点拆分数据块,以及用于这样做的磁盘格式。戴尔的 HPC 小组将这些并行文件系统称为。或者我想你可以说向外扩展。
其余的是远程访问存储阵列的网络协议。这是 1980 年代的分布式挑战,如何将工作站连接到部门的中央存储?虽然 AFS、Coda 和 Bayou 有各种复制方案,但它们是在服务器或卷级别,而不是块或范围级别。
pNFS 是 NFS 的可选插件,允许通过任意数据协议进行块访问。这种抽象允许对存储数据块的位置进行一些巧妙的工程。但与HDFS的设计大相径庭。
请注意,Ceph、Lustre 或 HDFS 可以通过 NFS 提供文件访问。实现跨多个节点的对象存储的并行文件系统有时会为需要文件共享的客户端提供最小公分母。更多的抽象层......