AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 787939
Accepted
H.Jamil
H.Jamil
Asked: 2024-12-11 12:23:37 +0800 CST2024-12-11 12:23:37 +0800 CST 2024-12-11 12:23:37 +0800 CST

是否存在基于 FUSE 的缓存解决方案,可以从远程文件系统进行选择性预取?

  • 772

我正在使用安装在 的远程并行文件系统 (CephFS) /mnt/mycephfs/,其中包含大量小文件 (200 GB+)。我的应用程序在这些文件上进行训练,但/mnt/mycephfs/由于并行文件系统争用和网络延迟,直接从中读取速度很慢。

我正在寻找一个基于 FUSE 的解决方案,它可以:1. 获取应用程序所需的文件列表。2. 预取并缓存这些文件到本地挂载点(例如/mnt/prefetched/),而无需复制整个远程存储(因为我的本地 RAM 和磁盘空间有限)。

期望的行为:• 如果文件(例如/mnt/mycephfs/file)已缓存在/mnt/prefetched/file,则应从缓存中提供该文件。• 如果未缓存,解决方案应获取该文件(以及预取列表中的其他文件),将其缓存在/mnt/prefetched/,然后从那里提供该文件。

是否存在现有的工具或框架支持使用 FUSE 进行这种选择性缓存和预取?

cache
  • 1 1 个回答
  • 38 Views

1 个回答

  • Voted
  1. Best Answer
    Marcus Müller
    2024-12-12T02:45:09+08:002024-12-12T02:45:09+08:00

    我认为您不需要任何 FUSE(而且无论如何,FUSE 对高性能操作没有什么帮助)。

    相反,只需将您的 Ceph 存储挂载在 /a 上,将您知道需要的路径复制到本地目录 /b,然后使用 OverlayFS,以 /a 作为后备存储,以 b/ 作为上层。

    仅当文件不在 b/ 中时,读取才会转到 a/。

    但在此之前,我会检查是否仅使用常规 Ceph 挂载并读取所有相关文件(但不将它们复制到任何地方,例如,只是执行cat /a/filename > /dev/null)就足以让内核透明地将其内容缓冲在 RAM 中。

    • 0

相关问题

  • free -m:由于缓存/缓冲区而减少了可用大小

  • 内核:FS-Cache:检测到重复的 cookie - 这是什么?

  • 如何在没有 IPv6 的情况下运行清漆缓存?

  • 缓冲区和缓存有什么区别?

  • 进程是否可以分配高速缓存,以便内核在必要时可以占用它?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve