AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 955309
Accepted
aopal
aopal
Asked: 2019-02-23 08:46:34 +0800 CST2019-02-23 08:46:34 +0800 CST 2019-02-23 08:46:34 +0800 CST

当我映射到已安装存储桶中的文件时,它是如何/何时下载的?

  • 772

我正在使用一个映射大型资源文件的库。我正在考虑将该资源文件存储在 gcloud 存储桶中并使用 GCSFuse 使该文件可用于映射,而不是构建我自己的解决方案来手动下载该文件。

出于性能原因,当我通过 gcsfuse 映射到存储桶中的文件时,我想知道何时实际下载文件:如果在我映射时它是一次全部下载,那是理想的。如果在我通过 mmapped 指针访问文件的不同部分时下载了块,我想由于多次调用存储桶,这会变慢,如果是这种情况,我可能会使用另一种方法。

gcsfuse
  • 1 1 个回答
  • 209 Views

1 个回答

  • Voted
  1. Best Answer
    John Mahowald
    2019-02-24T06:31:49+08:002019-02-24T06:31:49+08:00

    这是一个特定于实现的细节,因此请务必阅读文档。从 6ab0a79 开始的 README.md 有这样的说法:

    下载对象内容

    在幕后,当一个新打开的文件第一次被修改时,gcsfuse 会从 GCS 下载整个支持对象的内容。内容存储在本地临时文件中,其位置由标志--temp-dir 控制。稍后,当文件关闭或 fsync'd 时,gcsfuse 将本地文件的内容写回 GCS 作为新的对象生成。

    未修改的文件根据需要逐部分读取。gcsfuse 使用启发式方法来检测文件何时被顺序读取,并且在这种情况下会向 GCS 发出更少、更大的读取请求。

    这样做的结果是 gcsfuse 在读取或写入整个大文件时相对有效,但对于较大文件中的少量随机写入不会特别快,并且在较小程度上对于小型随机读取也是如此。将大文件复制到 GCS 时的性能与 gsutil 相当(有关测试说明,请参见问题 #22)。如上所述,由于在本地临时文件中暂存数据会产生一些开销。

    请注意,新文件和修改后的文件也完全暂存在本地临时目录中,直到由于关闭或 fsync 而将它们写出到 GCS。因此,用户在写入大文件时必须确保有足够的可用空间来处理分段内容。

    请注意有关下载整个事物的写入、完整对象写入更有效以及语义化.md 中令人惊讶的行为的一点。跳过 fuse 文件系统层,使用 GCS SDK 直接读取和写入整个数据块作为存储 blob 会更有效。但这对这个应用程序使用存储的方式来说是一个重大变化。

    • 0

相关问题

  • GCSFuse - Fusermount:安装点不为空

  • gcsfuse 是否将所有数据同步到它所安装的系统?

  • 将大文件存储在 Google Cloud Storage 中,无需本地副本

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve