AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / server / 问题 / 924480
Accepted
NoChance
NoChance
Asked: 2018-08-02 08:17:25 +0800 CST2018-08-02 08:17:25 +0800 CST 2018-08-02 08:17:25 +0800 CST

使用多线程复制文件可以提高性能 - 为什么?

  • 772

将文件从一个位置复制到另一个位置时,最常用的资源是设备上的内存(缓冲区)和 I/O。但是,当使用多线程复制实用程序(如 Robocopy)时,如果您指定大量线程,则可以提高性能。

我的问题是:为什么多线程会显着增加大量文件的复制处理时间?无论如何,CPU 需要做的工作并不多。谢谢。

copying
  • 3 3 个回答
  • 5013 Views

3 个回答

  • Voted
  1. Best Answer
    mx1up
    2018-08-02T09:28:08+08:002018-08-02T09:28:08+08:00

    每个文件必须有一些握手开销(尤其是在复制到网络共享时),当您对许多小文件使用多线程复制时,这些开销会减少,因为您同时进行握手。我怀疑您会看到大文件的优势较小。该基准似乎支持该假设: https ://www.demartek.com/Reports_Free/RMWTUG_2011-03_Robocopy_multithread_Testing_Dennis_Martin_a.pdf

    握手开销的示例可能是检查目标文件是否已经存在、检查权限、..

    • 2
  2. Harry Johnston
    2018-08-02T15:14:49+08:002018-08-02T15:14:49+08:00

    即使在本地磁盘上,也存在一些每个文件的开销,我认为这主要是由于打开文件的开销:要打开现有文件,Windows 必须解析路径,在目录的每一级中找到相应的条目树,在 MFT 中查找文件,并检查 ACL。要创建新文件,Windows 必须解析路径,在目录树的每一级中找到相应的条目,检查目录 ACL,并将文件添加到 MFT 和顶级目录条目中。

    如果你只有一个线程,你必须打开源文件,打开目标文件,复制数据,关闭文件,然后才能进入下一个线程。这意味着部分时间让 I/O 子系统处于空闲状态。如果您有多个线程,您可以在复制数据的同时打开文件;理想情况下,您要让 I/O 系统一直处于忙碌状态。

    单个文件的开销并不是那么明显,但如果你有很多小文件,它会加起来,节省的时间可能很重要。

    • 1
  3. Klaus
    2021-06-23T08:20:07+08:002021-06-23T08:20:07+08:00

    使用单线程时,您有以下模式:

    1: read - write - read - write ..
    

    因此,您将 50% 的时间用于从源磁盘读取数据,并将 50% 的时间用于写入目标磁盘。

    假设您有两个磁盘,您可以使用两个线程和这种模式:

    1: read - write - read  - write ..
    2:        read  - write - read  - write ...
    

    因此交错请求并使两个磁盘的利用率为 100%

    • 1

相关问题

  • 跨易断连接的大文件复制工具

  • win2003如何巧妙地复制文件夹?

  • 强大的文件复制实用程序

  • 哪个更快,为什么:传输几个小文件或几个大文件?

  • 我如何从 linux cli 中从 windows 机器上获取文本文件?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve