AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 501993
Accepted
Johnny Tam
Johnny Tam
Asked: 2019-02-21 18:10:29 +0800 CST2019-02-21 18:10:29 +0800 CST 2019-02-21 18:10:29 +0800 CST

会不会出现这样的情况:多个CPU同时读取同一个文件,减慢每个CPU的读取速度?

  • 772

我正在运行cat以单独file_X与大量文件组合file_1,例如file_100000000000.

由于数量众多,我将作业分配到一个有 64 个 CPU 的节点上,以便在每个 CPU 上并行运行。每个作业都在一个子文件夹中运行,因此有 64 个子文件夹。

令我惊讶的是,整体速度比预期的要慢得多。

由于我使用的shell脚本只是将每个作业指向file_X位于64个子文件夹的父目录中的同一个文件,我想知道如果多个CPU同时读取同一个文件,会减慢每个CPU的读取速度吗?

parallelism
  • 1 1 个回答
  • 675 Views

1 个回答

  • Voted
  1. Best Answer
    Ed Grimm
    2019-02-21T20:16:18+08:002019-02-21T20:16:18+08:00

    是和不是。

    无论有多少处理器在执行此操作,文件的实际读取都应该以相同的速度发生。

    但是,根据操作系统及其配置,可能会发生文件锁定。虽然多个进程可以同时拥有一个读锁,但获取锁和释放该锁必须发生在共享互斥块中。如果您的系统正在执行这些类型的锁定,则处理器必须排队以访问文件,然后必须排队以声明他们对文件缺乏进一步的兴趣。

    根据存储 file_X 的文件系统和与之组合的各种文件以及挂载该文件系统的选项,每次 cat 读取 file_X 时,它的访问时间可能会更新。如果是这种情况,很可能会在每次更新之前对 file_X inode 进行写锁定,然后将其释放。

    速度降低的另一个可能原因是所有 64 个作业都在并行写入文件,这些文件必然位于磁盘上的不同点上。除非您使用的是固态驱动器 (SSD),否则可能需要在磁盘上大量移动写入头。这些文件位于 64 个不同的目录中,因此除了正在创建的文件之外,还有 64 个位置需要更新。

    在 shell 脚本中执行所有这些活动意味着每个文件副本都是分叉执行的。Fork 被视为一个相当昂贵的系统调用,但在具有共享库的系统上,与 exec 系列系统调用的成本相比,它相形见绌,因为​​这需要搜索每个共享库,并加载所有共享库图书馆。这是另一个可能在文件上放置读锁的地方,具体取决于它所在的 unix 以及它的配置可能是什么。

    • 2

相关问题

  • '| 的多核等效项 排序 | 唯一的-c | 排序 -n' 命令

  • 如何获取 xargs“并行处理器”的索引?

  • 结合并行和顺序命令

  • 并行运行两个 git 命令

  • 管道作为并行命令

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve