AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 689636
Accepted
rutchkiwi
rutchkiwi
Asked: 2022-02-08 02:19:52 +0800 CST2022-02-08 02:19:52 +0800 CST 2022-02-08 02:19:52 +0800 CST

读取所有输入后关闭 FIFO 的所有读取器?

  • 772

读取所有输入后,如何关闭 FIFO 的所有读取器?似乎我只能关闭其中一个,这使我的程序无法完成。

这是一个有效的示例程序(测试将其放入文件中):

set -euo pipefail

rm -f todo.pipe
mkfifo todo.pipe

rm -f output.pipe
mkfifo output.pipe

cat todo.pipe | \
    while read line && echo hej $line; do :; done \
            > output.pipe &

echo "adam\n bertil\n carl" > todo.pipe &

cat < output.pipe

正如预期的那样,输出是:

❯ ./test.zsh
hej adam
hej bertil
hej carl
❯

但是,如果我添加另一个线程来处理这些事情todo.pipe,事情就会永远挂起:

set -euo pipefail

rm -f todo.pipe
mkfifo todo.pipe

rm -f output.pipe
mkfifo output.pipe

cat todo.pipe | \
    while read line && echo hej $line; do :; done \
            > output.pipe &
# The below 3 lines is all that's changed
cat todo.pipe | \
    while read line && echo hej $line; do :; done \
            > output.pipe &

echo "adam\n bertil\n carl" > todo.pipe &

cat < output.pipe

现在,它的打印结果和以前一样,但它永远不会返回。为什么?我怎样才能解决这个问题?

我的怀疑是第二个“工作线程”现在获得了 EOF 或类似的东西,但感觉就像我在这里遗漏了一些基本的东西。

pipe fifo
  • 1 1 个回答
  • 92 Views

1 个回答

  • Voted
  1. Best Answer
    Stéphane Chazelas
    2022-02-08T21:30:38+08:002022-02-08T21:30:38+08:00

    重要的是要意识到以读取模式打开(而不是读取)FIFO 会阻塞块,直到其他进程也以写入模式打开它(反之亦然),并且一旦发生这种情况,管道就会被实例化。

    然后,更多进程可以通过在该管道处于活动状态时打开 fifo 来连接到该管道。

    一旦没有从任何进程中打开的 fd,该管道就会被销毁,之后我们回到方形,只要再次打开 fifo 进行读取和写入,就可以实例化另一个管道。

    在:

    [0]
    [1] cat todo.pipe |
        [2] while read line && echo hej $line; do :; done \
                > output.pipe &
    # The below 3 lines is all that's changed
    [3] cat todo.pipe |
        [4] while read line && echo hej $line; do :; done \
                > output.pipe &
    
    [5] echo "adam\n bertil\n carl" > todo.pipe &
    
    [6] cat < output.pipe
    

    主 shell 进程将同时产生 4 个进程,每个进程独立且并行地过着自己的生活,第一个运行第一个管道,第二个运行第二个管道,第三个运行echo,第四个运行cat(打开后output.pipe)。

    管道也将产生一个额外的进程来运行cat todo.pipe,而原始进程将同时进行while循环。

    因此,您将有 6 个(如果您算上等待最后一个的主 shell 进程,则为 7 个cat)大部分同时启动。我在上面用[1]..标记了它们[6]。

    如何安排它们取决于系统的进程调度程序。运行外部命令cat需要时间,shell 本身执行的操作可能会首先发生。

    所有的 2、4、5、6 都是从在 shell 中打开一个 fifo 文件开始的。2 和 4 开放output.pipe用于书写和6阅读。它们很快就会相互解锁,并且将实例化管道。

    5 将挂起它的只写打开todo.pipe等待至少一个cat进程以只读方式打开它。

    然后 1 和 3 将为此而竞争。运行cat涉及执行/bin/cat,其中涉及擦除进程内存,从磁盘加载可执行文件,共享库,动态链接,执行动态链接,并最终运行其中的代码,其中cat将解析其命令行并最终打开该 fifo 文件。

    只要 1、3 之一打开 fifo(假设这里是 1),5 就会被解锁。1 将继续对该 fd 执行 aread()操作,该 fd 将挂起,因为管道中还没有任何内容。

    5 可能是此时要安排的一个进程。那是运行 shell 的内置echo命令,因此它只会执行 awrite("adam...)并终止,这涉及将其 fd 关闭为output.pipe.

    然后 1read()现在可以继续,cat按大块读取,并将整个小输出吞噬read()并完成,这涉及将其 fd 关闭到管道的写入端。

    如果此时 3 还没有打开 fifo,则管道被销​​毁,当 3 最终打开 fifo 时,它将挂起,直到其他东西以写入模式打开 fifo 并实例化一个新的不相关管道发生在这里。

    如果不是因为output.pipe首先打开的事实,那么该 fifo 也可能会遇到同样的问题。

    现在,即使你成功了:

    {
       cat | while...done &
       cat | while...done
    } < todo.pipe > output.pipe &
    echo ... > todo.pipe &
    cat < output.pipe
    

    Wheretodo.pipe仅打开一次以供阅读,因此两者都cat共享 fd(对于 相同output.pipe),避免了此类问题,这可能不会很有用。

    第cat一个read()会吞噬整个echo's 的输出,而不会给另一个留下任何东西。任何即使您将其替换echo为输出大于cat' 读取缓冲区的东西,从而使两个cats 都有机会各自抓住一些片段,但每个片段最终都会以看起来像随机方式的方式切割。

    如果您删除scat |以让reads 直接从管道中读取,则由于内置程序一次读取一个字节,情况会更糟read,因此您最终会喜欢两个相互竞争read的 s 依次读取一个字节。

    这种方法工作的唯一方法是使用cat并确保馈送进程的速度足够慢,以至于在下一个任务被馈送之前todo.pipe,第一个任务已经被其中一个读取,一次馈送一个待办事项cat通过一次write()系统调用,任务不大于 4KiB 也不大于cat的读取缓冲区大小。

    最好让一个进程读取管道并将任务分派给工作人员,例如使用 GNUxargs -P或 GNU之类的东西parallel。

    • 3

相关问题

  • 如何在 bash 中使用“sudo”调用时将“yes”或“y”通过管道传输到程序中?

  • 将句柄传递给标准输入下行管道

  • 如何通过管道传输 bash 命令并保持 Ctrl+C 正常工作?

  • 为什么管道`mysql`到'tail'会改变输出格式?

  • `tee` 和 `bash` 进程替换顺序

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve