主页 / unix / 问题 / 439810
Accepted
Killroy2018
Asked: 2018-04-25 09:41:42 +0800 CST

如何 bash 多线程？

  • 772
#!/bin/bash
while IFS="," read  ip port; do
    ruby test.rb "http://$ip:$port/"&
    ruby test.rb "https://$ip:$port/";
 done <test1.txt

我将如何做这个多线程？如果我做更多的行除以 & 它只运行相同的命令与相同的 ip&port 更多次，我希望它使用下一个 ip&port 运行，也不相同文件看起来像 192.168.1.2,8089，

bash multithreading

3 个回答

  1. 我会这样做：

    parallel --colsep , ruby test.rb {3}://{1}:{2}/ :::: ipport.txt ::: http https

    它将默认为每个 cpu 核心运行一项作业。这可以-j20针对 20 个并行作业进行调整。

    与 - 解决方案相反，xargs您可以对输出进行后处理：输出是序列化的，因此您永远不会看到来自两个作业混合的输出。

    GNU Parallel 是一个通用的并行化器，可以轻松地在同一台机器上或在您可以通过 ssh 访问的多台机器上并行运行作业。

    如果您想在 4 个 CPU 上运行 32 个不同的作业，那么并行化的直接方法是在每个 CPU 上运行 8 个作业：

    简单的调度

    GNU Parallel 会在完成后生成一个新进程 - 保持 CPU 处于活动状态，从而节省时间：

    GNU 并行调度

    安装

    出于安全原因，建议您使用包管理器进行安装。但是如果你不能这样做，那么你可以使用这个 10 秒的安装。

    10秒安装会尝试做完整安装；如果失败，个人安装；如果失败，则进行最小安装。

    $ (wget -O - pi.dk/3 || lynx -source pi.dk/3 || curl pi.dk/3/ || \
   fetch -o - http://pi.dk/3 ) > install.sh
$ sha1sum install.sh | grep 883c667e01eed62f975ad28b6d50e22a
12345678 883c667e 01eed62f 975ad28b 6d50e22a
$ md5sum install.sh | grep cc21b4c943fd03e93ae1ae49e28573c0
cc21b4c9 43fd03e9 3ae1ae49 e28573c0
$ sha512sum install.sh | grep da012ec113b49a54e705f86d51e784ebced224fdf
79945d9d 250b42a4 2067bb00 99da012e c113b49a 54e705f8 6d51e784 ebced224
fdff3f52 ca588d64 e75f6033 61bd543f d631f592 2f87ceb2 ab034149 6df84a35
$ bash install.sh

    有关其他安装选项，请参阅http://git.savannah.gnu.org/cgit/parallel.git/tree/README

    学到更多

    下载备忘单：http ://www.gnu.org/s/parallel/parallel_cheat.pdf

    查看更多示例：http ://www.gnu.org/software/parallel/man.html

    观看介绍视频：https ://www.youtube.com/playlist?list=PL284C9FF2488BC6D1

    浏览教程：http ://www.gnu.org/software/parallel/parallel_tutorial.html

    注册电子邮件列表以获得支持：https ://lists.gnu.org/mailman/listinfo/parallel

    • 5
  2. Best Answer
    tr ',' ':' <test1.txt | xargs -P 4 -I XX ruby test.rb "http://XX/"

    假设test1.txt文件包含如下行

    127.0.0.1,80
127.0.0.1,8080

    然后tr将其更改为

    127.0.0.1:80
127.0.0.1:8080

    并且xargs将一次取一行并将XX给定的命令字符串替换为该行的内容并运行该命令。-P 4我们最多可以同时运行四个进程。

    如果您的文件在每一行都有尾随逗号，请先将其删除：

    sed 's/,$//' test1.txt | tr ',' ':' | xargs ...as above...

    甚至

    sed -e 's/,$//' -e 'y/,/:/' test1.txt | xargs ...as above...
    • 4

  3. gnu-parallel并且xargs是更好的选择，但是为了演示如何使用 while 循环进行操作，我看到了两个主要选项：

    同时做所有事情：

    while IFS="," read  ip port; do
    ruby test.rb "http://$ip:$port/" <&- &
done <test1.txt

    一次限制为 2 个：

    while IFS="," read  ip port; do
    ruby test.rb "http://$ip:$port/" <&- &
    IFS=, read ip port || break
    ruby test.rb "http://$ip:$port/" <&- &
    wait
done <test1.txt

    第二个不太理想，因为您将在完成一个流程和完成第二个流程之间存在死区时间，并且随着您添加更多流程，该问题会变得更糟。您可以尝试在 shell 中修复它，但既然xargs已经parallel存在，那就没有多大意义了。

    • 0

相关问题