AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 424051
Accepted
WashichawbachaW
WashichawbachaW
Asked: 2018-02-14 22:28:53 +0800 CST2018-02-14 22:28:53 +0800 CST 2018-02-14 22:28:53 +0800 CST

如何仅打印 1 个文件名和匹配的模式?

  • 772

我想将文件名/s 与匹配模式一起打印,但即使模式匹配在文件中多次出现,也只能打印一次。

例如,我有一个模式列表;list_of_patterns.txt我需要找到文件的目录是/path/to/files/*.

list_of_patterns.txt:

A
B
C
D
E

/路径/到/文件/

/file1
/file2
/file3

假设有多次这样/file1的模式:A

/文件1:

A
4234234
A
435435435
353535
A

(同样适用于有多个模式匹配的其他文件。)

我有这个 grep 命令正在运行,但是每次模式匹配时它都会打印文件名。

grep -Hof list_of_patterns.txt /path/to/files/*

输出:

/file1:A
/file1:A
/file1:A
/file2:B
/file2:B
/file3:C
/file3:B
... and so on.

我知道 sort 可以在 grep 命令之后通过管道执行此操作,grep -Hof list_of_patterns.txt /path/to/files/* | sort -u但它仅在 grep 完成时执行。在现实世界中,我list_of_patterns.txt的内部有数百种模式。有时需要一个小时才能完成任务。

有没有更好的方法来加速这个过程?

更新:一些文件有超过一百次匹配模式。例如/file4,模式出现A900 次。这就是为什么需要grep一个小时才能完成的原因,因为它会打印每次出现的模式匹配以及文件名。

例如输出:

/file4:A
/file4:A
/file4:A
/file4:A
/file4:A
/file4:A
/file4:A
/file4:A
... and so on til' it reach 900 occurrences.

我只希望它只打印一次。

例如期望的输出:

/file4:A
/file1:A
/file2:B
/file3:A
/file4:B
text-processing performance
  • 1 1 个回答
  • 230 Views

1 个回答

  • Voted
  1. Best Answer
    RomanPerekhrest
    2018-02-14T23:21:59+08:002018-02-14T23:21:59+08:00

    有没有更好的方法来加速这个过程?

    是的,它叫做 GNU parallel:

    parallel -j0 -k "grep -Hof list_of_patterns.txt {} | sort -u" ::: /path/to/files/*
    
    • j N- 职位数量。并行运行多个N作业。0是尽可能多的意思。
    • k( --keep-order) - 保持输出顺序与输入顺序相同
    • ::: arguments- 使用arguments命令行作为输入源而不是标准输入(标准输入)
    • 3

相关问题

  • grep 从 $START 到 $END 的一组行并且在 $MIDDLE 中包含匹配项

  • 重新排列字母并比较两个单词

  • 在awk中的两行之间减去相同的列

  • 多行文件洗牌

  • 如何更改字符大小写(从小到大,反之亦然)?同时[重复]

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    ssh 无法协商:“找不到匹配的密码”,正在拒绝 cbc

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    如何卸载内核模块“nvidia-drm”?

    • 13 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Wong Jia Hau ssh-add 返回:“连接代理时出错:没有这样的文件或目录” 2018-08-24 23:28:13 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST
  • Martin Hope
    Bagas Sanjaya 为什么 Linux 使用 LF 作为换行符? 2017-12-20 05:48:21 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve