AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 520916
Accepted
LL3
LL3
Asked: 2019-05-25 08:49:13 +0800 CST2019-05-25 08:49:13 +0800 CST 2019-05-25 08:49:13 +0800 CST

如何用子字符串索引的字典中的值替换子字符串

  • 772

我需要解析一个大文件,替换可能出现的子字符串,这些子字符串是可能出现的与正则表达式匹配的字符串的一部分,其值取自数组,其索引是相关子字符串。

该文件是一个普通的文本文件,即有换行符分隔的行,每行可以有任何介于 ASCII 32 和 ASCII 126 之间的字符,基本上是任何可打印字符,除了 C 语言环境中的控制字符。

精确匹配有趣字符串的扩展正则表达式是\<prefix-[[:alnum:]]{2,}\>,而有问题的子字符串是破折号之后的任何内容。

使用样本(合成)输入,例如:

# arbitrary number of comment lines of any length
:prefix-foo ; arbitrary strings
# arbitrary number of comment lines of any length foo -prefix-foo-
-bar -foo-xx arbitrary string -yet-more strings prefix-foo-bar MORE strings
YET more --STRINGS prefix-bar -prefix-foo-STRingS--
even MORE strings ; prefix -foo -yy--more-and-prefix-bar-and-more

并有一个样本字典,如:

dictionary["foo"] = 2
dictionary["bar"] = 15

所需的输出是:

# arbitrary number of comment lines of any length
:prefix-2 ; arbitrary strings
# arbitrary number of comment lines of any length foo -prefix-2-
-bar -foo-xx arbitrary string -yet-more strings prefix-2-bar MORE strings
YET more --STRINGS prefix-15 -prefix-2-STRingS--
even MORE strings ; prefix -foo -yy--more-and-prefix-15-and-more

我认为这将是最好的工具,特别是因为它具有通过替换单个字段awk来重写整个记录的本机能力。因此,我想出了以下脚本:$0$1...$n

#!/usr/bin/gawk -f

BEGIN {
    # first fill in dictionary
    while ("cmd-providing-dictionary" | getline) {
            dictionary[$1] = $2
    }
    close("cmd-providing-dictionary")
    # pattern that matches interesting fields
    field_regex = "\\<prefix-[[:alnum:]]{2,}\\>"
    # I don't care default splitting of line
    FS = OFS = ""
}
{
    # split line in fields as per regex
    if (patsplit($0, fields, field_regex, seps)) {
        FS = OFS = "-"
        # for each field, split it on dash character,
        # modify its substring as per dictionary,
        # and finally rebuild it
        for (fn in fields) {
            $0 = fields[fn]
            if ($2 in dictionary) {
                    $2 = dictionary[$2]
                    fields[fn] = $0
            }
        }
        FS = OFS = ""
        # clear whole record and rebuild it with
        # fields computed above + original separators
        $0 = ""
        for (fn in fields)
            $fn = seps[fn - 1] fields[fn]
        $(fn+1) = seps[fn]
    }
    print
}

尽管我不擅长使用 Awk,但上面的内容似乎足够快地完成了正确的工作,但看起来有点笨拙,感觉就像我在强迫awk以不自然的方式做事。我想知道是否有更好的方法来获得相同的结果。或者也是一个更好的工具。

我的第一个想法是使用gsub()or进行简单的正则表达式替换,gensub()但我发现没有(干净的)方法可以使用正则表达式的子表达式(将是\<prefix-([[:alnum:]]{2,})\>)作为查找数组并在替换字符串中使用该值的键。另一方面,遍历所有字典键以始终应用所有gsubs 并不是真正可行的,因为字典非常大,因此效率非常低。

awk gawk
  • 1 1 个回答
  • 217 Views

1 个回答

  • Voted
  1. Best Answer
    meuh
    2019-05-26T10:25:06+08:002019-05-26T10:25:06+08:00

    只是为了比较,这是一个非专家 perl 版本,它通过能够从替换中调用函数而获得很多。好像你可以说

    gsub(regexp, call_function(matched_part), variable_to_change)
    

    其中函数返回替换字符串。

    #!/usr/bin/perl
    use strict;
    my %d;
    sub fix{
      my ($prefix,$str) = @_;
      $str = $d{$str} if defined $d{$str};
      return "$prefix$str";
    }
    open(D,"dictionary") or die;
    while(<D>){
      $d{$1} = $2 if $_ =~ m/^([^ ]+) ([^ \n]+)/;
    }
    close(D);
    while(<>){
      $_ =~ s/\b(prefix-)([[:alnum:]]{2,})\b/fix($1,$2)/ge;
      print;
    }
    

    在这里,substitute 命令全局$_ =~ s/regex/fix($1,$2)/ge更改当前行$_(g),并执行 (e) 替换字符串fix(),其中$1和$2是正则表达式的捕获组(在 内())。

    • 1

相关问题

  • 根据第一个逗号之前的匹配删除重复行数

  • 在另一个文件之后逐行追加行

  • 如何删除两行之间的单行

  • 重新排列字母并比较两个单词

  • 多行文件洗牌

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve