AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / coding / Perguntas / 78512531
Accepted
Max
Max
Asked: 2024-05-21 22:20:40 +0800 CST2024-05-21 22:20:40 +0800 CST 2024-05-21 22:20:40 +0800 CST

Contando o número de linhas e caracteres em um arquivo separados por um caractere específico

  • 772

Eu tenho um arquivo de texto com o seguinte formato:

>1
AGGGTCACGTAATGCTGATCCAGTCTTGTTTTTATTTTCATTCATGTTCCCGCTCTTGCT
TTGATTCCGACTTCTAACGTTTAACCTGTGATCAGACGTTTCACTGCTCCATATTTTACG
TGTGCCTGCCGGTCATCTTGGGTAGAGTTAGCATATCC
>2
GTTTGGAAAACCTTGAGAACTTGGCTGAGCAACTAGGAGATAGGCGTATAAAGACTATCG
GCTTTGTTCTCGAAAAAATTCAATCAATTTTCGAGCATTCTTATCGCAGAATTGTTGAAT
>3
ACTCATG

Onde o número real de linhas após cada ">" pode ter milhares ou até milhões. Neste exemplo, digamos (eu não as contei) que existem 180 letras (e 3 linhas) após >1, 2 linhas e 100 caracteres após >2, e 1 linha de 7 caracteres após >3.

Eu gostaria que a saída fosse algo como:

>1
3 180
>2
2 100
>3
1 7

(o formato não é crítico desde que haja duas informações - o número de linhas e o número de caracteres).

Tenho usado um script python para dividir esses arquivos pelo ">" e depois contar o número de linhas e caracteres entre cada >. No entanto, os arquivos são muito grandes e o script python demora muito para ser executado. Existe uma maneira simples de fazer isso usando o awk ou algo mais na linha de comando do Linux?

awk
  • 5 5 respostas
  • 41 Views

5 respostas

  • Voted
  1. Luuk
    2024-05-21T23:24:58+08:002024-05-21T23:24:58+08:00
    awk 'function doit(){ print y, length(x); y=0; x="" }
         /^>/{ if(x!=""){ doit() }; s=substr($0,2)}
         !/^>/{ x=x $0; y++ }END{ doit() }'  file1.txt
    
    • Em seguida, a função doit()imprime os resultados. (e redefine xe y)
    • /^>quando uma linha começa com >update s (NOTA: este valor nunca é usado!?)
    • !/^>/ quando uma linha não começa com '>' adicione essa linha à variável xe incremente y.

    teste:

    $ cat file
    >1
    AGGGTCACGTAATGCTGATCCAGTCTTGTTTTTATTTTCATTCATGTTCCCGCTCTTGCT
    TTGATTCCGACTTCTAACGTTTAACCTGTGATCAGACGTTTCACTGCTCCATATTTTACG
    TGTGCCTGCCGGTCATCTTGGGTAGAGTTAGCATATCC
    >2
    GTTTGGAAAACCTTGAGAACTTGGCTGAGCAACTAGGAGATAGGCGTATAAAGACTATCG
    GCTTTGTTCTCGAAAAAATTCAATCAATTTTCGAGCATTCTTATCGCAGAATTGTTGAAT
    
    $ awk 'function doit(){ print y, length(x); y=0; x="" }/^>/{ if(x!=""){ doit() }; s=substr($0,2)}!/^>/{ x=x $0; y++ }END{ doit() }'  file
    3 158
    3 120
    
    • 2
  2. markp-fuso
    2024-05-21T23:32:44+08:002024-05-21T23:32:44+08:00

    Uma awkideia:

    awk '
    function print_sums() {
        if (linecnt>0)                     # if linecnt > 0 then ...
           print linecnt,charcnt           # print current counters
        linecnt = charcnt = 0              # reset counters
    }
    /^>/ { print_sums()                    # print counters for previous block
           print                           # print current line
           next                            # skip to next line of input
         }    
         { linecnt++                       # increment line counter
           charcnt += length($0)           # increment character counter
         }
    END  { print_sums() }                  # print counters for last block
    ' input.dat 
    

    Isso gera:

    >1
    3 158
    >2
    2 120
    >3
    1 7
    
    • 1
  3. Best Answer
    Fravadona
    2024-05-21T23:52:14+08:002024-05-21T23:52:14+08:00

    Aqui está outra awkideia que lida com sequências vazias, linhas vazias e comentários em arquivos FASTA:

    awk '
        /^;/ { next }
        /^>/ {
            if (substr(seq,1,1) == "\n")
                 print gsub(/\n/,"",seq)-1, length(seq);
            seq = "\n";
            print;
            next
        }
        { seq = seq $0 "\n" }
        END {
            if (substr(seq,1,1) == "\n")
                print gsub(/\n/,"",seq)-1, length(seq);
        }
    ' file.fasta
    
    >1
    3 158
    >2
    2 120
    >3
    1 7
    
    • 1
  4. Dominique
    2024-05-21T22:35:38+08:002024-05-21T22:35:38+08:00

    Esta não é de longe uma resposta completa, mas usando grep -nvocê pode mostrar o número da linha onde o >caractere aparece.

    A partir daí, você pode começar a usar awkpara realizar cálculos sobre esses números:

    Prompt>grep -n ">" file1.txt
    1:>1
    3:>2
    5:>3
    
    Prompt>grep -n ">" file1.txt | awk -F ":" '{print $1}'
    1
    3
    5
    

    ...

    • 0
  5. Ed Morton
    2024-05-22T07:48:20+08:002024-05-22T07:48:20+08:00

    Usando qualquer awk:

    $ cat tst.awk
    /^>/ { if (NR>1) prt(); key=$0; rec=""; next }
    { rec = rec $0 ORS }
    END { prt() }
    
    function prt() {
        print key ORS gsub(ORS,"&",rec), length(rec)
    }
    

    $ awk -f tst.awk file
    >1
    3 161
    >2
    2 122
    >3
    1 8
    

    O texto acima pressupõe que você deseja que novas linhas sejam incluídas na contagem; caso contrário, é um ajuste trivial, esperançosamente óbvio, não contá-las.

    • 0

relate perguntas

  • awk está imprimindo linhas duas vezes quando apenas um comando de impressão é usado

  • Analisando valores de coluna

  • Limitação de data do Gnuplot (2038?)

  • Comando Awk para obter linhas exclusivas em um arquivo com múltiplas colunas

  • Substitua a última metade de cada linha de um arquivo pela última metade da linha correspondente em outro arquivo [fechado]

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Vue 3: Erro na criação "Identificador esperado, mas encontrado 'import'" [duplicado]

    • 1 respostas
  • Marko Smith

    Por que esse código Java simples e pequeno roda 30x mais rápido em todas as JVMs Graal, mas não em nenhuma JVM Oracle?

    • 1 respostas
  • Marko Smith

    Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores?

    • 1 respostas
  • Marko Smith

    Como faço para corrigir um erro MODULE_NOT_FOUND para um módulo que não importei manualmente?

    • 6 respostas
  • Marko Smith

    `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso?

    • 3 respostas
  • Marko Smith

    Quando devo usar um std::inplace_vector em vez de um std::vector?

    • 3 respostas
  • Marko Smith

    Um programa vazio que não faz nada em C++ precisa de um heap de 204 KB, mas não em C

    • 1 respostas
  • Marko Smith

    PowerBI atualmente quebrado com BigQuery: problema de driver Simba com atualização do Windows

    • 2 respostas
  • Marko Smith

    AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos

    • 1 respostas
  • Marko Smith

    Estou tentando fazer o jogo pacman usando apenas o módulo Turtle Random e Math

    • 1 respostas
  • Martin Hope
    Aleksandr Dubinsky Por que a correspondência de padrões com o switch no InetAddress falha com 'não cobre todos os valores de entrada possíveis'? 2024-12-23 06:56:21 +0800 CST
  • Martin Hope
    Phillip Borge Por que esse código Java simples e pequeno roda 30x mais rápido em todas as JVMs Graal, mas não em nenhuma JVM Oracle? 2024-12-12 20:46:46 +0800 CST
  • Martin Hope
    Oodini Qual é o propósito de `enum class` com um tipo subjacente especificado, mas sem enumeradores? 2024-12-12 06:27:11 +0800 CST
  • Martin Hope
    sleeptightAnsiC `(expression, lvalue) = rvalue` é uma atribuição válida em C ou C++? Por que alguns compiladores aceitam/rejeitam isso? 2024-11-09 07:18:53 +0800 CST
  • Martin Hope
    The Mad Gamer Quando devo usar um std::inplace_vector em vez de um std::vector? 2024-10-29 23:01:00 +0800 CST
  • Martin Hope
    Chad Feller O ponto e vírgula agora é opcional em condicionais bash com [[ .. ]] na versão 5.2? 2024-10-21 05:50:33 +0800 CST
  • Martin Hope
    Wrench Por que um traço duplo (--) faz com que esta cláusula MariaDB seja avaliada como verdadeira? 2024-05-05 13:37:20 +0800 CST
  • Martin Hope
    Waket Zheng Por que `dict(id=1, **{'id': 2})` às vezes gera `KeyError: 'id'` em vez de um TypeError? 2024-05-04 14:19:19 +0800 CST
  • Martin Hope
    user924 AdMob: MobileAds.initialize() - "java.lang.Integer não pode ser convertido em java.lang.String" para alguns dispositivos 2024-03-20 03:12:31 +0800 CST
  • Martin Hope
    MarkB Por que o GCC gera código que executa condicionalmente uma implementação SIMD? 2024-02-17 06:17:14 +0800 CST

Hot tag

python javascript c++ c# java typescript sql reactjs html

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve