AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / unix / Perguntas / 553674
Accepted
Akhil
Akhil
Asked: 2019-11-23 11:24:02 +0800 CST2019-11-23 11:24:02 +0800 CST 2019-11-23 11:24:02 +0800 CST

Como escolher um arquivo aleatório de uma pasta sem repetição usando o bash?

  • 772

Eu posso selecionar um arquivo aleatório usando este comando

find ./ -type f | shuf -n 1

Mas está mostrando o mesmo arquivo algumas vezes.
É possível parar de escolher arquivos duplicados?
Existe algum outro utilitário para esta tarefa?

Eu tenho cerca de 50 mil arquivos txt em uma pasta que pode ter subpastas recursivas e quero escolher um arquivo aleatório para vê-lo e não quero vê-lo novamente + há novos arquivos adicionados à pasta todos os dias ...

bash find
  • 4 4 respostas
  • 9135 Views

4 respostas

  • Voted
  1. Kusalananda
    2019-11-23T13:15:04+08:002019-11-23T13:15:04+08:00

    O problema com seu código é que você está gerando novamente a lista toda vez para escolher um novo nome de caminho. Isso potencialmente forneceria os mesmos nomes de caminho repetidamente, desde que você mantivesse os mesmos arquivos nos diretórios sobre os quais você gera a lista.

    A resposta simples para o caso em que você ocasionalmente executa seu script é mover os arquivos do processo (ou excluí-los). Dessa forma, na próxima vez que você executar o script e gerar novamente a lista aleatória, os arquivos já processados ​​não farão parte da lista.

    Por exemplo, supondo que todos os arquivos estejam localizados dentro ou abaixo do diretório $HOME/newfiles, o seguinte selecionaria um arquivo e o moveria para $HOME/oldfiles:

    myfile=$( find "$HOME/newfiles" -type f -print0 | shuf -z -n 1 )
    
    # use "$myfile" here
    
    # later... move "$myfile" to somewhere else:
    mv "$myfile" "$HOME/oldfiles"
    

    O restante desta resposta é referente ao caso em que você deseja fazer um loop sobre nomes de caminhos aleatórios em uma e mesma invocação do script.


    Supondo que seus arquivos e diretórios não contenham novas linhas incorporadas, isso mostra o que Jeff Schaller sugeriu em um comentário :

    find ./ -type f | shuf |
    while IFS= read -r pathname; do
        # do work with "$pathname"
    done
    

    Isso lhe daria nomes de caminho aleatórios de arquivos regulares dentro ou abaixo do diretório atual, se, como mencionei, nenhum dos nomes de caminho na hierarquia contivesse novas linhas (nesse caso shuf, embaralharia esses nomes).

    Uma variante segura seria embaralhar a lista com uma lista terminada em nulo:

    readarray -t -d '' pathnames < <( find . -type f -print0 | shuf -z )
    for pathname in "${pathnames[@]}"; do
        # use "$pathname" here
    done
    

    Este exemplo (e o próximo) é adaptado de https://unix.stackexchange.com/a/543188/116858


    No zshshell, você poderia fazer

    for pathname in ./**/*(.DNnoe['REPLY=$RANDOM'])
    do
       # use $pathname here
    done
    

    Isso funciona de maneira semelhante ao código acima com a diferença de que, como está usando um shell glob e nenhuma ferramenta de filtragem de texto orientada por linha, as novas linhas nos nomes dos arquivos não seriam um problema (e você não precisa passar listas terminadas em nul ).

    O legal de fazer isso zshé que você não precisa chamar nenhuma ferramenta externa.

    • 3
  2. Jason K Lai
    2019-11-23T13:19:41+08:002019-11-23T13:19:41+08:00

    Se estou entendendo a pergunta corretamente, uma coisa que o OP pode fazer é embaralhar a lista em um arquivo (ou variável, se estiver em um BASHscript) e extrair elementos dessa lista. Dessa forma, o OP não chamará o mesmo arquivo duas vezes até o final da lista completa.

    Por exemplo,

    find ./ -type f | shuf > shuffled.txt
    

    para criar a lista em um arquivo e chamá-la por meio de algo como,

    cat shuffled.txt | head -1 | tail -1
    cat shuffled.txt | head -2 | tail -1
    cat shuffled.txt | head -3 | tail -1
    ...
    

    Ou uma linha equivalente com sedou awk.

    Como alternativa, se tudo isso estiver sendo colocado em um BASHscript, também é possível fazer algo assim:

    for filename in $(find ./ -type f | shuf)
    do
        echo ${filename}
        ... do something to ${filename}
    done
    
    • 2
  3. bu5hman
    2019-11-24T00:16:57+08:002019-11-24T00:16:57+08:00

    Que tal trabalhar apenas com o inode....

    [[ ! -f seen ]] && touch seen && ls -i seen > seen                       
    file=$(find . -type f -printf %i"\n" | sort | join -j 1 -v 1 - seen | shuf -n 1)
    echo $file >> seen
    sort -o seen seen
    find -inum $file -exec cat {} \; #or whatever you want to do with the file
    

    Não importa se o seenarquivo está no seu caminho de pesquisa e, se estiver, basta adicionar o seu próprio arquivo inodepara ser excluído.

    Para uma única sessão de inspeção, basta percorrer a lista

    [[ ! -f seen ]] && touch seen && ls -i seen > seen
    sort -o seen seen
    list=$(mktemp)                        
    find . -type f -printf %i"\n" | sort | join -j 1 -v 1 - seen | shuf -o $list
    while read file; do
        echo $file >> seen
        find -inum $file -exec sh -c 'echo -e "$1 contains ....\n"; cat "$1"; echo -e "\n\n"' sh {} \;
        sleep 1
    done < $list
    

    Nota: A suposição é que os arquivos não são excluídos. Se eles forem e inodes forem reutilizados, eles terão que ser excluídos doseen

    Depois de descobrir que sedcopia e reescreve arquivos e altera o inodepara o seenarquivo, essa abordagem fica mais complicada .... uma solução para o problema de exclusão pode ser usar edem vez de sed.

    Para excluir o arquivotouch wood

    d="touch wood"; find . -iname "$d" -printf %i"\n%p\n" | while read i ; do read f; rm "$f" ;printf "%s\n" "/$i/d" wq | ed -s seen; done;
    
    • 1
  4. Best Answer
    Akhil
    2019-11-23T21:14:25+08:002019-11-23T21:14:25+08:00
    1. @usandofind
    find ./ -type f | shuf |
    while IFS= read -r pathname; do
        if ! grep -xF "$pathname" ~/shuffled.txt; then
          # do work with "$pathname"
          echo "$pathname" >> ~/shuffled.txt
        fi
    done
    

    aqui ele manterá o controle de arquivos embaralhados.

    1. @usandomlocate

    toda vez que usar findleva mais tempo... em vez disso, é melhor usar o utilitário mlocate aqui...

    #!/bin/bash
    set -e
    sudo updatedb -U ./ -o mlocate.db && locate -d mlocate.db '*' | shuf |
    while IFS= read -r pathname; do
      if [ -f "$pathname" ]; then
        if ! grep -xF "$pathname" ~/shuffled.txt; then
          # do work with "$pathname"
          echo "$pathname" >> ~/shuffled.txt
        fi
      fi
    done
    

    desta forma updatedbprocura novos ficheiros apenas em vez de voltar a verificar todos os ficheiros

    • 0

relate perguntas

  • exportar variáveis ​​​​env programaticamente, via stdout do comando [duplicado]

  • Problema estranho ao passar variáveis ​​do arquivo de texto

  • Enquanto a linha lê mantendo os espaços de escape?

  • ordem de substituição de processos `te` e `bash`

  • Execute um script muito lento até que seja bem-sucedido

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Possível firmware ausente /lib/firmware/i915/* para o módulo i915

    • 3 respostas
  • Marko Smith

    Falha ao buscar o repositório de backports jessie

    • 4 respostas
  • Marko Smith

    Como exportar uma chave privada GPG e uma chave pública para um arquivo

    • 4 respostas
  • Marko Smith

    Como podemos executar um comando armazenado em uma variável?

    • 5 respostas
  • Marko Smith

    Como configurar o systemd-resolved e o systemd-networkd para usar o servidor DNS local para resolver domínios locais e o servidor DNS remoto para domínios remotos?

    • 3 respostas
  • Marko Smith

    apt-get update error no Kali Linux após a atualização do dist [duplicado]

    • 2 respostas
  • Marko Smith

    Como ver as últimas linhas x do log de serviço systemctl

    • 5 respostas
  • Marko Smith

    Nano - pule para o final do arquivo

    • 8 respostas
  • Marko Smith

    erro grub: você precisa carregar o kernel primeiro

    • 4 respostas
  • Marko Smith

    Como baixar o pacote não instalá-lo com o comando apt-get?

    • 7 respostas
  • Martin Hope
    user12345 Falha ao buscar o repositório de backports jessie 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl Por que a maioria dos exemplos do systemd contém WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky Como exportar uma chave privada GPG e uma chave pública para um arquivo 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll status systemctl mostra: "Estado: degradado" 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim Como podemos executar um comando armazenado em uma variável? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S Por que /dev/null é um arquivo? Por que sua função não é implementada como um programa simples? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 Como ver as últimas linhas x do log de serviço systemctl 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - pule para o final do arquivo 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla Por que verdadeiro e falso são tão grandes? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis Substitua a string em um arquivo de texto enorme (70 GB), uma linha 2017-12-30 06:58:33 +0800 CST

Hot tag

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve