AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / unix / Perguntas / 718613
Accepted
cipper
cipper
Asked: 2022-09-26 01:23:31 +0800 CST2022-09-26 01:23:31 +0800 CST 2022-09-26 01:23:31 +0800 CST

extrair links de páginas da web que exigem interação

  • 772

Estou tentando descobrir como, a partir de um shell linux, extrair os links de uma página da Web em que os links aparecem somente após clicar em um botão na página da Web, por exemplo, os "Ativos" no github. Se eu baixar a página com wget, ela não conterá nenhum link dos ativos, ou seja,

wget -O /dev/stdout "https://github.com/yuzu-emu/yuzu-mainline/releases/latest" 2>/dev/null | grep ".AppImage"

não retorna o link. De maneira mais geral, várias páginas da Web contêm elementos que são mostrados somente após a interação; como se obtém o html com esses elementos revelados?

linux shell
  • 1 1 respostas
  • 23 Views

1 respostas

  • Voted
  1. Best Answer
    larsks
    2022-09-26T07:40:43+08:002022-09-26T07:40:43+08:00

    Para seu exemplo específico , você seria mais bem servido usando a API do github, em vez de tentar raspar a página da web. Por exemplo:

    curl https://api.github.com/repos/yuzu-emu/yuzu-mainline/releases/tags/mainline-0-1180
    

    Isso retornará um blog JSON com informações sobre a versão (incluindo uma lista de ativos) que você pode analisar usando jq(ou seu idioma favorito com suporte a JSON).


    De maneira mais geral, se você deseja acessar o conteúdo de uma página que é atualizada dinamicamente via Javascript após o carregamento da página, você não poderá fazer isso facilmente a partir do shell.

    Você normalmente precisa de algo como Playwright ou Selenium que permita o controle programático de navegadores, e essas ferramentas geralmente exigem que você trabalhe com uma linguagem mais capaz (Javascript, Python, etc).

    • 1

relate perguntas

  • o que grep -v grep faz

  • Necessidade de algumas chamadas de sistema

  • astyle não altera a formatação do arquivo de origem

  • Como salvar um caminho com ~ em uma variável?

  • Passe o sistema de arquivos raiz por rótulo para o kernel do Linux

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    Possível firmware ausente /lib/firmware/i915/* para o módulo i915

    • 3 respostas
  • Marko Smith

    Falha ao buscar o repositório de backports jessie

    • 4 respostas
  • Marko Smith

    Como exportar uma chave privada GPG e uma chave pública para um arquivo

    • 4 respostas
  • Marko Smith

    Como podemos executar um comando armazenado em uma variável?

    • 5 respostas
  • Marko Smith

    Como configurar o systemd-resolved e o systemd-networkd para usar o servidor DNS local para resolver domínios locais e o servidor DNS remoto para domínios remotos?

    • 3 respostas
  • Marko Smith

    apt-get update error no Kali Linux após a atualização do dist [duplicado]

    • 2 respostas
  • Marko Smith

    Como ver as últimas linhas x do log de serviço systemctl

    • 5 respostas
  • Marko Smith

    Nano - pule para o final do arquivo

    • 8 respostas
  • Marko Smith

    erro grub: você precisa carregar o kernel primeiro

    • 4 respostas
  • Marko Smith

    Como baixar o pacote não instalá-lo com o comando apt-get?

    • 7 respostas
  • Martin Hope
    user12345 Falha ao buscar o repositório de backports jessie 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl Por que a maioria dos exemplos do systemd contém WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky Como exportar uma chave privada GPG e uma chave pública para um arquivo 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll status systemctl mostra: "Estado: degradado" 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim Como podemos executar um comando armazenado em uma variável? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S Por que /dev/null é um arquivo? Por que sua função não é implementada como um programa simples? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 Como ver as últimas linhas x do log de serviço systemctl 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - pule para o final do arquivo 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla Por que verdadeiro e falso são tão grandes? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis Substitua a string em um arquivo de texto enorme (70 GB), uma linha 2017-12-30 06:58:33 +0800 CST

Hot tag

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve