AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 209003
Accepted
Milovan Zogovic
Milovan Zogovic
Asked: 2018-06-08 05:04:13 +0800 CST2018-06-08 05:04:13 +0800 CST 2018-06-08 05:04:13 +0800 CST

Qual banco de dados é adequado para servir grandes métricas de séries temporais com rollups? [fechado]

  • 772
Fechado . Esta pergunta é baseada em opinião . No momento não está aceitando respostas.

Quer melhorar esta questão? Atualize a pergunta para que ela possa ser respondida com fatos e citações editando este post .

Fechado há 4 anos .

Melhore esta pergunta

Eu tenho uma grande tabela mysql contendo métricas diárias para um grande número de assuntos. Segue o esquema hipotético:

day DATE
subject_id INT
metric1
metric2
metric3

O que eu quero é encontrar os principais X assuntos (por métrica específica) para um intervalo de datas arbitrário. Algo assim:

SELECT subject_id, SUM(metric1) 
FROM t1 
WHERE day BETWEEN '2018-05-01' AND '2018-05-15'
GROUP BY subject_id
ORDER BY SUM(metric1) DESC
LIMIT 10

Dado o fato de que a tabela contém 10 milhões de assuntos e as métricas diárias dos últimos 365 dias, ela contém aproximadamente 3,6 bilhões de linhas. Não importa como eu indexe/particione, ainda haverá cenários que farão a consulta ser executada por muito tempo (por exemplo, usuário selecionando o período de 365 dias). O objetivo é que as consultas sejam concluídas em poucos segundos para que possam ser usadas para alimentar os painéis em tempo real.

Eu estava tentando fazer isso funcionar com o Amazon Aurora (MySql), mas não consegui otimizá-lo para executar quase tão rápido quanto necessário.

Parece que as melhores opções são BigQuery e Athena. Ainda assim, eu queria saber se existem alternativas especialmente adaptadas para esse caso de uso específico?

Os valores são atualizados, se sim, com que frequência?

Essa é uma boa pergunta. Temos muitos conjuntos de dados e, para a grande maioria deles, os dados são apenas anexados. No entanto, alguns conjuntos de dados maiores são atualizados 2 a 3 vezes ao longo dos primeiros 60 dias. Apenas 5% dos dados são realmente modificados, enquanto 95% dos dados permanecem os mesmos do dia da inserção.

google-bigquery aws-aurora
  • 1 1 respostas
  • 210 Views

1 respostas

  • Voted
  1. Best Answer
    Zerodf
    2018-06-08T18:40:09+08:002018-06-08T18:40:09+08:00

    Amazon Athena seria uma boa escolha para esta aplicação. No entanto, as consultas podem não ser concluídas em alguns segundos. Portanto, a solução pode ser usar o Athena para gerar agregados e, em seguida, carregar os resultados em um banco de dados relacional para alimentar seu painel, o AWS Glue pode ajudar com esse pipeline de dados.

    Para gerar agregados no Athena:

    Você criaria um bucket do S3:s3://somebucket/

    Em seguida, você criaria tags formatadas como suas partições:

    s3://somebucket/date_partition=YYYY-MM-DD/

    O objetivo é que as consultas sejam concluídas em poucos segundos para que possam ser usadas para alimentar os painéis em tempo real.

    Com esse requisito, eu provavelmente pré-calcularia agregados para intervalos relevantes para cientistas de dados e usuários de negócios (último ano à direita, último mês à direita, último ano à direita, ect) no Athena e, em seguida, gravá-los em um banco de dados relacional. Na AWS, o Glue é útil para esse tipo de pipeline de dados). Se os dados históricos não forem atualizados com frequência (ou não), esse processo pode ser executado como um processo em lote diário (como sugere @Michael Kutz).

    Ver:

    Documentação da AWS » Amazon Athena » Guia do usuário » Trabalhar com dados de origem » Particionar dados

    1,1 bilhão de corridas de táxi no Amazon Athena

    • 2

relate perguntas

  • Idiomas equivalentes no Oracle?

  • Como obter a linha mais recente por tipo e realizar cálculos, dependendo do tipo de linha?

  • Contando registros exclusivos em 2 colunas e calculando uma pontuação com base em valores booleanos

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve