AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • Início
  • system&network
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • Início
  • system&network
    • Recentes
    • Highest score
    • tags
  • Ubuntu
    • Recentes
    • Highest score
    • tags
  • Unix
    • Recentes
    • tags
  • DBA
    • Recentes
    • tags
  • Computer
    • Recentes
    • tags
  • Coding
    • Recentes
    • tags
Início / dba / Perguntas / 342231
Accepted
Alexander Petrushyn
Alexander Petrushyn
Asked: 2024-09-09 09:11:43 +0800 CST2024-09-09 09:11:43 +0800 CST 2024-09-09 09:11:43 +0800 CST

O Mysql está sendo morto pelo OOMKiller apesar de ter RAM suficiente

  • 772

O processo mysql parece não ter limite de ram. Eu tentei um tamanho de buffer pool de 9gb e ele travou (eu tenho 13 gb de ram), agora são 7gb e o problema continua. O perfil de ram usando preformance_schema diz que ele não deve usar mais do que 9,6 gb de ram, nenhuma variável em performance_schema parece consumir muita memória. Mas o processo mysqld consome quase 12 gb e cresce

A configuração do mysql se parece com isso:

    [client]
    port = 3306
    socket = /var/lib/mysql/mysql.sock

    [mysqld]
    user = mysql
    port = 3306
    socket = /var/lib/mysql/mysql.sock
    mysql_native_password=ON

    # Basic Settings
    basedir = /usr
    datadir = /var/lib/mysql
    tmpdir = /tmp
    pid-file = /var/run/mysqld/mysqld.pid
    # log_error = /var/log/mysql/error.log

    # Server Performance
    skip-name-resolve
    max_connections = 3000
    table_open_cache = 4000
    table_open_cache_instances = 8
    thread_cache_size = 50

    # Memory Settings
    innodb_buffer_pool_size = 9G
    innodb_buffer_pool_instances = 9
    innodb_log_file_size = 2G  # Adjust this based on your transaction log needs
    innodb_log_buffer_size = 64M
    innodb_file_per_table = 1
    innodb_flush_method = O_DIRECT
    innodb_flush_log_at_trx_commit = 1
    innodb_thread_concurrency = 16
    innodb_read_io_threads = 8
    innodb_write_io_threads = 8
    innodb_io_capacity = 250
    innodb_io_capacity_max = 500
    innodb_purge_threads = 4

    # Caching and I/O
    # query_cache_type = 0
    # query_cache_size = 0
    tmp_table_size = 256M
    max_heap_table_size = 256M
    # join_buffer_size = 16M
    # sort_buffer_size = 4M
    # read_buffer_size = 4M
    # read_rnd_buffer_size = 8M

    # Character Set and Collation
    character-set-server = utf8mb4
    collation-server = utf8mb4_general_ci

    # Binary Logging - Recommended for Replication and Point-in-Time Recovery
    # log_bin = /var/log/mysql/mysql-bin.log
    # expire_logs_days = 7
    # sync_binlog = 1
    # binlog_format = ROW

    # Error Log Settings
    # log_error_verbosity = 3

    # Security
    max_allowed_packet = 64M
    sql_mode = STRICT_TRANS_TABLES,ERROR_FOR_DIVISION_BY_ZERO,NO_ENGINE_SUBSTITUTION
    innodb_strict_mode = 1

    # Additional Settings
    performance_schema = ON
    event_scheduler = ON
    default_storage_engine = InnoDB

    # Adjusting InnoDB Autoinc Lock Mode
    innodb_autoinc_lock_mode = 2

    [mysqldump]
    quick
    quote-names

    [mysql]
    no-auto-rehash

Não quero dizer que ele não deva consumir mais memória do que o buffer_pool_size. Usando esta consulta, calculo o uso total de ram:

SELECT 
    @@innodb_buffer_pool_size AS innodb_buffer_pool_size,
    @@innodb_log_buffer_size AS innodb_log_buffer_size,
    @@key_buffer_size AS key_buffer_size,
    @@tmp_table_size AS tmp_table_size,
    @@max_connections * (
        @@read_buffer_size + 
        @@read_rnd_buffer_size + 
        @@sort_buffer_size + 
        @@join_buffer_size + 
        @@binlog_cache_size + 
        @@thread_stack
    ) AS max_connections_memory,
    (@@innodb_buffer_pool_size + 
     @@innodb_log_buffer_size + 
     @@key_buffer_size + 
     @@tmp_table_size + 
     @@max_connections * (
         @@read_buffer_size + 
         @@read_rnd_buffer_size + 
         @@sort_buffer_size + 
         @@join_buffer_size + 
         @@binlog_cache_size + 
         @@thread_stack
     )) AS total_memory_usage
\G

E a saída:

innodb_buffer_pool_size: 6039797760
 innodb_log_buffer_size: 67108864
        key_buffer_size: 8388608
         tmp_table_size: 1000000
 max_connections_memory: 99942400
     total_memory_usage: 6216237632

A saída não é a mesma do mysqlconfig porque eu fiz buffer_pool_size menor e reduzi o max_connections para que ele não consuma toda a memória disponível. Se a consulta estiver correta, ela deve usar no máximo cerca de 6,5 gb, mas usa 10, 11 e cresce

A versão do MySQL é 8.4.0

mysql
  • 2 2 respostas
  • 51 Views

2 respostas

  • Voted
  1. yunus shaikh
    2024-09-09T12:01:21+08:002024-09-09T12:01:21+08:00

    Se o buffer pool for 9G, isso não significa que o mysql não consumirá mais memória. 9G é para buffer innodb. Ele ocupa mais memória com base na conexão que você faz e na consulta que essas conexões executam. Buffer de junção Buffer de classificação Tabela temporária etc. Portanto, você deve calcular a memória com base em você

    • 0
  2. Best Answer
    Bill Karwin
    2024-09-11T05:51:12+08:002024-09-11T05:51:12+08:00

    Monitore o tamanho da memória de mysqld. Se ele crescer continuamente, você pode ter uma versão do MySQL Server com um bug de vazamento de memória.

    Pesquise no banco de dados https://bugs.mysql.com por relatórios de vazamentos de memória que afetam a versão que você está usando.

    Ou entre em contato com o suporte técnico do MySQL. Oracle ou outra empresa de consultoria como a Percona. Esteja preparado para pagar pela expertise deles.

    Ou ocupe-se com um profiler de memória para diagnosticar um possível vazamento de memória você mesmo. Se você não sabe como usar esses profilers de memória, então este é um bom momento para aprender sobre eles.

    Se você identificar um vazamento de memória, talvez seja necessário usar uma versão diferente do MySQL Server que não seja afetada por esse bug.

    Se o tamanho da memória sobe e desce, em vez de crescer continuamente, então talvez não haja um bug que cause um vazamento de memória, mas você apenas tem muitas consultas em execução simultaneamente que precisam de muita memória. Nesse caso, redimensione o que puder (principalmente o pool de buffers do innodb) para deixar RAM de sobra suficiente para lidar com o fluxo e refluxo do uso de memória relacionado à consulta.

    Você mencionou que não precisa que todos os dados sejam acessíveis no banco de dados, você só precisa dos dados mais recentes. Nesse caso, eu recomendaria implementar alguma estratégia de arquivamento de dados. Retire-os da instância do MySQL e armazene-os de alguma outra maneira. Por exemplo, arquivos de despejo compactados.

    Ou se os dados realmente não forem mais necessários quando estiverem velhos o suficiente, então exclua-os. Por que manter uma coleção cada vez maior de dados dos quais você não precisa?

    • 0

relate perguntas

  • Existem ferramentas de benchmarking do MySQL? [fechado]

  • Onde posso encontrar o log lento do mysql?

  • Como posso otimizar um mysqldump de um banco de dados grande?

  • Quando é o momento certo para usar o MariaDB em vez do MySQL e por quê?

  • Como um grupo pode rastrear alterações no esquema do banco de dados?

Sidebar

Stats

  • Perguntas 205573
  • respostas 270741
  • best respostas 135370
  • utilizador 68524
  • Highest score
  • respostas
  • Marko Smith

    conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host

    • 12 respostas
  • Marko Smith

    Como fazer a saída do sqlplus aparecer em uma linha?

    • 3 respostas
  • Marko Smith

    Selecione qual tem data máxima ou data mais recente

    • 3 respostas
  • Marko Smith

    Como faço para listar todos os esquemas no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Listar todas as colunas de uma tabela especificada

    • 5 respostas
  • Marko Smith

    Como usar o sqlplus para se conectar a um banco de dados Oracle localizado em outro host sem modificar meu próprio tnsnames.ora

    • 4 respostas
  • Marko Smith

    Como você mysqldump tabela (s) específica (s)?

    • 4 respostas
  • Marko Smith

    Listar os privilégios do banco de dados usando o psql

    • 10 respostas
  • Marko Smith

    Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL?

    • 4 respostas
  • Marko Smith

    Como faço para listar todos os bancos de dados e tabelas usando o psql?

    • 7 respostas
  • Martin Hope
    Jin conectar ao servidor PostgreSQL: FATAL: nenhuma entrada pg_hba.conf para o host 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane Como faço para listar todos os esquemas no PostgreSQL? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh Por que o log de transações continua crescendo ou fica sem espaço? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland Listar todas as colunas de uma tabela especificada 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney O MySQL pode realizar consultas razoavelmente em bilhões de linhas? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx Como posso monitorar o andamento de uma importação de um arquivo .sql grande? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison Como você mysqldump tabela (s) específica (s)? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas Como posso cronometrar consultas SQL usando psql? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas Como inserir valores em uma tabela de uma consulta de seleção no PostgreSQL? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas Como faço para listar todos os bancos de dados e tabelas usando o psql? 2011-02-18 00:45:49 +0800 CST

Hot tag

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • Início
  • Perguntas
    • Recentes
    • Highest score
  • tag
  • help

Footer

AskOverflow.Dev

About Us

  • About Us
  • Contact Us

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve