AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / dba / 问题 / 33625
Accepted
Pedro Werneck
Pedro Werneck
Asked: 2013-01-28 15:56:53 +0800 CST2013-01-28 15:56:53 +0800 CST 2013-01-28 15:56:53 +0800 CST

内存引擎是否适合读取密集型/查找表?

  • 772

我有一个只有两列的 InnoDB 表,一个 VARCHAR(20) 和一个 DATETIME,以及大约 400 万行。该表用作其他表的黑名单,并且会不时从 csv 文件中截断和重新创建。除此之外没有涉及写入,它仅用于 SELECT 检查是否存在键,它总是命中 VARCHAR 列的索引。

问题是,我所有系统中的每一个操作都必须一直查询这个表,因为如果有匹配项,这是非常罕见的,则必须立即中止该操作。从我的应用程序分析中,我们花费了大约 10% 的数据库时间来读取它。

我正在考虑为此表使用内存引擎。这个想法是用只加载 csv 文件而不是整个数据导入操作的 CSV 引擎创建一个基表,以及一个初始化脚本来填充内存表。我假设 VARCHAR 列上的 HASH 索引对于简单查找来说会更快,但我不确定它在我拥有的几乎 100% 的未命中率下是否表现良好。

这是提高我的查找速度的好主意吗?

mysql storage-engine
  • 1 1 个回答
  • 791 Views

1 个回答

  • Voted
  1. Best Answer
    RolandoMySQLDBA
    2013-01-28T16:48:52+08:002013-01-28T16:48:52+08:00

    我不推荐MEMORY存储引擎

    原因 #1:无冗余

    无论是服务器崩溃还是系统正常关机,MEMORY 表中的所有数据都会丢失。您所拥有的只是表结构。

    原因 #2:温和的磁盘 I/O

    无论您选择什么存储引擎,.frm始终会访问表的 以检查表的存在性和可用性。这将为此检查产生一些磁盘 I/O。

    请阅读过去关于MEMORY 存储引擎优缺点的帖子

    • May 22, 2011:我正在使用 MEMORY 存储引擎,但 MySQL 仍然写入我的磁盘...为什么?
    • Sep 26, 2011:让 MySQL 内存存储引擎使用 512 GB 的 RAM 是否可行?
    • Jan 17, 2012: Mysql 内存表获得很多锁
    • Jan 20, 2012:一个MEMORY表会占用多少内存?

    推荐

    考虑到不使用 MEMORY 存储引擎的两个原因,我建议使用MyISAM存储引擎而不是使用 MEMORY 或 InnoDB。为什么?

    回顾原因 #1,如果按如下方式创建表,则可以在 RAM 中拥有所有内容并在磁盘上拥有数据冗余:

    步骤 01) 像这样创建表:

    CREATE TABLE blacklist
    (
        url VARCHAR(20),
        dt DATETIME,
        PRIMARY KEY (url)
    ) ENGINE=MyISAM ROW_FORMAT=Fixed;
    

    步骤 02) 为该表创建一个专用的 16MB MyISAM 缓存:

    cd /var/lib/mysql
    echo "SET GLOBAL blacklist_keycache.key_buffer_size = 1024 * 1024 * 16;" > init-file.sql
    echo "CACHE INDEX blacklist IN blacklist_keycache; >> init-file.sql
    echo "LOAD INDEX INTO CACHE blacklist; >> init-file.sql
    

    步骤 03) 将此添加到 /etc/my.cnf

    [mysqld]
    init-file=/var/lib/mysql/init-file/sql
    

    步骤 04) 重启 MySQL

    service mysql restart
    

    而已。

    展望未来,表的每次重新加载都将填充专用键缓存。请注意ROW_FORMAT=Fixed clause。这样做的目的是将字符搜索速度提高 20-25%(我之前写过这个)。

    为什么不使用InnoDB?

    • 数据页和索引页将在 RAM 中包含两次数据。
    • 访问 InnoDB 表会通过数据字典检查引入额外的温和磁盘 I/O(参见ibdata1 的图示)
    • Index pages to rotate out是InnoDB Buffer Pool太小了。相反,InnoDB 缓冲池太大会浪费 RAM。

    使用MyISAM,数据保留在磁盘上,但只能从专用键缓存中访问。

    • 2

相关问题

  • 是否有任何 MySQL 基准测试工具?[关闭]

  • 我在哪里可以找到mysql慢日志?

  • 如何优化大型数据库的 mysqldump?

  • 什么时候是使用 MariaDB 而不是 MySQL 的合适时机,为什么?

  • 组如何跟踪数据库架构更改?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    如何让sqlplus的输出出现在一行中?

    • 3 个回答
  • Marko Smith

    选择具有最大日期或最晚日期的日期

    • 3 个回答
  • Marko Smith

    如何列出 PostgreSQL 中的所有模式?

    • 4 个回答
  • Marko Smith

    授予用户对所有表的访问权限

    • 5 个回答
  • Marko Smith

    列出指定表的所有列

    • 5 个回答
  • Marko Smith

    如何在不修改我自己的 tnsnames.ora 的情况下使用 sqlplus 连接到位于另一台主机上的 Oracle 数据库

    • 4 个回答
  • Marko Smith

    你如何mysqldump特定的表?

    • 4 个回答
  • Marko Smith

    使用 psql 列出数据库权限

    • 10 个回答
  • Marko Smith

    如何从 PostgreSQL 中的选择查询中将值插入表中?

    • 4 个回答
  • Marko Smith

    如何使用 psql 列出所有数据库和表?

    • 7 个回答
  • Martin Hope
    Stéphane 如何列出 PostgreSQL 中的所有模式? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh 为什么事务日志不断增长或空间不足? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland 列出指定表的所有列 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney MySQL 能否合理地对数十亿行执行查询? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx 如何监控大型 .sql 文件的导入进度? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison 你如何mysqldump特定的表? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    pedrosanta 使用 psql 列出数据库权限 2011-08-04 11:01:21 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 对 SQL 查询进行计时? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas 如何从 PostgreSQL 中的选择查询中将值插入表中? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 列出所有数据库和表? 2011-02-18 00:45:49 +0800 CST

热门标签

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve