AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / dba / 问题 / 260349
Accepted
JPM
JPM
Asked: 2020-02-24 00:58:44 +0800 CST2020-02-24 00:58:44 +0800 CST 2020-02-24 00:58:44 +0800 CST

不再处理连接或共享内存不足

  • 772

我有一个 golang 程序,它一次对多个线程中的数据进行计算,所有数据都从 Postgres 中提取。线程数取决于先前的结果。因此可能有数百个线程试图同时从 Postgres 中提取数据。

golang sql 库允许指定连接限制,以防止 postgres 耗尽共享内存或空闲连接。

如果我硬编码最大连接数,当连接其他东西时,我将用完连接。另一方面,如果我硬编码来自 golang 程序的允许连接数量太少,性能将受到不必要的限制。

什么是允许 go 程序使用尽可能多的连接而不会遇到限制的最佳方法。我想这个数字是一个变量,取决于当时连接到数据库的其他服务的数量。

我正在考虑在数据库和 golang 程序之间运行 PgBouncer,希望接受来自 golang 程序的所有连接,允许尽可能多的连接,但阻止其余连接,直到连接空闲。然而,我不确定 PgBouncer 是否会这样做,但接下来我将对其进行测试。

是否有另一种方法可以让连接池在没有真正连接可用时阻止连接?阻塞,而不是拒绝,因为拒绝连接意味着我必须在我的 golang 程序中添加重试逻辑。

postgresql pgbouncer
  • 1 1 个回答
  • 251 Views

1 个回答

  • Voted
  1. Best Answer
    jjanes
    2020-02-24T12:32:49+08:002020-02-24T12:32:49+08:00

    线程数取决于先前的结果。

    你能重写它以减少每个查询返回更多行吗?如果每行启动一个要返回的线程,则可能引入的开销比消除的开销要多。

    如果我硬编码最大连接数,当连接其他东西时,我将用完连接。

    除非“其他东西”是另一个 golang 程序,其功能与第一个程序大致相同,或者类似的东西,否则您可以使 max_connections 仅略大于 golang 中的最大池大小,并且您不应该有问题。它确实需要您对其他事物有一个相当好的了解。

    另一方面,如果我硬编码来自 golang 程序的允许连接数量太少,性能将受到不必要的限制。

    你验证过这个吗?拥有 300 个连接超过 16 个 CPU 和 4 个硬盘驱动器不会提高生产力。只有这么多的硬件,现在你必须徒劳地争夺自旋锁(例如)以及做真正的工作。

    我正在考虑在数据库和 golang 程序之间运行 PgBouncer,希望接受来自 golang 程序的所有连接,允许尽可能多的连接,但阻止其余连接,直到连接空闲。

    它可以做到这一点,但为什么比让 golang 自己做更好呢?如果您可以通过 pgbouncer 推送“其他连接”,但不能通过 golang 推送它们,这可能是有意义的。然后,您可以拥有一个可以查看所有内容的 pooler。另一方面,它在每次网络往返时引入了另一层延迟。再加上另一层复杂性。

    • 2

相关问题

  • 我可以在使用数据库后激活 PITR 吗?

  • 运行时间偏移延迟复制的最佳实践

  • 存储过程可以防止 SQL 注入吗?

  • PostgreSQL 中 UniProt 的生物序列

  • PostgreSQL 9.0 Replication 和 Slony-I 有什么区别?

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    连接到 PostgreSQL 服务器:致命:主机没有 pg_hba.conf 条目

    • 12 个回答
  • Marko Smith

    如何让sqlplus的输出出现在一行中?

    • 3 个回答
  • Marko Smith

    选择具有最大日期或最晚日期的日期

    • 3 个回答
  • Marko Smith

    如何列出 PostgreSQL 中的所有模式?

    • 4 个回答
  • Marko Smith

    列出指定表的所有列

    • 5 个回答
  • Marko Smith

    如何在不修改我自己的 tnsnames.ora 的情况下使用 sqlplus 连接到位于另一台主机上的 Oracle 数据库

    • 4 个回答
  • Marko Smith

    你如何mysqldump特定的表?

    • 4 个回答
  • Marko Smith

    使用 psql 列出数据库权限

    • 10 个回答
  • Marko Smith

    如何从 PostgreSQL 中的选择查询中将值插入表中?

    • 4 个回答
  • Marko Smith

    如何使用 psql 列出所有数据库和表?

    • 7 个回答
  • Martin Hope
    Jin 连接到 PostgreSQL 服务器:致命:主机没有 pg_hba.conf 条目 2014-12-02 02:54:58 +0800 CST
  • Martin Hope
    Stéphane 如何列出 PostgreSQL 中的所有模式? 2013-04-16 11:19:16 +0800 CST
  • Martin Hope
    Mike Walsh 为什么事务日志不断增长或空间不足? 2012-12-05 18:11:22 +0800 CST
  • Martin Hope
    Stephane Rolland 列出指定表的所有列 2012-08-14 04:44:44 +0800 CST
  • Martin Hope
    haxney MySQL 能否合理地对数十亿行执行查询? 2012-07-03 11:36:13 +0800 CST
  • Martin Hope
    qazwsx 如何监控大型 .sql 文件的导入进度? 2012-05-03 08:54:41 +0800 CST
  • Martin Hope
    markdorison 你如何mysqldump特定的表? 2011-12-17 12:39:37 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 对 SQL 查询进行计时? 2011-06-04 02:22:54 +0800 CST
  • Martin Hope
    Jonas 如何从 PostgreSQL 中的选择查询中将值插入表中? 2011-05-28 00:33:05 +0800 CST
  • Martin Hope
    Jonas 如何使用 psql 列出所有数据库和表? 2011-02-18 00:45:49 +0800 CST

热门标签

sql-server mysql postgresql sql-server-2014 sql-server-2016 oracle sql-server-2008 database-design query-performance sql-server-2017

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve