AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / user-52093

ALZ's questions

Martin Hope
ALZ
Asked: 2025-03-26 19:48:36 +0800 CST

容器或 cgroupv2 中 rsync 的性能因 MEM 限制而下降

  • 6

在 Oracle Linux 9.2 上,使用“rsync”从内存受限的容器或 cgroup 内部通过网络复制文件时,我遇到了性能显著下降的问题。此问题出现在 Red Hat 兼容内核 (RHCK) 5.14.0-284.11.1.el9_2.x86_64 版本上,但在 Unbreakable Enterprise Kernel (UEK) 5.15.0-101.103.2.1.el9uek.x86_64 版本上没有出现。

详细信息:设置:Oracle Linux 9.2,容器/cgroup 有内存限制。问题:当达到内存限制时,网络文件复制速度会急剧下降,尤其是在页面缓存(非活动文件)已满的情况下。测试:

  • 使用容器或 cgroup 中的“rsync”从远程源复制数据。
  • 使用“pg_basebackup”在两个PG容器(Leader容器和Replica容器)之间进行PostgreSQL数据复制。结果如下:
  • 一旦达到内存限制,初始高速(~100MBps)就会显著下降(至~1MBps)。

重现命令:

  1. 创建具有内存限制的 cgroup 并运行 rsync:sudo systemd-run --scope --property=MemoryMax=1G rsync -av --progress rsync://<source_ip>/files /destination_path

  2. 在缓慢的 rsync 期间在托管操作系统上使用 drop_caches 进行测试:free && sync && echo 3 > /proc/sys/vm/drop_caches && free 缓存被丢弃后,rsync 再次快速运行,直到再次达到 MEM 限制

观察结果:

  • 当达到容器的内存限制时,页面缓存(非活动文件)将被填满,从而导致网络带宽下降。
  • 例如,这会影响 PostgreSQL 复制,导致延迟和潜在的数据丢失。

还有其他人遇到过这个问题吗?如果您能提供任何关于如何正确解决这个问题(或者可能是变通方法)的见解或建议,我将不胜感激!

linux-kernel
  • 1 个回答
  • 17 Views
Martin Hope
ALZ
Asked: 2019-11-08 00:44:11 +0800 CST

Linux 上的“有效使用”内存是什么?“使用”还是(“总”-“可用”)?

  • 2

我需要在 GUI 中显示操作员使用的内存与 Linux 服务器上的可用内存

那么什么是逻辑上正确的值来显示为用法呢?

[root@host ~]# free
              total        used        free      shared  buff/cache   available
Mem:      131753676   110324960     1433296     4182648    19995420    16240640
Swap:       2097148      652076     1445072

used还是(total- available)?

区别在于:110324960 与 115513036 或 5188076 kb ~= ~5 GB 那么这 5 GB 是有效使用的还是可用的或不可用的和未使用的呢?在内存使用百分比中显示什么更正确?

这适用于 CentOS 7.3 PC,运行 2 个 java 服务

但是 PostgreSQL 服务器上的情况完全不同

[root@postgres_server1 ~]# free
              total        used        free      shared  buff/cache   available
Mem:      131753684     7364056    77736740    15598120    46652888   107942020
Swap:       2097148           0     2097148

used其中和 ( total- )之间的差异available要大得多:16447608 kb ~=15.7 GB

linux
  • 2 个回答
  • 2650 Views
Martin Hope
ALZ
Asked: 2018-03-03 08:17:30 +0800 CST

每个进程的亲和掩码由谁和在哪里结算?

  • 1

我有一个过程,外壳。它的关联掩码是 1(我有 3 个 CPU)在冗余机器上(几乎是镜像 - 它是 7 - 所有 CPU)谁决定设置哪个掩码或在哪里配置?

[root@h1-nms ~]# ps $$
  PID TTY      STAT   TIME COMMAND
 7605 pts/2    Ss     0:00 -bash
[root@h1-nms ~]# taskset -p $$
pid 7605's current affinity mask: 1
centos process
  • 1 个回答
  • 171 Views
Martin Hope
ALZ
Asked: 2018-03-03 07:16:24 +0800 CST

为什么`nproc`显示少于`nproc --all`?

  • 6

这是从互联网上找到的nprocvs和其他命令的输出。nproc --all我仍然无法理解为什么。它是一个 QEMU\KVM 虚拟机,在其他 CentOS 6.5 上运行 CentOS 6.5。

以下是其他一些命令的输出:

[root@h1-nms ~]# nproc
1
[root@h1-nms ~]# nproc --all
3
[root@h1-nms ~]# lscpu
Architecture:          x86_64
CPU op-mode(s):        32-bit, 64-bit
Byte Order:            Little Endian
CPU(s):                3
On-line CPU(s) list:   0-2
Thread(s) per core:    1
Core(s) per socket:    1
Socket(s):             3
NUMA node(s):          1
Vendor ID:             GenuineIntel
CPU family:            6
Model:                 13
Stepping:              3
CPU MHz:               2194.710
BogoMIPS:              4389.42
Hypervisor vendor:     KVM
Virtualization type:   full
L1d cache:             32K
L1i cache:             32K
L2 cache:              4096K
NUMA node0 CPU(s):     0-2
[root@h1-nms ~]# getconf _NPROCESSORS_ONLN
3
[root@h1-nms ~]# cat /proc/$$/limits
Limit                     Soft Limit           Hard Limit           Units
Max cpu time              unlimited            unlimited            seconds
Max file size             unlimited            unlimited            bytes
Max data size             unlimited            unlimited            bytes
Max stack size            10485760             unlimited            bytes
Max core file size        unlimited            unlimited            bytes
Max resident set          unlimited            unlimited            bytes
Max processes             32000                32000                processes
Max open files            64000                64000                files
Max locked memory         65536000             65536000             bytes
Max address space         unlimited            unlimited            bytes
Max file locks            unlimited            unlimited            locks
Max pending signals       191509               191509               signals
Max msgqueue size         819200               819200               bytes
Max nice priority         0                    0
Max realtime priority     0                    0
Max realtime timeout      unlimited            unlimited            us
[root@h1-nms ~]# grep "" /sys/devices/system/cpu/cpu*/online
/sys/devices/system/cpu/cpu1/online:1
/sys/devices/system/cpu/cpu2/online:1
[root@h1-nms ~]# uname -a
Linux h1-nms 2.6.32-431.el6.x86_64 #1 SMP Fri Nov 22 03:15:09 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux
[root@h1-nms ~]# cat /etc/*-release
CentOS release 6.5 (Final)
CentOS release 6.5 (Final)
CentOS release 6.5 (Final)
[root@h1-nms ~]#
centos cpu
  • 2 个回答
  • 3678 Views

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve