AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / user-2349

Nathan Milford's questions

Martin Hope
Nathan Milford
Asked: 2009-08-13 18:07:28 +0800 CST

将大文件从一台 Linux 服务器复制到另一台

  • 24

我正在尝试通过 10MB 链接将 75 GB tgz(mysql lvm 快照)从我们洛杉矶数据中心的 Linux 服务器复制到我们纽约数据中心的另一台 Linux 服务器。

我得到大约 20-30Kb/s 的 rsync 或 scp,它在 200-300 小时之间波动。

目前它是一个相对安静的链接,因为第二个数据中心还没有激活,我从小文件传输中获得了极好的速度。

我已经按照我通过谷歌找到的不同的 tcp 调整指南无济于事(也许我正在阅读错误的指南,得到一个好的指南?)。

我已经看过 tar+netcat 隧道提示,但我的理解是它只适用于大量小文件,并且在文件有效完成传输时不会更新您。

在我诉诸运送硬盘之前,有没有人有什么好的意见?

更新: 嗯...毕竟可能是链接:(请参阅下面的测试...

从纽约转移到洛杉矶:

得到一个空白文件。

[nathan@laobnas test]$ dd if=/dev/zero of=FROM_LA_TEST bs=1k count=4700000
4700000+0 records in
4700000+0 records out
4812800000 bytes (4.8 GB) copied, 29.412 seconds, 164 MB/s
[nathan@laobnas test]$ scp -C obnas:/obbkup/test/FROM_NY_TEST .
FROM_NY_TEST                                    3%  146MB   9.4MB/s   07:52 ETA

获取快照压缩包。

[nathan@obnas db_backup]$ ls -la db_dump.08120922.tar.gz
-rw-r--r-- 1 root root 30428904033 Aug 12 22:42 db_dump.08120922.tar.gz

[nathan@laobnas test]$ scp -C obnas:/obbkup/db_backup/db_dump.08120922.tar.gz .
db_dump.08120922.tar.gz            0%   56MB 574.3KB/s 14:20:40 ET

从洛杉矶转移到纽约:

得到一个空白文件。

[nathan@obnas test]$ dd if=/dev/zero of=FROM_NY_TEST bs=1k count=4700000
4700000+0 records in
4700000+0 records out
4812800000 bytes (4.8 GB) copied, 29.2501 seconds, 165 MB/s
[nathan@obnas test]$ scp -C laobnas:/obbkup/test/FROM_LA_TEST .
FROM_LA_TEST                                    0% 6008KB 497.1KB/s 2:37:22 ETA

获取快照压缩包。

[nathan@laobnas db_backup]$ ls -la db_dump_08120901.tar.gz
-rw-r--r-- 1 root root 31090827509 Aug 12 21:21 db_dump_08120901.tar.gz

[nathan@obnas test]$ scp -C laobnas:/obbkup/db_backup/db_dump_08120901.tar.gz .
db_dump_08120901.tar.gz                0%  324KB  26.8KB/s 314:11:38 ETA

我想我会和运行我们设施的人一起讨论这个链接被标记为 MPLS/以太网 10MB 链接。(耸肩)

linux
  • 10 个回答
  • 53028 Views
Martin Hope
Nathan Milford
Asked: 2009-08-04 13:02:07 +0800 CST

NET-SNMP 可能会遇到问题报告大于 2TB 的分区

  • 1

我们最近用 2.5TB 的阵列升级了我们的一台 MYSQL 机器。

这样做之后,OpenNMS 停止报告有关我们的 mysql 数据分区的信息......

当我做一个:

snmpwalk -v 1 localhost -c public .1.3.6.1.4.1.2021.9

我在 /var/log/messages 中得到了这个

Aug  3 16:44:11 mysql6 snmpd[8789]: Connection from UDP: [127.0.0.1]:47333 
Aug  3 16:44:11 mysql6 snmpd[8789]: truncating signed value to 32 bits (10) 
Aug  3 16:44:11 mysql6 snmpd[8789]: truncating signed value to 32 bits (10) 

当我从 snmpd.conf 中删除分区时,我没有收到任何通知......并且其余的资源数据填充在 OpenNMS 中。

从我的谷歌搜索来看,这似乎是一个常见问题,但我找不到任何解决方案。

有人知道解决方法吗?

snmp opennms
  • 2 个回答
  • 1135 Views
Martin Hope
Nathan Milford
Asked: 2009-07-28 13:17:01 +0800 CST

戴尔硬件中的戴尔 SSD 选项和第 3 方 SSD

  • 7

有人对戴尔固态硬盘有经验吗?

我们正在考虑将它们用于运行像 Tokyo Tyrant 这样的键值数据库的机器。

它们很贵而且很小。仅 25/50GB,售价 850 美元/1700 美元。他们有什么魔力可以比英特尔 400 美元的 128GB SSD 表现更好吗?足以证明成本和规模差距的合理性?

出于某种原因,他们似乎只希望您将它们放入新的 R610 中……很好奇……

此外,是否有人对戴尔硬件中的 3rd 方 SSD 有任何运气?

谢谢,内森

dell database ssd
  • 3 个回答
  • 4782 Views
Martin Hope
Nathan Milford
Asked: 2009-06-30 12:41:31 +0800 CST

CentOS 上的目录在两台服务器之间的双向同步

  • 0

我们正准备点亮另一个数据中心,并且我们有一个本地管理机器,脚本针对备份。

我们希望该机器上的备份目录与我们主数据中心中的机器双向同步,以便在所有管理机器上看到相同的备份。

各位有什么建议吗?

backup linux centos
  • 3 个回答
  • 2719 Views
Martin Hope
Nathan Milford
Asked: 2009-06-25 10:56:31 +0800 CST

Xen 测试机用 CentOS 还是 Ubuntu?

  • 3

我刚刚订购了一个便宜的戴尔 PE1425 作为 xen dom0 运行。

想要生成一些虚拟机并测试配置,什么不是。没什么疯狂的。最终,我想用它来创建 VM 主映像以转换为 EC2 的 AMI ......

首选的主机操作系统是什么?我们主要在生产中使用 CentOS,并在办公室各处安装了 Ubuntu……或者我应该考虑另一个发行版或操作系统(BSD?)

谢谢。

xen linux
  • 4 个回答
  • 2048 Views
Martin Hope
Nathan Milford
Asked: 2009-06-18 06:10:49 +0800 CST

用于从文件中提取字符串并返回下一个字符直到出现空格的 Shell 脚本

  • 1

我们有一个从文件中获取设置参数的应用程序。我想从启动字符串中提取一两个语句并将它们呈现为一个漂亮的表。

示例字符串是 -Dmysql.host=mysql1.company.com,但它也可能是 IP 地址或机器名称,而不是 fqdn。

我想找到 -Dmysql.host= 但返回服务器名。

一旦我在文件中找到字符串“-Dmysql.host=”,有关如何将所有内容显示到下一个空格的任何提示或指针,将不胜感激。

也许有更好的方法。我计划在十几台机器上运行它,最终返回一个列表,其中列出了哪些应用程序机器被配置为与哪台 db 机器一目了然。

谢谢你的时间。

scripting bash shell
  • 3 个回答
  • 9981 Views
Martin Hope
Nathan Milford
Asked: 2009-06-17 10:37:20 +0800 CST

东京暴君ulog/更新日志管理

  • 2

我在 master-master 设置中测试 Tokyo Tyrant,发现 ulog 失去控制并锁定了磁盘。

起初我发现 -ulim 选项很有用并且限制了日志文件的大小,但是它只是滚动到一个新日志,让旧日志使分区变得混乱。

我想我会写一个 shell 脚本来删除早于 X 的 ulog,一旦我发现 Tokyo Tyrant 在更新日志中需要多远才能进行故障转移。

有没有人有这个东京暴君的经验?对于最佳 ulog 大小与 Tokyo Tyrant 实例需要在 ulog 中查看多远才能假定主状态,您是否有感觉(承认每次安装都基于所存储的内容而有所不同)?

谢谢,内森

logging nosql
  • 3 个回答
  • 2527 Views
Martin Hope
Nathan Milford
Asked: 2009-05-27 12:17:07 +0800 CST

BASH Shell 脚本辅助,备份脚本从文件名中提取元数据并相应地移动文件

  • 2

所以我需要构建一个shell脚本(我很垃圾的一项技能,我认为太线性了,把所有东西都变成管道),它将连接到远程机器到一个特定的目录,抓取所有超过5分钟的文件,从中提取信息文件的名称(下面的编码详细信息)并将文件分散到相关目录中,或者如果本地备份主机上不存在这些目录,则创建这些目录。

在十几台机器上,我有一个目录(让我们称之为 /Prod/Data/),其中包含数千个名为 data-HOST-v.7.mmddyy.csv 的文件

示例:date-web2-v.7.052509.csv

超过 5 分钟的文件需要从远程机器拉到本地文件夹 /backup/archive/host/year/month/day/csvs

示例 /backup/archive/web2/2009/05/29/csvs

我确定我可以做类似 ls -1 | 剪切-d"。" -f3 提取文件的日期部分,然后使用 sed 或 awk 隔离每个部分并生成日期变量以选择将文件转储到的目录,执行类似抓取主机的操作,但我不知道如何着手将其与要在其上执行移动的文件相关联。不知道如何远程执行,也许最好先从远程机器上 scp 所有文件(缺少任何小于 5 分钟的文件,也许可以使用 find -mmin +5 语句来解决这个问题?)然后在所有东西都在备份机器上时进行排序。

有人会这么好心地向我指出可能提供类似功能的示例脚本的方向吗?我写的一切都倾向于命令| 命令 | 命令 | 等等......我想这个任务需要一些维度。

感谢您的时间。

backup scripting bash
  • 3 个回答
  • 1465 Views
Martin Hope
Nathan Milford
Asked: 2009-05-20 07:23:05 +0800 CST

如何在 linux 中模拟旧的 unix grep -S strict 功能

  • 2

我正在搜索命令的输出,我希望只返回特定的、严格的结果。

我记得 grep 的一些迭代有一个严格的选项-s/ --strict。

例如,grep -s bytes只会返回提及“字节”一词的条目,而不是每个包含字节的词,如“兆字节”、“千字节”等。

linux centos grep
  • 1 个回答
  • 652 Views

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    新安装后 postgres 的默认超级用户用户名/密码是什么?

    • 5 个回答
  • Marko Smith

    SFTP 使用什么端口?

    • 6 个回答
  • Marko Smith

    命令行列出 Windows Active Directory 组中的用户?

    • 9 个回答
  • Marko Smith

    什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同?

    • 3 个回答
  • Marko Smith

    如何确定bash变量是否为空?

    • 15 个回答
  • Martin Hope
    Tom Feiner 如何按大小对 du -h 输出进行排序 2009-02-26 05:42:42 +0800 CST
  • Martin Hope
    Noah Goodrich 什么是 Pem 文件,它与其他 OpenSSL 生成的密钥文件格式有何不同? 2009-05-19 18:24:42 +0800 CST
  • Martin Hope
    Brent 如何确定bash变量是否为空? 2009-05-13 09:54:48 +0800 CST
  • Martin Hope
    cletus 您如何找到在 Windows 中打开文件的进程? 2009-05-01 16:47:16 +0800 CST

热门标签

linux nginx windows networking ubuntu domain-name-system amazon-web-services active-directory apache-2.4 ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve