AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题

问题[deduplication](unix)

Martin Hope
Lahor
Asked: 2022-03-13 08:11:54 +0800 CST

为什么 sort -u 只删除管道中的重复项?

  • 0

在此命令中,sort -u删除了重复项。

curl https://en.wikipedia.org/wiki/Help:Special_page -s | grep -oP 'Special:\K[a-zA-Z0-9]*' | sort -u > special_page_names

在这个命令中,它没有。

curl https://en.wikipedia.org/wiki/Help:Special_page -s | grep -oP 'Special:\K[a-zA-Z0-9]*' > special_page_names
sort -u special_page_names

为什么 sort -u 只删除管道中的重复项?
即,为什么在常规文件上运行时不删除重复项?

sort deduplication
  • 1 个回答
  • 41 Views
Martin Hope
Lonnie Best
Asked: 2021-12-10 05:50:57 +0800 CST

Borg Create 实时输出中去重的含义

  • 1

当borg create命令与--progress参数一起使用时,它的输出如下:

5.50 GB O 5.10 GB C 23.95 kB D 15600 N /path/to/current/file/being/processed

我能够在这里找到上面的缩写代表什么:

--progress 选项显示(从左到右)原始、压缩和去重(分别为 O、C 和 D),然后是到目前为止处理的文件数 (N),然后是当前处理的路径。-来源

然而,我仍然不确定这里使用的Deduplicated的含义。

在上面的示例中,Deduplicated 的值为23.95 kB。这是否意味着在迄今为止处理的 5GB 数据中,只有 23.95 kB 需要传输,因为这是自我上次归档到存储库以来发现的唯一唯一数据?

deduplication borgbackup
  • 1 个回答
  • 53 Views
Martin Hope
k.Cyborg
Asked: 2021-11-23 22:40:08 +0800 CST

如何在 Ubuntu 20.04 上安装 vdo/kvdo?

  • 1

我想知道是否有办法在 Ubuntu 20.04中安装Red Hat 的 vdo 。

到目前为止,我已经尝试下载源代码并进行编译,但出现以下错误:

cc -fPIC -fpic -D_GNU_SOURCE -g -O3 -fno-omit-frame-pointer -Wall -Wcast-align -Werror -Wextra -Winit-self -Wlogical-op -Wmissing-include-dirs -Wpointer-arith -Wredundant-decls -Wunused -Wwrite-strings    -std=gnu99 -pedantic -Wbad-function-cast -Wcast-qual -Wfloat-equal -Wformat=2 -Wmissing-declarations -Wmissing-format-attribute -Wmissing-prototypes -Wnested-externs -Wold-style-definition -Wswitch-default   -I. -I../uds -Wno-write-strings -DCURRENT_VERSION="\"8.1.0.316\""   -c -MMD -MF .deps/vdoformat.d.new -MP -MT vdoformat.o -o vdoformat.o vdoformat.c
vdoformat.c:22:10: fatal error: blkid/blkid.h: No such file or directory
   22 | #include <blkid/blkid.h>
      |          ^~~~~~~~~~~~~~~
compilation terminated.

我不明白为什么会出现错误,因为我已经安装了libblkid包。


真正困扰我的是lvmvdo有一个联机帮助页(我猜是 Red Hat VDO 到 Ubuntu 的“端口”),但它只说:

为了使用 lvm(8) 标准 VDO 用户空间工具 vdoformat(8) 和当前非标准内核 VDO 模块“kvdo”,需要在系统上安装 VDO。

我确实在 Ubuntu 20.04 中默认安装了 lvm 包,但我找不到安装vdoformat或kvdo包的方法。

ubuntu deduplication
  • 2 个回答
  • 897 Views
Martin Hope
interstar
Asked: 2018-11-30 04:16:40 +0800 CST

Linux检查相同文件并根据位置删除

  • 2

我使用 fdupes 查找和删除相同的文件。

但我希望能够说出这样的话......

  • 查找目录 A 或其子目录中所有重复的文件
  • 如果子目录 B 和 C 中有重复文件,则始终删除 B 中的文件

换句话说,将 B 中不存在的所有文件保留在 C 中。请注意目录结构不相同,因此 rsync 在这里没有用。

我认为 fdupes 不提供此功能。我必须为每对手动选择要删除/保留的。

所以我想写一个快速的 Python 脚本来做同样的事情。但是有没有我可以从 Python 调用的快速系统命令,它可以为每个文件提供某种唯一的 ID,这是查看两个文件是否相同的可靠方法。我在想一些不涉及我将文件加载到 python 中并对它们的内容进行哈希处理的事情。

deduplication
  • 1 个回答
  • 49 Views
Martin Hope
Dan
Asked: 2018-02-14 13:10:31 +0800 CST

rmlint 对 btrfs 的“克隆”有什么作用?

  • 7

我正在阅读rmlint手册,其中一个重复的处理程序是克隆和重新链接:

· 克隆:仅限 btrfs。尝试使用 BTRFS_IOC_FILE_EXTENT_SAME ioctl(3p) 克隆这两个文件。这将物理删除重复的范围。至少需要内核 4.2。

· reflink:尝试将重复文件重新链接到原始文件。另请参见 man 1 cp 中的 --reflink。如果文件系统不支持它会失败。

这个克隆究竟做了什么,它与反射链接有什么不同?BTRFS_IOC_FILE_EXTENT_SAME ioctl 做什么?

btrfs deduplication
  • 1 个回答
  • 1182 Views

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    模块 i915 可能缺少固件 /lib/firmware/i915/*

    • 3 个回答
  • Marko Smith

    无法获取 jessie backports 存储库

    • 4 个回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    user12345 无法获取 jessie backports 存储库 2019-03-27 04:39:28 +0800 CST
  • Martin Hope
    Carl 为什么大多数 systemd 示例都包含 WantedBy=multi-user.target? 2019-03-15 11:49:25 +0800 CST
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve