AskOverflow.Dev

AskOverflow.Dev Logo AskOverflow.Dev Logo

AskOverflow.Dev Navigation

  • 主页
  • 系统&网络
  • Ubuntu
  • Unix
  • DBA
  • Computer
  • Coding
  • LangChain

Mobile menu

Close
  • 主页
  • 系统&网络
    • 最新
    • 热门
    • 标签
  • Ubuntu
    • 最新
    • 热门
    • 标签
  • Unix
    • 最新
    • 标签
  • DBA
    • 最新
    • 标签
  • Computer
    • 最新
    • 标签
  • Coding
    • 最新
    • 标签
主页 / unix / 问题 / 480279
Accepted
stdcerr
stdcerr
Asked: 2018-11-07 20:08:38 +0800 CST2018-11-07 20:08:38 +0800 CST 2018-11-07 20:08:38 +0800 CST

仅从 s3 存储中复制特定日期的文件

  • 772

我只想从包含 100 个文件的某个存储桶中复制来自今天的 S3 文件。我尝试了以下方法:$ aws s3 ls s3://cve-etherwan/ --recursive --region=us-west-2 | grep 2018-11-06 | awk '{system("aws s3 sync s3://cve-etherwan/$4 . --region=us-west-2") }'但效果不佳,我还从其他日期获取文件。我该如何正确地做到这一点?

file-copy date
  • 3 3 个回答
  • 8788 Views

3 个回答

  • Voted
  1. Best Answer
    MLu
    2018-11-07T20:32:42+08:002018-11-07T20:32:42+08:00

    那是因为在aws s3您使用sync. 试试cp吧。您也可以将“grep”和“awk”合并在一起。

    $ aws s3 ls s3://cve-etherwan/  --recursive | awk '/^2018-11-06/{system("aws s3 cp s3://cve-etherwan/$4 .") }'
    
    • 1
  2. dirkjot
    2019-12-13T13:54:11+08:002019-12-13T13:54:11+08:00

    这对我有用

    • 添加了时间限制,这里我选择 12/12/19 的 8:00 到 8:30
    • 略微修改了 awk 部分,删除了错字
    • 而不是从 awk 调用system n次,而是创建一个文本输出并通过 bash 进行管道传输

    是的,小心管道进入 bash :-)

    aws s3 ls --recursive s3://cve-etherwan/ 
    | awk '/^2019-12-12 08:[0-3]/{
         print "aws s3 cp s3://cve-etherwan/"$4" ."}'  
    | bash
    
    • 0
  3. Patrick Ding
    2021-05-07T04:57:54+08:002021-05-07T04:57:54+08:00

    MLu 的回答对我有用,但我不得不在 Amazon Linux 2 上逃避 4 美元。

    aws s3 ls s3://my-files --recursive --region=eu-west-1 |
      awk '/^2021-01/{system("aws s3 cp s3://my-files/" $4 " .")}'
    

    和

    • "aws s3 cp s3://my-files/$4 ."取而代之"aws s3 cp s3://my-files/" $4 " ."

    • awk默认情况下将连接字符串。

    • 0

相关问题

  • 移动数百万个小文件会导致“空间不足”错误

  • 如何使用 awk 删除列的一部分

  • 日期可以为 GMT 时区格式化当前时间吗?[复制]

  • 跨文件系统的近似原子移动?

  • 从文件中获取所有访问日期

Sidebar

Stats

  • 问题 205573
  • 回答 270741
  • 最佳答案 135370
  • 用户 68524
  • 热门
  • 回答
  • Marko Smith

    如何将 GPG 私钥和公钥导出到文件

    • 4 个回答
  • Marko Smith

    ssh 无法协商:“找不到匹配的密码”,正在拒绝 cbc

    • 4 个回答
  • Marko Smith

    我们如何运行存储在变量中的命令?

    • 5 个回答
  • Marko Smith

    如何配置 systemd-resolved 和 systemd-networkd 以使用本地 DNS 服务器来解析本地域和远程 DNS 服务器来解析远程域?

    • 3 个回答
  • Marko Smith

    如何卸载内核模块“nvidia-drm”?

    • 13 个回答
  • Marko Smith

    dist-upgrade 后 Kali Linux 中的 apt-get update 错误 [重复]

    • 2 个回答
  • Marko Smith

    如何从 systemctl 服务日志中查看最新的 x 行

    • 5 个回答
  • Marko Smith

    Nano - 跳转到文件末尾

    • 8 个回答
  • Marko Smith

    grub 错误:你需要先加载内核

    • 4 个回答
  • Marko Smith

    如何下载软件包而不是使用 apt-get 命令安装它?

    • 7 个回答
  • Martin Hope
    rocky 如何将 GPG 私钥和公钥导出到文件 2018-11-16 05:36:15 +0800 CST
  • Martin Hope
    Wong Jia Hau ssh-add 返回:“连接代理时出错:没有这样的文件或目录” 2018-08-24 23:28:13 +0800 CST
  • Martin Hope
    Evan Carroll systemctl 状态显示:“状态:降级” 2018-06-03 18:48:17 +0800 CST
  • Martin Hope
    Tim 我们如何运行存储在变量中的命令? 2018-05-21 04:46:29 +0800 CST
  • Martin Hope
    Ankur S 为什么 /dev/null 是一个文件?为什么它的功能不作为一个简单的程序来实现? 2018-04-17 07:28:04 +0800 CST
  • Martin Hope
    user3191334 如何从 systemctl 服务日志中查看最新的 x 行 2018-02-07 00:14:16 +0800 CST
  • Martin Hope
    Marko Pacak Nano - 跳转到文件末尾 2018-02-01 01:53:03 +0800 CST
  • Martin Hope
    Kidburla 为什么真假这么大? 2018-01-26 12:14:47 +0800 CST
  • Martin Hope
    Christos Baziotis 在一个巨大的(70GB)、一行、文本文件中替换字符串 2017-12-30 06:58:33 +0800 CST
  • Martin Hope
    Bagas Sanjaya 为什么 Linux 使用 LF 作为换行符? 2017-12-20 05:48:21 +0800 CST

热门标签

linux bash debian shell-script text-processing ubuntu centos shell awk ssh

Explore

  • 主页
  • 问题
    • 最新
    • 热门
  • 标签
  • 帮助

Footer

AskOverflow.Dev

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

Language

  • Pt
  • Server
  • Unix

© 2023 AskOverflow.DEV All Rights Reserve