主页 / ubuntu / 问题 / 1108347
Accepted
Mikko Rantalainen
Asked: 2019-01-10 08:50:56 +0800 CST

是否有任何开源 I/O 基准测试工具支持提高 IOPS？

  • 772

我知道我可以用fio任何给定的静态工作负载对我的磁盘进行基准测试。但是，是否有任何开源高质量基准测试工具支持在我选择以下参数作为常量的情况下进行测试：

  • 测试文件大小（例如 500 MB）
  • 静态 QD（至少可设置为 1、2、4 和 8）
  • 工作负载（例如，在整个文件范围内随机读取 4k）
  • 直接 I/O 访问（类似于libaioof fio）
  • 以 µs 为单位定义最大延迟

并且基准测试应该缓慢增加 IOPS，直到延迟超过设定的限制，之后基准测试完成。测试结果将是每个 IOPS 值的延迟，或者更好的是，每个 IOPS 值的最小+平均+最大延迟。

基本上我在问一个可以做这个 storagereview.com 图表所需的类似基准测试的工具： 不同 IOPS 值下每个随机 4k 读取的延迟图

我知道我可以fio使用不同的设置重复运行以生成所需的数据，但我想知道是否有一些用于此目的的预制工具。是否存在这样的基准测试工具？

performance benchmarks io

2 个回答

  1. fio有一个选项可以发现可以在一定延迟下完成的最高 IOPS...来自fio 文档的“I/O 延迟”部分：

    延迟目标=时间

    如果设置，fio将尝试找到给定工作负载将运行的最大性能点，同时保持低于此目标的延迟。当省略单位时，该值以微秒为单位进行解释。见latency_window和latency_percentile。

    请参阅 fio 帮助的整个I/O 延迟部分，因为有很多操作相互作用在一起。您可能还会发现fio 的 Steady State 模式和单独的工具Diskplorer（它自己驱动fio）很有用。但是，我注意到您已经澄清了您的问题，并且上述选项/工具不会在一定数量的不同“最大 IOPS”点处生成延迟数（但是 Diskplorer确实会针对 I/O 深度数生成延迟/IOPS）。

    除此之外fio，您还可以查看使用vdbenchStorageReview 自己实际上似乎在该评论中使用的工具（尽管他们的页面声称他们使用 fio），但您必须向libaio类似的提交挥手告别 - 我相当确定vdbench不执行特定于平台的 AIO，因为它试图与平台无关（因此它只能使用多个线程/进程来增加深度）。

    • 1
  2. Best Answer

    这是我编写的 bash 脚本（在 github 上托管的 fio-ramp）：

    #!/bin/bash
# Copyright 2019 Mikko Rantalainen
# License: MIT X License
#
# Debian/Ubuntu requirements:
# sudo apt install fio jq
#
# See also: https://fio.readthedocs.io/en/latest/fio_doc.html
#
set -e

if test -z "$1"
then
    echo "usage: $(basename $0) <result.csv> [fio options]" 1>&2
    echo "<result.csv> will contain CSV with µs latency for different IOPS" 1>&2
    echo "  For example, " 1>&2
    echo "  $(basename $0) output.csv --blocksize=8k --rw=randwrite --iodepth=4" 1>&2
    echo "  will compute IOPS latency values for 8K random write QD4." 1>&2
    # Note: if --numjobs=4 then actual IOPS will be 4x the amount targeted because targeted is per job - prefer increasing iodepth instead!
fi

resultfile="$1";
shift; # remove filename from parameters, left rest for fio

log10_series()
{
    count=1
    step=1

    echo 1
    while (( $step < 1000000 ))
    do
        for (( i=1; i < 10; i++ ))
        do
            count=$(( $count + $step ))
            echo $count
        done
        step=$(( 10 * $step ))
    done
}

echo "Writing output to '$resultfile' ..."

# Note: "| while read ..." loop causes shell to create subshell, we have to share data via actual file because variables do not work over subshell boundaries :-/
best_actual_iops_file=$(mktemp --tmpdir fio-ramp-best-actual-iops.XXXXXXXX.tmp)
echo 0 > "$best_actual_iops_file"
trap "rm '$best_actual_iops_file'" EXIT

echo '"Target IO/s", "Actual IO/s", "Min latency (µs)", "Avg latency (µs)", "Max latency (µs)"' | tee "$resultfile"
log10_series | while read iops
do
    LC_ALL=C fio --name TEST --filename=fio-ramp.benchmark.temp --rw=randread \
        --size=500m --io_size=10g --blocksize=4k \
        --ioengine=libaio --direct=1 --numjobs=1 --iodepth=1 \
        --ramp_time=1 --runtime=5 --end_fsync=1 --group_reporting \
        --rate_iops=$iops --rate_iops_min=1 --max_latency=1s \
        --warnings-fatal --output-format=json "$@" \
    | jq '.jobs[] | (.read.iops, .read.lat.min, .read.lat.mean, .read.lat.max)' \
    | xargs -r printf "%s %s %s %s\n" | while read actual_iops min avg max
    do
        printf "% 13s, % 13s, % 18s, % 18s, % 18s\n" "$iops" "$actual_iops" "$min" "$avg" "$max" | tee -a "$resultfile"
        if [ "$(echo "$(cat "$best_actual_iops_file") <= $actual_iops" | bc -l)" == "1" ]; then
            echo "$actual_iops" > "$best_actual_iops_file"
        else
            echo "Actual IOPS dropped when target IOPS was increased, aborting." 1>&2
            exit 1
        fi
    done
done

    示例图（英特尔 SSD 910 上的延迟与 IOPS，随机 4K 读取 QD32，日志-日志图）： 图表显示了大约 30,000 IOPS 的最低平均延迟和超过 60,000 IOPS 的延迟急剧增加。

    与Diskplorer相比，它为每个 IOPS 目标运行一个新fio进程并收集最小、平均和最大延迟。我比 python 更了解 bash，所以这对我来说更容易编写。从长远来看，改进 Diskplorer 可能会更好，以防它的许可证是可接受的（目前尚未为该项目定义许可证）。

    • 1

相关问题