TS-873でのローカル速度計測

TS-873でのローカル速度計測の記録

最初に

前回はGbE接続をしてWindows側で計測しました
実際の作業はSMB経由なのでそれはそれで大事なのですが
キャッシュも効いてしまうしGbEで頭打ちになるしで
ボリューム自体の素の速度がわからないという問題がありました
今回はNAS上でローカル計測を実施して様々な構成で比較していきます

ハードウェア概要

QNAP TS-873-4G

Amazon | QNAP(キューナップ) TS-873 クアッドコア2.1 GHz CPU 4GBメモリ 8ベイ DTCP-IP/DLNA対応
https://amzn.to/34uq7oC

メモリは増設せずに2GBx2の4GBのまま
使用したHDDは全てSeagate ST1000DM010 1TB 7200rpm
QTSバージョンは4.4.1.1086

Multimedia Consoleなどの追加機能アプリは全部無効
システムサービスはMicrosoftネットワークとWebサーバーのみ有効

HDD自体は普通のデスクトップ用HDDで
シーケンシャルで200MB/s弱程度

計測方法

QTSにはCrystalDiskMarkのようなツールはありませんので
ツールを自前で入れる必要があります

QTSはLinuxベースなのでSSH接続すればLinuxコマンドが実行可能
それを利用して速度計測に使えそうなコマンドがないか調べると
標準でfioコマンドが使えることが判明したのでfioを使って計測しました

[~] # fio -v
fio-2.2.10

fioのバージョンが3系ではなく2系なのが残念ですがこのまま使うことにします

fioを直で実行してもいいのですがCrystalDiskMarkのように実行できる
シェルスクリプトがあるので利用することにしました

GitHub – buty4649/fio-cdm: fioでCrystalDiskMarkっぽい計測を行うコマンド
https://github.com/buty4649/fio-cdm

ちなみにfioが3系であればCrystalDiskMark 6系の項目になっているのでこちらがおすすめ

GitHub – 0xFelix/fio-cdm: Shell script which mimics CrystalDiskMark 6 on Linux systems with the help of fio
https://github.com/0xFelix/fio-cdm

更新されて計測基準が変わると困るので今回使用したfio-cdmを貼り付けておきます

#!/bin/sh

TARGET="$1"

fio2cdm() {
    awk '
    /^Seq-Read:/          {getline;if($1~/^read/) {seqread =$4}}
    /^Seq-Write:/         {getline;if($1~/^write/){seqwrite=$3}}
    /^Rand-Read-512K:/    {getline;if($1~/^read/) {rread512 =$4}}
    /^Rand-Write-512K:/   {getline;if($1~/^write/){rwrite512=$3}}
    /^Rand-Read-4K:/      {getline;if($1~/^read/) {rread4 =$4}}
    /^Rand-Write-4K:/     {getline;if($1~/^write/){rwrite4=$3}}
    /^Rand-Read-4K-QD32:/ {getline;if($1~/^read/) {rread4qd32 =$4}}
    /^Rand-Write-4K-QD32:/{getline;if($1~/^write/){rwrite4qd32=$3}}
    function n(i) {
    	split(gensub(/bw=([0-9.]+)(([KM]?)B\/s,)?/,"\\1 \\3", "g", i), a);
  s = a[1]; u = a[2];
  if(u == "K") {s /= 1024}
  if(u == "")  {s /= 1024 * 1024}
  return s;
    }
    END {
    	print ("|      | Read(MB/s)|Write(MB/s)|");
  print ("|------|-----------|-----------|");
        printf("|  Seq |%11.3f|%11.3f|\n", n(seqread),   n(seqwrite));
        printf("| 512K |%11.3f|%11.3f|\n", n(rread512),  n(rwrite512));
        printf("|   4K |%11.3f|%11.3f|\n", n(rread4),    n(rwrite4));
        printf("|4KQD32|%11.3f|%11.3f|\n", n(rread4qd32),n(rwrite4qd32));
    }
    '
}

trap "rm -f ${TARGET}/.fio-diskmark" 0 1 2 3 9 15

# see. http://www.winkey.jp/article.php/20110310142828679
cat <<_EOL_ | fio - | fio2cdm
[global]
ioengine=libaio
iodepth=1
size=1g
direct=1
runtime=60
directory=${TARGET}
filename=.fio-diskmark

[Seq-Read]
bs=1m
rw=read
stonewall

[Seq-Write]
bs=1m
rw=write
stonewall

[Rand-Read-512K]
bs=512k
rw=randread
stonewall

[Rand-Write-512K]
bs=512k
rw=randwrite
stonewall

[Rand-Read-4K]
bs=4k
rw=randread
stonewall

[Rand-Write-4K]
bs=4k
rw=randwrite
stonewall

[Rand-Read-4K-QD32]
iodepth=32
bs=4k
rw=randread
stonewall

[Rand-Write-4K-QD32]
iodepth=32
bs=4k
rw=randwrite
stonewall
_EOL_

使用方法はfio-cdmファイルをNASに転送して実行権限を追加して実行するのみ
fio-cdmの中を見ればわかりますけどdirect=1で直書き込み(キャッシュ無効)
size=1gなので1Gサイズでの計測が初期値でした

NASへの転送はSMB経由で送ればOK
SMB共有フォルダはNAS上のパスは/shareの中に配置されていて
通常ボリュームであれば/share/CACHEDEV1_DATAか/share/CACHEDEV2_DATA
暗号化ボリュームの場合は/share/CE_CACHEDEV2_DATAのようにCE_が付きます

testという名前で共有フォルダを作った場合の例になりますが
chmodでfio-cdmへ実行権限を追加します

[~] # chmod a+x /share/CACHEDEV2_DATA/test/fio-cdm

fio-cdmの後ろに速度計測する場所を指定して実行すればOK

[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    100.000|    100.000|
| 512K |     50.000|     50.000|
|   4K |      0.500|      0.500|
|4KQD32|      1.000|      1.000|

他の計測条件は前回のSMB計測と同じで
システムボリュームは50GB割り当てて残りを全て計測用ボリュームへ割り当て
(2つ目のボリュームで計測しているのでCACHEDEV2_DATAになる)
各計測結果は10秒間隔で5回連続計測して中央値に近い結果を採用していて
シックとシンの変換機能は使用せず毎回作り直してます

計測結果を確認する前に注意事項

計測結果を閲覧する前に計測値の変動についての説明です
前回でもCrystalDiskMarkの結果についてある程度発生していると記載しましたが
fio-cdmの結果は前回の誤差を大幅に超えることをわかった上で参考にしてください

例としてHDD8台 RAID6での変動幅
10秒間隔で10回実行した中で最高値と最低値

[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    293.999|     90.604|
| 512K |     49.490|     28.428|
|   4K |      0.607|      0.479|
|4KQD32|     10.889|      1.354|
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    426.489|     92.854|
| 512K |     61.930|     29.044|
|   4K |      0.770|      0.487|
|4KQD32|     10.808|      1.347|

こんな感じですので細かい数値の差は無視で構いません
400となっていても350~450ぐらいで変動しつつ
転送するタイミングによってはたまに遅くなるかもぐらいで見てください

計測結果

(暗号化)シックとシンの比較

通常ボリュームのシックボリューム・シンボリュームの比較と
暗号化ボリュームのシックボリューム・シンボリュームの比較を同時にしていきます

HDD1台

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    191.330|    187.066|
| 512K |     57.693|     88.781|
|   4K |      0.610|      0.979|
|4KQD32|      1.442|      0.933|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    185.440|    175.824|
| 512K |     55.349|     91.601|
|   4K |      0.597|      0.984|
|4KQD32|      1.446|      0.925|

// シンボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    183.021|    186.998|
| 512K |     59.883|     91.119|
|   4K |      0.610|      1.018|
|4KQD32|      1.420|      0.929|

// 暗号化シンボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    191.688|    176.006|
| 512K |     55.478|     89.967|
|   4K |      0.609|      0.985|
|4KQD32|      1.421|      0.919|

HDD8台 RAID10

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    589.522|    320.000|
| 512K |     62.872|    138.453|
|   4K |      0.727|      3.873|
|4KQD32|      9.760|      3.999|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    379.822|    173.119|
| 512K |     59.208|    108.199|
|   4K |      0.722|      3.767|
|4KQD32|      9.613|      3.933|

// シンボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    587.156|    322.723|
| 512K |     57.690|    145.001|
|   4K |      0.727|      3.814|
|4KQD32|      9.679|      4.082|

// 暗号化シンボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    362.734|    176.491|
| 512K |     57.600|    107.960|
|   4K |      0.718|      3.671|
|4KQD32|      9.668|      4.065|

HDD8台 RAID5

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    516.129|     75.161|
| 512K |     60.076|     36.582|
|   4K |      0.771|      0.825|
|4KQD32|     11.086|      2.272|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    254.536|     68.854|
| 512K |     46.050|     31.727|
|   4K |      0.645|      0.828|
|4KQD32|     10.674|      2.275|

// シンボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    491.362|     77.652|
| 512K |     64.072|     36.994|
|   4K |      0.778|      0.836|
|4KQD32|     10.940|      2.302|

// 暗号化シンボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    255.426|     66.623|
| 512K |     58.494|     34.343|
|   4K |      0.799|      0.833|
|4KQD32|     10.885|      2.330|

HDD8台 RAID6

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    414.575|     92.838|
| 512K |     62.779|     29.261|
|   4K |      0.764|      0.479|
|4KQD32|     10.947|      1.340|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    309.179|     78.824|
| 512K |     57.548|     27.012|
|   4K |      0.777|      0.492|
|4KQD32|     10.680|      1.343|

// シンボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    408.945|     92.905|
| 512K |     60.517|     29.232|
|   4K |      0.772|      0.475|
|4KQD32|     10.978|      1.359|

// 暗号化シンボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    317.914|     56.734|
| 512K |     57.600|     27.477|
|   4K |      0.771|      0.487|
|4KQD32|     10.829|      1.338|

まとめ

通常ボリュームのシックとシンを比較してもSeqで勝って512Kで負けたり
同じRAID構成で暗号化ボリュームだと逆転していたりと
ほぼ誤差の範囲内なのがわかりますので
シックとシンは機能面だけで選択して大丈夫だと思います

暗号化の有無に関してはSMB計測時と違って頭打ちせず計測できている影響で
しっかり数値に差が出てきています
通常ボリュームより若干遅いのは事実ですが誤差を考えると
暗号化のコストはそこまで多くないように思います

しかしRAID10だけは例外になっていて
誤差を考慮しても明らかにシーケンシャル書き込みが他の構成より落ち込みが大きいです
しかし絶対値で考えるとRAID5/RAID6よりRAID10は倍ほど高速で
GbEの上限値を超えていることを考えるとRAID10の選択肢もそこまで悪くないと思います
(SMB経由だとキャッシュ効果でほぼ速度が変わらない点もお忘れなく)

全計測結果

シックとシンの差が小さいので
よく使うであろうシックボリュームと暗号化シックボリュームの計測結果を
HDD1台~8台までRAID0以外の全構成を計測しました

RAID構成別の台数
RAID1:2台
RAID5:3台・4台・5台・6台・7台・8台
RAID6:4台・5台・6台・7台・8台
RAID10:4台・6台・8台
RAID50:6台・8台
RAID60:8台

HDD1台

RAIDなし

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    191.330|    187.066|
| 512K |     57.693|     88.781|
|   4K |      0.610|      0.979|
|4KQD32|      1.442|      0.933|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    185.440|    175.824|
| 512K |     55.349|     91.601|
|   4K |      0.597|      0.984|
|4KQD32|      1.446|      0.925|

HDD2台

RAID1(実効容量:1台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    139.643|    165.643|
| 512K |     58.851|     86.897|
|   4K |      0.607|      0.915|
|4KQD32|      2.753|      0.921|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    137.838|    117.782|
| 512K |     56.261|     81.516|
|   4K |      0.596|      0.927|
|4KQD32|      2.769|      0.923|

HDD3台

RAID5(実効容量:2台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    379.119|    183.710|
| 512K |     61.310|     34.723|
|   4K |      0.650|      0.512|
|4KQD32|      4.255|      0.949|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    313.438|    130.963|
| 512K |     57.811|     32.385|
|   4K |      0.652|      0.520|
|4KQD32|      4.260|      0.955|

HDD4台

RAID10(実効容量:2台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    380.669|    303.138|
| 512K |     62.125|    145.248|
|   4K |      0.661|      1.915|
|4KQD32|      5.275|      1.939|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    380.387|    171.726|
| 512K |     59.376|    104.661|
|   4K |      0.646|      1.858|
|4KQD32|      5.282|      1.956|

RAID5(実効容量:3台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    509.706|     85.412|
| 512K |     62.359|     35.210|
|   4K |      0.690|      0.510|
|4KQD32|      5.708|      1.047|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    265.629|     71.150|
| 512K |     59.754|     33.104|
|   4K |      0.690|      0.508|
|4KQD32|      5.648|      1.042|

RAID6(実効容量:2台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    316.440|    179.807|
| 512K |     60.239|     31.821|
|   4K |      0.656|      0.511|
|4KQD32|      5.434|      0.929|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    266.112|    115.720|
| 512K |     57.168|     29.188|
|   4K |      0.648|      0.500|
|4KQD32|      5.545|      0.938|

HDD5台

RAID5(実効容量:4台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    432.250|     70.602|
| 512K |     60.854|     31.497|
|   4K |      0.696|      0.520|
|4KQD32|      6.958|      1.232|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    307.600|     69.769|
| 512K |     60.288|     27.812|
|   4K |      0.720|      0.397|
|4KQD32|      7.056|      1.094|

RAID6(実効容量:3台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    420.880|     75.874|
| 512K |     54.174|     31.866|
|   4K |      0.614|      0.485|
|4KQD32|      6.800|      0.968|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    281.087|     65.165|
| 512K |     56.152|     30.000|
|   4K |      0.654|      0.462|
|4KQD32|      6.825|      0.993|

HDD6台

RAID10(実効容量:3台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    538.381|    264.736|
| 512K |     61.608|    142.302|
|   4K |      0.675|      2.871|
|4KQD32|      7.518|      2.919|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    381.521|    160.075|
| 512K |     60.320|    107.756|
|   4K |      0.678|      2.858|
|4KQD32|      7.552|      2.959|

RAID5(実効容量:5台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    510.979|     76.259|
| 512K |     59.803|     31.940|
|   4K |      0.735|      0.585|
|4KQD32|      8.364|      1.553|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    267.853|     71.414|
| 512K |     59.639|     30.659|
|   4K |      0.734|      0.583|
|4KQD32|      8.375|      1.533|

RAID6(実効容量:4台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    414.743|     64.346|
| 512K |     52.542|     33.309|
|   4K |      0.634|      0.488|
|4KQD32|      8.180|      1.062|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    289.511|     63.924|
| 512K |     52.914|     31.246|
|   4K |      0.658|      0.480|
|4KQD32|      8.189|      1.068|

RAID50(実効容量:4台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    464.820|     68.873|
| 512K |     60.445|     43.753|
|   4K |      0.713|      0.792|
|4KQD32|      8.045|      1.975|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    324.358|     72.413|
| 512K |     59.017|     39.897|
|   4K |      0.701|      0.813|
|4KQD32|      8.036|      1.983|

HDD7台

RAID5(実効容量:6台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    434.635|     73.855|
| 512K |     63.809|     34.109|
|   4K |      0.777|      0.678|
|4KQD32|      9.741|      1.817|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    274.974|     72.454|
| 512K |     59.267|     30.838|
|   4K |      0.773|      0.678|
|4KQD32|      9.607|      1.826|

RAID6(実効容量:5台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    420.188|     67.761|
| 512K |     51.031|     27.993|
|   4K |      0.642|      0.441|
|4KQD32|      9.393|      1.164|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    299.503|     64.659|
| 512K |     60.366|     26.472|
|   4K |      0.742|      0.447|
|4KQD32|      9.413|      1.170|

HDD8台

RAID10(実効容量:4台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    589.522|    320.000|
| 512K |     62.872|    138.453|
|   4K |      0.727|      3.873|
|4KQD32|      9.760|      3.999|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    379.822|    173.119|
| 512K |     59.208|    108.199|
|   4K |      0.722|      3.767|
|4KQD32|      9.613|      3.933|

RAID5(実効容量:7台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    516.129|     75.161|
| 512K |     60.076|     36.582|
|   4K |      0.771|      0.825|
|4KQD32|     11.086|      2.272|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    254.536|     68.854|
| 512K |     46.050|     31.727|
|   4K |      0.645|      0.828|
|4KQD32|     10.674|      2.275|

RAID6(実効容量:6台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    414.575|     92.838|
| 512K |     62.779|     29.261|
|   4K |      0.764|      0.479|
|4KQD32|     10.947|      1.340|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    309.179|     78.824|
| 512K |     57.548|     27.012|
|   4K |      0.777|      0.492|
|4KQD32|     10.680|      1.343|

RAID50(実効容量:6台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    506.680|    100.480|
| 512K |     63.081|     37.144|
|   4K |      0.771|      0.489|
|4KQD32|     10.751|      1.720|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    318.111|     91.913|
| 512K |     47.074|     34.067|
|   4K |      0.610|      0.496|
|4KQD32|     10.697|      1.726|

RAID60(実効容量:4台)

// シックボリューム
[~] # /share/CACHEDEV2_DATA/test/fio-cdm /share/CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    436.116|     65.920|
| 512K |     39.390|     37.731|
|   4K |      0.467|      0.732|
|4KQD32|     10.196|      1.844|

// 暗号化シックボリューム
[~] # /share/CE_CACHEDEV2_DATA/test/fio-cdm /share/CE_CACHEDEV2_DATA/test
|      | Read(MB/s)|Write(MB/s)|
|------|-----------|-----------|
|  Seq |    345.479|     64.671|
| 512K |     38.357|     35.949|
|   4K |      0.458|      0.763|
|4KQD32|     10.129|      1.909|

まとめ

このリストを見ても理論上は速度が上がるはずでも数値が下がっていたりするので
いかに計測タイミング次第で変動するかがわかると思います

この辺はまだ安定していないQTS 4系の影響なのかQTSそもそもの癖なのか
ハードウェアの仕様なのか現時点では不明です

一番速度が出る8台 RAID10でもCPU・メモリともに半分以上余裕があるので
7200rpm程度のHDDならどの構成でも負荷は気にする必要はないでしょう

SMBの場合はLANポート1本接続なのに300MB/s出たところで過剰性能ですから
GbEのLANポートをいくつ使用するかで必要な速度計算した上で
何台故障しても大丈夫かどうかを考慮してRAID構成を選択すればいいと思います

今回の計測結果はあくまでキャッシュ無効にし、HDD本来の速度を調べましたが
前記事通り、実際にはメモリキャッシュが使用されますのでその点をお忘れなく