Category Archives: GlusterFS

GlusterFSの構成ディスクを交換する

図らずも一台のデータを壊してしまったので嬉々として復旧実験。
ノード自体は生きているが、brickの中身を壊しちゃったという場合の話。

参考にするのはGlusterFSの公式資料。

http://www.gluster.org/community/documentation/index.php/Gluster_3.4:_Brick_Restoration_-_Replace_Crashed_Server

  1. とりあえずglusterfsを止める。
    現状、FreeBSD版のservice stopだと子プロセスが残るのでkillallしてくださいな。
    (そのうち直します。あとglusterfsdじゃなくてglusterdが正しいという話もね……。)

    # service glusterfsd stop
    # killall glusterfsd
  2. ディスクを入れ替えたりいろいろする。
    newfsとかmountまで済ませる。
  3. brickのディレクトリを手動で作る。
  4. setextattrbinを持ってきてビルドしておく。(→おまけ)
  5. brickのディレクトリにvolume-idを設定する。ちょっと長いone-linerだけどこんな感じ。
    # cat /var/db/glusterd/vols/<ボリューム名>/info |
        perl -ne 'm/volume-id=/ and s/^.*=// and s/-//g and print' |
        setextattrbin user trusted.glusterfs.volume-id -stdin 
  6. glusterfsを起動して、healを開始させる。
    replicatedなら、

    # service glusterfsd start
    # gluster vol heal <ボリューム名> full

    disperseならNFSでマウントしてから、

    # find <マウント先> -exec stat {}\;

    などで復旧を開始。

おわり。

おまけのバイナリ値なxattrの話

標準のsetextattrだと文字列しか設定できない。
一応バイナリ(表示不可文字)も引き数に設定できるものの、万が一”00″が入ったらダメ。
たとえば、こんな風に消えてしまう。(これだけだとperlの責任が否定できないけどね)

# echo -n "110022" | perl -e 'print pack("H*", );' > a
# hexdump -C a
00000000  11 00 22                                          |.."|
00000003
# perl -e 'print $ARGV[0]' `cat a` | hexdump -C
00000000  11                                                |.|
00000001

そんなわけでsetextattrbinを作ったのです。

GlusterFSをESXiから使う(3) 書き込み速度測定

実運用を想定して、ESXiの仮想マシンを乗っけてddで計ってみた。
結果は大体20MB/sくらいは出ているのでセーフな範囲。もう少し速いとうれしい。

速度を気にするならstripeも測るべきだけど出てこないのは、またバグっぽいものを見つけたから。
こっちはまた追ってまとめる。

Continue reading GlusterFSをESXiから使う(3) 書き込み速度測定

GlusterFSをESXiから使う(2)

XtreemFSに見切りをつけてGlusterFSに戻ってきた。

前回はVMware ESXiからつなぐとデータストアを表示しても何も表示されないままとなってそのうち切断されていたので、ここを調査&修正。
修正版はGitHubにcommit/push済み。(4853f4d)

2016/06/11追記: Makefileがコミットされてなかったりpatchが動かないとかひどいコミットミスがあったから直したよ!!
0118d4d

Continue reading GlusterFSをESXiから使う(2)