シャーディング、パーティショニング

[nish...@gmail.com]

MongoDBのシャーディング機能を使って、コレクションパーティショニングを実現したいと考えています。そこで、シャードサーバー群(mongod)、設定サーバー(mongoc)、ルーターサーバー(mongos)を全て単一ホストに起動してシャーディング環境を構築しました。ですが、シャードしない環境と比べて、性能が著しく劣ってしまっているように感じます。ルーターサーバーを経由する分、多少のパフォーマンス劣化はあるのかなとは思ったりはしていますが、何か考えられるようなことはあるでしょうか。CPU、メモリ、IOなども確認していますが、まだ多少は余裕があるように見えます。

[nish...@gmail.com]

書き忘れました。

確認したのはInsert機能(1件毎or数十件単位のBulk Insert)になります。

2014年6月9日月曜日 21時47分18秒 UTC+9 nish...@gmail.com:

[Tetsutaro Watanabe]

渡部と申します

バルクインサートで考えられるとしたら、

シャーディングをしている場合のみチャンクマイグレーションが発生し、それが性能を圧迫しているかもしれません。

MongoDBでは、あらかじめチャンクを分割してない(pre splitingをしていない)状態でインサートし始めると、最初は一つチャンクにデータが入り、その後そのチャンクの中のデータが増えてくるとチャンクが分割し、その後マイグレーションされます。

マイグレーションでは、マイグレーション元でのdeleteとマイグレーション先でのinsertが発生しますので、これらが余計な処理になっているのではないでしょうか？

上記の仮説は、MongoDB付属のmongostatという統計情報で、各mongodにかかるクエリの数をみればわかると思いますので、調べてみてはいかがでしょうか？

それ以外では、私はちょっと思い当たることがありません。

[nish...@gmail.com]

渡部 様

貴重なご意見ありがとうございます。

確かに、動作確認の意味も含めて、チャンクのサイズを少し小さめに設定して確認した時もありましたので、

分割後のマイグレーション負荷が影響した可能性はあると思います。

mongostatについては、主にロック情報のみ確認していたので、他の観点も注意して確認してみようと思いま

す。

もしマイグレーションの影響とすれば、たとえば、シャード情報としてシャードタグを設定して、各ドキュメ

ントが決まったシャードに登録されるようにすれば、この作業を回避できるのではないかともおもいますので、

そういう点も含めて確認を進めていこうと思います。

※最終的に確認したいケースが、

①基本はキーレンジ（キー指定）によるパーティショニング

②個別シャードに負荷がかかるようになった場合は、その部分についてレンジでパーティショニング

という感じなので、タグによるシャーディングが一番近い設定と考えています。

西村

2014年6月10日火曜日 22時53分26秒 UTC+9 Tetsutaro Watanabe:

[Hiroaki Kubota]

窪田です。

シャーディングで性能劣化したとすれば、疑うべきは大抵３つです。

1. チャンクサイズ＆マイグレーション

　渡部さんの指摘どおり。
　自動マイグレーションを切る。チャンクサイズを大きくする。を試せば結果がでるでしょう。
2. 特定シャードへのインサート
　シャードキーの特徴によっては、いつも同じシャードに更新が行くことになります。
　更新負荷がシャーディングの恩恵を受けないので頭打ちになります。
　その場合、更に１の問題が起きるのでダブルパンチ（というか１，２は同じシャードキー選定問題）

3. mongos 負荷
　後ろのシャードが余りにも多いとmongos自体がボトルネックになります。
　システム構成を再検討する必要が出てきます。

2014年6月11日 5:02 <nish...@gmail.com>:

--
このメールは Google グループのグループ「MongoDB JP」に登録しているユーザーに送られています。
このグループから退会し、グループからのメールの配信を停止するには mongodb-jp+...@googlegroups.com にメールを送信してください。
このグループに投稿するには mongo...@googlegroups.com にメールを送信してください。
http://groups.google.com/group/mongodb-jp からこのグループにアクセスしてください。
その他のオプションについては https://groups.google.com/d/optout にアクセスしてください。

[Nishimura Ryuichiro]

窪田 様

ご指摘ありがとうございました。

1.,2.

チャンクマイグレーション・サイズに関する点については

もう少し細かく確認してみようと思います。

3.

確認した環境では、mongosに3つのシャードをぶら下げて

確認しているのですが、mongostatでコネクション数を確認

したところ、single構成では、2つくらいのコネクション数

しかなかったのが、sharding構成にすると、mongosは2つ

くらいなのですが、各mongodは7個程度、mongocは13個

程度となっていて、この辺りの数も、今回確認した環境に

負荷を与えているのではないか？と思って調べています。

以上です。

2014年6月13日金曜日 0時25分03秒 UTC+9 crumbjp: