MogileFSで構築する高速スケーラブルな分散ファイルシステム

最新特集【一覧】

EPUB生成ツール「ReVIEW」について達人出版会の高橋氏に聞いてみた

1つのソースでEPUBとPDFを生成できる「ReVIEW」を試す

Snow Leopard探索記 最終回：線路は続くよどこまでも

　本連載「オープンソースソフトウェアでクリエイターを支援するmoonlinx」の第1回「ウェブメディア「moonlinx」を支えるオープンソースソフトウェア」ではmoonlinxの概要およびシステム構成を、第2回の「openSUSEの管理ツール「YaST」で作業を効率化：moonlinxを支えるOSS」では使用OSであるopenSUSEについて簡単に説明しました。

　今回は、moonlinxで取り扱うメディアファイル（画像、音楽、動画）の保管方法について説明したいと思います。

分散ファイルシステム「MogileFS」

　moonlinxでは、各種メディアファイルの保管に、オープンソースの分散ファイルシステム「MogileFS」を利用しています。

　分散ファイルシステムを用いることにより、ファイルシステムを構成するノード群の一部がダウンしても、データを失うことなくシステムとして機能し続け、かつ自動レプリケーションによるバックアップにより信頼性の高い環境を実現しています。

　日本ではまだ採用実績が多いとはいえないMogileFSですが、アメリカの最大手ブログサイトのひとつ「LiveJournal.com」や、ソーシャルニュースサイト「Digg」などで採用されており、その有用性は折り紙つきです。

moonlinxのシステム構成。今回はMogileFSを取り上げる（画像をクリックすると拡大します）

MogileFSとは

　MogileFSはmemcachedで有名なDanga Interactiveで開発されたオープンソースの分散ファイルシステムです。Perlで実装されており、CPAN経由でのインストールも可能です。

MogileFSには以下のような特長があります。

• 特殊カーネル不要
• プロトコルはHTTPを利用
• RAID、SAN、NFS一切不要
• ファイルシステム依存なし
• 自動レプリケーション
• 簡単にディスク追加が可能
• 自動フェイルオーバー

　SANで使用されるような特殊なハードウェアやプロトコルは不要ですし、iSCSIのように利用するために、カーネルをリビルドする必要もないため、さまざまな環境で容易に利用できるというのが大きなメリットです。

　また、ディスク共有型ではなくサーバ単位の冗長化ですので、単純にノードを追加していくだけでストレージの拡張が行えます。加えて、MogileFSは複数のサーバ間で同一のファイルを自動でレプリケートするため、ノードのうちのどれかがダウンしたとしても、ファイルにアクセスできなくなることがありません。

　moonlinxでMogileFSを採用した理由として、ユーザーがアップロードするメディアファイルを大量に管理する際、どうしてもストレージの扱いが煩雑になってしまう背景が過去にありました。

　高性能なストレージ装置を利用した環境が構築できれば最適なのかもしれませんが、そこにばかりコストをかけられないという事情もあります。また、何か問題があった場合にできる限り自分たちで解決したいと考えていたこともあり、最終的にはオープンソースソフトウェアであるMogileFSに落ち着きました。

　ここでMogileFSを構成する各種コンポーネントについて説明します。

MogileFSを構成するコンポーネント群（画像をクリックすると拡大します）

MogileFSのコンポーネント群

　MogleFSは3つのコンポーネントとデータベースから構成されています。

• trackers（mogilefsd）
• storage nodes（mogstored）
• client（Perl、Ruby、PHPなど）
• tracker's database（MySQL）

trackers（mogilefsd）

• clientとstorage nodeの間を取り持つ
• clientからリクエストを受け取ったり、DBでstorageの状態を管理する

storage nodes（mogstored）

• ファイル実体を保存するhttpサーバ
• WebDAVに近い振る舞い

client（Perl、Ruby、PHPなど）

• クライアントインターフェース
• 公式にはPerlのみ
• moonlinxではrubyクライアントを利用しています

tracker's database（MySQL）

• ファイルのノード情報、storage nodesの情報を保持する

ストアの動き（画像をクリックすると拡大します）

　trackersにメディアファイルを任意のキーと共にストアすると、Storage nodeのいずれかに所定の数分保存されます。この値（デバイス、レプリカの数）は設定ファイルでデフォルト値を決められるほか、ストアのタイミングでも指定することができます。ただし、キーの値は一意である必要があります。

参照時の動き（画像をクリックすると拡大します）

　trackersにストアした際、付与したキーを問い合わせることによって実ファイルがStorage nodeのどこにあるかを返してくれます。この際の返値は、「http://exampledomain/path/to/file」の形式で、レプリカがある分だけ全て返す仕様になっています。

　以上が、MogileFSの基本的な構成です。次回はMogileFSの「更なる」高速化と効率化について解説します。