SSS はキーバリューストアを基盤として採用することで、通常のファイルシステムベースの MapReduce システムと比較して、より柔軟なワークフローを構築することが可能となっている。本稿ではこのような SSS の特性のメリットを確認するために、複雑なワークフロー処理を伴うグラフ処理システム PEGASUS による評価を行った。PEGASUS は Hadoop 向けに記述されている。この PEGASUS の提供するアプリケーションの一部を SSS 固有の機能を用いて SSS 上に再実装し、オリジナルの Hadoop 版と比較した。評価の結果、PEGASUS の移植において、SSS を用いることでワークフロー構造を単純化するとともに、データ構造をバイナリ化することが可能であることがわかった。この結果多くの場合において高速化に成功し、特にブロック化した場合においては最大で約 2.1 倍の高速化を実現できることを確認した。

分散キーバリューストアをベースとし、Owner Computeルールで計算を実行することで、高速な繰り返し処理を可能とするMapReduce処理系SSSを開発している。このSSSの評価の一つとして、PrefixSpan法による系列パターン抽出を実世界アプリケーションとして利用して来た。しかし、既存の手法では大規模なデータに対しては十分な絶対性能が得られていなかった。本稿ではPrefixSpanをMapReduceで実装するための新たな手法を提案する。提案手法ではデータの流れを見直すことによって、これまでReduceで行なっていた処理を、Mapに移すことによって大幅な速度の向上を得た。具体的には4Mのソースコードのデータに対してSSSで約60倍、Hadoopで約3倍の高速化を実現した。

継続的に生成されるストリームデータを、大容量データと付きあわせて処理するためのシステムを提案する。従来のストリーム計算システムは、オンメモリの比較的少量のデータしか参照できない。一方Hadoopに代表されるファイルベースのMapReduceシステムを拡張し、ストリームデータに対応させる研究も存在するが、ストリームデータとストレージ上のデータをうまく組み合わせて処理することのできる処理系はない。我々の提案するSSSは、間欠的に起動するMapper / Reducer プロセスでストリームデータの処理を行う。この際にストレージ上の既存データとのマージ操作を行うことで、ストレージ上の大容量データとストリームデータを付きあわせて処理することが可能になる。本稿ではSSSのストリームデータ処理機構の概要と、ストリームデータ処理の予備的評価の結果を示す。予備評価の結果、提案システムは1ノードあたりおよそ秒間0.14Miレコードを処理できることが確認できたが、読み出しスレッドとの干渉により間欠的に書き込みスループットが大幅に低下し、平均としては秒間0.095Miレコード程度となることがわかった。

われわれが開発中のMapReduce処理系SSSは、既存のKey Value Store（KVS）であるTokyoCabinetを要素KVSとする分散KVS上に構築されている。既存のSSS実装ではTokyoCabinetをネットワークサーバ化するレイヤであるTokyoTyrantを改変し、利用してきた。しかし、性能上の問題点が確認されたため、TokyoTyrant を廃し、独自のネットワーク・サーバレイヤを導入した。この導入により、１）ネットワーク通信時のデータコピー削減によるアクセス高速化、２）タプルグループごとにデータベースファイルを持つことによるグループ削除の高速化、３）キーに対するプレフィックス、ポストフィックスを廃することによる転送データ量の削減、を実現することができた。

MapReduce は,大規模なデータインテンシブ計算の実装手段として広範に用いられている.その単 純なプログラミングモデルゆえ,MapReduce はデータインテンシブ計算のみならず,より一般的な HPC 分野の並列分散アプリケーションのためのプログラミングツールとしても利用されつつある.われわれは イタレーションが高速で柔軟なワークフローの構成が可能な大規模データ処理システムの実現を目的とし て,MapReduce 処理系 SSS を開発している.Hadoop が HDFS と呼ばれる一種の分散ファイルシステム を基盤としているのに対して,SSS は分散キーバリューストアを基盤としている点が大きく異なる.一方 で,こうした処理系の利活用によってますます大規模な計算リソースを必要とするようになると,ランニ ングコスト,とりわけ電力コストの問題は避けられない問題となる.われわれは消費電力に対して処理系 をチューニングする必要があると考え,そのために実験用クラスタの消費電力を秒単位で計測・報告する システムを構築した.その上で,本稿では English Wikipedia の全テキストデータを対象に Word Count を実行するベンチマーク実験を実施したので本稿ではその結果を示す.

広く用いられている Hadoop と比較して、より広い範囲に適用可能な MapReduce 処理系 SSS を開発して いる。SSS はオープンソースのキーバリューストア(KVS)である Tokyo Cabinet とそのネットワークインターフェ イスである Tokyo Tyrant をストレージとして用いる。しかし、SSS のアクセスパターンはバルクでの読み出し、書き 込み、削除が主で、Tokyo Tyrant が本来想定している細粒度のアクセスとはかけ離れており、Tokyo Tyrant が用意 する API を利用するだけでは、Tokyo Cabinet/Tokyo Tyrant 本来の性能を引き出すことが出来なかった。本稿では われわれが行った、Tokyo Cabinet に対する改変について報告する。SSS が行う範囲指定処理を Tokyo Cabinet およ び Tokyo Tyrant に追加し、さらに内部でのロックを最適化した。その結果、Tokyo Cabinet を直接用いるマイクロ ベンチマークで、読み込み時 5 倍書き込み時 2 倍の速度向上を確認した。また、SSS 全体としてのマクロベンチマー クでも読み込み時 3 倍、書き込み時で 1.3 倍の速度向上を確認した。

MapReduceプログラミングモデルの幅広いアプリケーションへの適用をめざし、より柔軟で複雑なワークフロー実行を可能にするMapReduce処理系SSSを開発している。SSSは代表的なMapReduce処理系であるHadoopとは大きく構成が異なり、したがって性能的特性も大きく異なる。われわれはSSSの有効なアプリケーション領域を知るべく、合成的ベンチマークでの評価とともに実アプリケーションでの評価を行っている。本稿では、先行研究で述べたPrefixSPan法による系列パターン抽出の改良と、疎行列ベクトル積について述べる。評価の結果、いずれのアプリケーションにおいてもSSSはHadoopよりも高性能であることが確認できた。

大量ログ解析のための技術として提案されたMapReduce は、新しい並列プログラミング手法として、より広範なアプリケーションへの応用が期待されているが、そのためには、MapとReduceを自由に組み合わせたワークフローの実行が必須となる。しかし、広く利用されているMapReduce処理系Hadoopは、ファイルシステムをベースとし、MapとReduceの間の通信を特別扱いにする構成を取っているため、MapとReduceが1対1に対応する構造しか記述することができない。このためワークフローの実行が非効率となる。われわれは分散KVSをベースに構成したMapReduce 処理系SSSを提案する。SSSではMapとReduceは、いずれも分散KVSからデータを読み込み、分散KVSに書き込む。このためMapとReduceを自由に組み合わせたワークフローを構成し、効率的に実行することが可能になる。本稿では、SSSの実装を詳述するとともに、合成ベンチマークプログラムおよび、K-meansによるHadoopとの比較評価を示す。評価の結果、SSSはHadoopよりも殆どの場合において高速であることが確認できた。

高速で高機能なMapReduce処理系の実装を目指し、分散キーバリューストアを用いてOwner Computes ルールに基づいた計算を行う軽量なMapReduce処理系SSSの開発を行なった。これまで、合成ベンチマークや簡単なアプリケーションのコアを用いたベンチマークによる評価の結果、Hadoopに対して大幅な高速化を確認したが、実世界のアプリケーションでの性能の検証は行われていなかった。本稿ではPrefixSpan法による系列パターン抽出を対象としてSSSの評価を行った。この結果、SSSは全般にHadoopと比較して高速であり、さらにノード数増大による速度向上の余地があることが確認できた。

Sawzallは、Google が2006年に発表した大容量データの並列バッチ処理に適した言語である。Sawzallの計算モデルはMapReduce型の分散演算であるが、リダクション操作を組み込みのAggregatorに限定することで、エンドユーザによる容易な記述を可能にしている。われわれはHadoopおよびわれわれが現在開発中のMapReduce 処理システム SSSを対象として、Scala言語によるSawzall言語処理系SawzallClone を、Javaをターゲットコードとするコンパイラとして実装した。SSSのNative APIで直接プログラムを記述した場合と比較を行い、言語オーバヘッドを見積もった。また、Googleによる逐次処理系Szlとの比較を行った。その結果、一定の言語オーバヘッドはあるもののメリットを考えれば許容範囲であること、Szlと比較して遜色ない逐次性能を示すことを確認した。

MapReduce プログラムで大容量データを処理する際の実行速度は、Mapへの入力されるデータ、Reduceから出力されるデータ、さらにMap 処理とReduce処理の間でやりとりされる中間データの量と性質によって大きく変化する。特に中間データを蓄積する方法は、処理系によって大きく異なり、システム全体の特性を決定する要因となりうる。われわれは開発中のMapReduce 処理系SSSの特性を確認するために、 先行研究で開発した合成ベンチマークプログラムを用いて、SSSの評価を行い、Hadoopと比較した。合成ベンチマークプログラムは、MapReduceプログラムのデータ入出力部分のみを抽出したもので、パラメータを変更することでさまざまなプログラムの入出力パターンを再現することが可能となっている。評価の結果、以下を確認した。1) SSSはHadoopと比較して一般に高速に動作する、2) SSSのMap後のCombine処理は非常に有用である、3) ベンチマークの設定には改善が必要である。

GoogleによるMapReduce 向け言語であるSawzallのサブセット(以下SawzallClone)を実装しHadoop上で実行できる環境を実装した。SawzallClone はJavaを中間言語として用いるコンパイラとして実装した。構文解析にScalaのParser Combinatorを用いることで、処理系の記述量が削減できた。

MapReduceは，大規模なデータインテンシブ計算の実装手段として広範に用いられている．その単純なプログラミングモデルゆえ，MapReduceはデータインテンシブ計算のみならず，より一般的なHPC分野の並列分散アプリケーションを実装するためのプログラミングツール，謂わば``High-Performance MapReduce''処 理系，としても利用されつつある．こうしたMapReduce処理系の高性能計算への適用を考えたとき，定量的な性能評価基準は必須であるが、MapReduceに関してはそのような基準が存在しない．我々はこうした問題を解決するために，合成ベンチマークによるMapReduceのI/O性能の評価を行うことを提案する．具体的 には，MapReduceアプリケーションのデータ入出力をモデル化するとともに，各パラメータを任意に設定して実行できるベンチマークソフトウェアを実現する．本稿ではモデル化ならびに合成ベンチマークの実装の概要を示すとともに，SSDとSAS HDDを用いた小規模なクラスタでの実行結果を示す．

Sawzall は、Google が 2006 年に発表した大容量データの並列バッチ処理に適し た言語である。Sawzall の計算モデルは MapReduce 型の分散演算であるが、リダ クション操作を組み込みの Aggregator に限定することで、エンドユーザによる容易 な記述を可能にしている。われわれは現在開発中の並列データ処理機構上の言語処 理系を開発するための 1 ステップとして、Hadoop 上で動作する Scala 言語による Sawzall 言語のサブセット処理系を実装した。文法やセマンティクスに関しては明確 な定義がなかったため、2006 年の論文をベースに推測した。Scala は Java VM 上 で動作するため、Java で記述される Hadoop 上での実行は容易である。構文解析に Scala 言語の Parser Combinator を用いることで、処理系の記述量を削減した。言 語インタプリタは、Hadoop の Mapper 上で動作する。Reducer 上では処理系の提 供する Aggregater が動作する。Hadoop で直接記述した場合と、プログラム量およ び実行速度の点で比較を行った。比較の結果、プログラム量は大幅に小さくなる一方、 実行速度の面でも一定のオーバヘッドがあることが確認された。

大規模なデータインテンシブアプリケーションの高性能実行の必要性から，大規模データ処理に特化された分散処理を実現する，Data-Intensive Scalable Computing(DISC) が注目されている．MapReduce は，そうした DISC を実現するシステムのひとつであるが，近年利用可能になってきた，10Gbit/sec クラスの読み書き性能を持つ高速な SSD (Solid State Drive) との組み合わせでは，ソフトウェアオーバヘッドが課題となり，十分な性能が得られない危惧がある．そこで我々は，10Gbit/sec クラスの読み書き性能を持つフラッシュメモリストレージに適した，MapReduce システムの実現を目指し，分散キーバリューストアを基盤とする MapReduce システムのプロトタイプ実装を行った．本稿では，我々のプロトタイプ実装の概要を示すとともに，その基盤となるキーバリューストアの既存実装の性能評価を行う．

大規模なデータインテンシブアプリケーションの高性能実行の必要性から，大規模データ処理に特化された分散処理を実現する，Data-Intensive Scalable Computing(DISC) が注目されている．DISC は，安価なハードディスクと Gigabit Ethernet を用いたクラスタシステムを用いて，大容量データをストリーム的に扱うワークロードを実行するシステムとして非常に有効である．一方で近年利用可能になってきた，10Gbit/sec クラスの読み書き性能を持つ高速な SSD (Solid State Drive) との組み合わせでは，ソフトウェアオーバヘッドが課題となり，十分な性能が得られない危惧がある．そこで我々は，10Gbit/sec クラスの読み書き性能を持つ高速なフラッシュメモリを利用したストレージクラスタに適した，DISC システム SSS を設計・実装することを目指している．本稿では，既存の DISC システムの問題点を考察した上で，我々がプロトタイプ設計している SSS フレームワークのアーキテクチャを説明する．