adtech studio

[Strata Data Conference 2017 in New York] – Tutorials

nario By nario

AI DWH Hadoop 参加レポート

アドテク本部の水野です。

9/25 – 9/29にニューヨークで開催されたStrata Data Conference 2017に参加してきました.

Strata Data Conferenceは、機械学習、データ管理、ストリーム処理、分散処理といった、大規模データに関するトピックを幅広く扱うカンファレンスの1つです.この記事では本会議前日に受講させていただいたチュートリアルの内容を簡単に紹介したいと思います.

 

今回私が受講したのは下記のチュートリアルです.

Unraveling data with Spark using deep learning and other algorithms from machine learning,   Vartika Singh (Cloudera), Jeffrey Shmain (Cloudera)

一言で言うと,SparkMLで特徴量の抽出のための前処理、モデルパラメータの学習、モデルのバリデーションといった機械学習でよく用いられる操作が、大規模データにも適用可能な分散環境でも簡単に実現できますよという内容のチュートリアルでした.

以前からSparkにはMLlibという機械学習ライブラリが付属していたのですが、そのうちAPIがDataFrameベースのものをSparkMLと呼んでいるようです.ちなみにDataFrameは、Spark固有の分散処理向けのデータ構造であるRDDにスキーマの概念が追加されたもので、RDBのようにカラム名や型が付いています.

 

SparkMLでは各種TransformerやEstimatorを組み合わせることによって,DataFrameに対する処理として前処理やモデルパラメータの学習を実装することができます.機械学習で一般的によく使われるような処理は組み込みのコンポーネントとして実装されており,簡単なものならそれらを組み合わせるだけでも作ることができます.

例えば,カテゴリカル変数に対する前処理としてしばしば用いられるインデクシング処理は次のようにStringIndexerを使うだけで簡単に実現することができます.

このように,StringIndexer#setInputColに渡したカラムの内容を値ごとにindex値に変換したものが,StringIndexer#setOutputColで設定したカラムに格納されます.

ちなみに,StringIndexerなどのEstimatorはPipelineStageというtraitのサブクラスになっているので,上記の例のようにパイプラインとして一度に適用することもできるようになっています.

 

次に,後続の学習に使用する特徴量を選択し,一つのカラムにまとめる必要があります.

これもVectorAssemblerを使えば次のように簡単に実現できます.

この処理により, VectorAssembler#setInputColsで渡したカラム集合が,VectorAssembler#setOutputColで指定したカラム(ここではfeatures)にVectorとしてまとめられます.

 

ここまでで変換したDataFrameをモデルに入力として渡すことによって,学習を行うことができます.

モデルに関しても簡単なモデルなら組み込みのモデルが用意されているので,ハイパーパラメータを指定するだけで簡単に構築できます.

例えばロジスティック回帰だと次のようになります.

あとは学習したモデルを予測したいデータ集合に対して適用するだけです.

ただし,入力するデータ集合には当然ですが,学習時と同じ前処理を施す必要があります.

ここまでは個々にに処理を適用してきましたが,実用では一連の前処理を一つのPipelineとしてまとめておいた方が良いと思います.

今回だと,カテゴリカル変数のインデクシング,特徴量のベクトル化の二つを前処理として行ったので,次のようにこれを一つのパイプラインにまとめます.

これを次のテストデータに適用し,予測値を計算します.

ここまでで一通り学習,予測まで動作するところまではできていますが,実運用では,モデルを一度作ったらハイパーパラメータをチューニングを行うと思います.SparkMLではこれを楽に行えるようにグリッドサーチを行うAPIも提供されています.

LogisticRegressionモデルだと,パラメータ更新時のイテレーション回数,目的関数の正規化項がグリッドサーチで調整できます.

これにより指定したハイパーパラメータの組を網羅的に評価した上で最適なモデルを選択することができます.

選択したモデルを予測に利用する手順は前述のものと同様です.

 

作ったモデルは次のようにファイルに保存することができます.

この処理を行うとSparkらしくparquetで出力してくれます.ファイルの内容は各モデルクラスに実装されているので,モデルによって異なりますが,Logistic Regressionだと次のような内容でした.

 

上述の通り,SparkMLは予測時にも入力としてDataFrameを取るので,複数の入力に対して一括で予測値を計算するというような用途には向いていると思いますが,Bidderのようにリクエストが来るたびに予測値を出さないといけないような状況でそのまま使うのは難しいと感じました.parquetのreaderは様々な言語でライブラリが提供されているので,それを使って自前でモデルの予測計算を実装する必要が出て来そうです.その際,予測側も学習時と同じ前処理を実装しないといけないので,注意しましょう.(この辺りはあまり詳しくないので,良い方法があれば教えてください)

 

これらの具体的なSparkMLの使い方の話の他にも,モデルの並列学習の方式(Data Parallel, Model Parallel)が,それぞれどういう基盤に向いているのかといった話や,最近の分散機械学習周りで著名なライブラリについても軽く触れていたりと,俯瞰するには良いチュートリアルだったと思います.興味のある方は,ぜひ一度資料の方にも目を通してみてください.また,SparkML周りのサンプルコードもこちらで提供されているので,ぜひご覧ください.

 

BigDLはカンファレンス全体としてもやや推されているという印象を受けたので,こちらも別の機会に調査してみたいと思いました.