Apache Spark でUM SaaS Cloud データをSQL で操作する方法

こんにちは！リードエンジニアの杉本です。

Apache Spark は大規模データ処理のための高速エンジンです。CData JDBC Driver for UMSaaSCloud と組み合わせると、Spark はリアルタイムでUM SaaS Cloud データに連携して処理ができます。本記事では、Spark シェルに接続してUM SaaS Cloud をクエリする方法について解説します。

CData JDBC Driver は、最適化されたデータ処理がドライバーに組み込まれているため、リアルタイムUM SaaS Cloud と対話するための高いパフォーマンスを提供します。UM SaaS Cloud に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計など、サポートされているSQL操作を直接UM SaaS Cloud にプッシュし、組込みSQL エンジンを使用してサポートされていない操作（SQL 関数やJOIN 操作）をクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータ型を使用してUM SaaS Cloud を操作して分析できます。

CData JDBC Driver for UMSaaSCloud をインストール

まずは、本記事右側のサイドバーからUMSaaSCloud JDBC Driver の無償トライアルをダウンロード・インストールしてください。30日間無償で、製品版の全機能が使用できます。

Spark Shell を起動してUM SaaS Cloud データに接続

1. ターミナルを開き、Spark shell でCData JDBC Driver for UMSaaSCloud JAR file をjars パラメータに設定します: $ spark-shell --jars /CData/CData JDBC Driver for UMSaaSCloud/lib/cdata.jdbc.umsaascloud.jar
2. Shell でJDBC URL を使ってUM SaaS Cloud に接続し、SQL Context load() function でテーブルを読み込みます。

   UM SaaS Cloud 接続プロパティの取得・設定方法

   デフォルトでは、本製品は本番環境に接続します。UMSaaSCloud sandbox アカウントを使用するには、UseSandbox をtrue に設定します。ユーザー / パスワード認証を使用している場合は、User にsandbox のユーザー名を設定してください。

   UM SaaS Cloud への認証

   UM SaaS Cloud は、Basic、OAuth、OAuthJWT（コンシューマーキー）など、複数の認証方式をサポートしています。ここではBasic 認証について説明します。認証情報の詳しい取得方法や他の認証方法については、ヘルプドキュメントの「はじめに」セクションを参照してください。

   Basic 認証

   Basic 認証は、セキュリティトークンとユーザー資格情報の使用に基づきます。Basic 認証を使用するには、AuthScheme をBasic に、User とPassword をログイン資格情報に設定し、SecurityToken を設定します。

   デフォルトではSecurityToken が必要ですが、UM SaaS Cloud で信頼できるIP アドレスの範囲を設定することで、オプションにすることができます。

   組み込みの接続文字列デザイナー

   JDBC 接続文字列URL の作成には、UM SaaS Cloud JDBC Driver にビルトインされたデザイナを使用できます。JAR ファイルをダブルクリックするか、コマンドラインでJAR ファイルを実行するとデザイナが開きます。

   java -jar cdata.jdbc.umsaascloud.jar

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   scala> val umsaascloud_df = spark.sqlContext.read.format("jdbc").option("url", "jdbc:umsaascloud:AuthScheme=Basic;User=myUser;Password=myPassword;Security Token=myToken;").option("dbtable","Account").option("driver","cdata.jdbc.umsaascloud.UMSaaSCloudDriver").load()
3. 接続が完了し、データがロードされたら、テーブルスキーマが表示されます。

4. UM SaaS Cloud をテンポラリーテーブルとして登録します:

   scala> umsaascloud_df.registerTable("account")

5. データに対して、次のようなカスタムSQL クエリを実行します。

   scala> umsaascloud_df.sqlContext.sql("SELECT BillingState, Name FROM Account WHERE Industry = Floppy Disks").collect.foreach(println)

   コンソールで、次のようなUM SaaS Cloud データを取得できました！これでUM SaaS Cloud との連携は完了です。

CData JDBC Driver for UMSaaSCloud をApache Spark で使って、UM SaaS Cloud に対して、複雑かつハイパフォーマンスなクエリを実行できます。30日の無償評価版 をダウンロードしてぜひお試しください。