Google Cloud Data Fusion でExact Online データを扱う方法：CData JDBC Driver

CData JDBC Driver for Exact Online を使って、Google Cloud Data fusion で Exact Online data をBigQuery にETL。

Google Cloud Data Fusion は、ノーコードでデータ連携の設定が可能な言わば GCP の ETL ツール（サービス）です。たくさんのコネクタや変換・分析機能がデフォルトで用意されているため、さまざまなデータソースを色々な組み合わせで扱うことが可能なようです。また JDBC を扱うこともできるため、この記事では、CData JDBC Driver for Exact Online data を使って、Exact Online data データをCloud Data Fusion でGoogle BigQuery にノーコードでパイプラインします。

Cloud Data Fusion の準備

まずはCloud Data Fusion のインスタンスを作成します。

Data Fusion のトップ画面にある「CREATE INSTANCE」からインスタンスを作成します。
作成されたインスタンス名を先ほどの画面でクリックすると以下の画面に遷移しますので、画面下部にある Service Account をコピーします。

画面上部にある追加からメンバーを追加します。メンバー名は先ほどコピーした「Service Account」に合わせてください。役割は BiqQuery へもアクセスしますので、「BigQuery 管理者」、「Cloud Data Fusion 管理者」、「Cloud Data Fusion API サービスエージェント」を付与します。

CData JDBC Driver for Exact Online のアップロード

ここからは実際に、Data Fusion の設定をしていきます。まずは JDBC Driver をアップロードを行います。

「View Instance」をクリックして、Data Fusion の Control Center を開きます。

Control Center が表示されたら、「＋」ボタンをクリックして JDBC Driver をアップロードしていきます。
- Name：アップロードしたドライバーに設定する名前
- Class name：cdata.jdbc.exactonline.ExactOnlineDriver
アップロードする際の注意点として、Driver のファイル名を name-version の形式に変更してアップロードする必要があります。なお、jarファイルをダブルクリックした際に表示されているバージョンをもとに「exactonline-connector-java-19.0.7115.0.jar」に変更しました。

アップロードが成功するとこのような画面が表示されるので、「Create a Pipeline」をクリックします。

Exact Online からGoogle BigQuery へのパイプラインの作成

Data Fusion のパイプライン作成

インプット元はサイドメニューの「Source」から選択します。今回は先ほどアップロードした Exact Online data の JDBC Driver を使用するため、「DataBase」を選択します。アウトプット先は同じくサイドメニューより「Sink」→「BigQuery」を選択します。

「DataBase」の設定

「DataBase」のアイコンにカーソルを持ってくるとプロパティというボタンが表示されるのでクリックし、下記内容を設定します。

Label：ExactOnline
Reference Name：ExactOnline
Plugin Name：ExactOnline Driver（Driver をアップロードした際の名前）
Plugin Type：jdbc
Connection String：ExactOnline へ接続する際の JDBC URL
Import Query：インプットしたいデータを抽出するクエリ

Connection String は以下の形式です。

jdbc:exactonline:Region='United States';Division=5512;InitiateOAuth=GETANDREFRESH

上のキャプチャの赤枠は、Salesforce から BigQuery へアウトプットするデータの定義となります。こちらは「Import Query」のすぐ右上にある「Get Schema」をクリックすると下の画面が表示されますので、「Import Query」で入力したクエリを実行し、カラムを定義します。