Clover ETL からGoogle Cloud Storage データに連携

CData JDBC Driver for GoogleCloudStorage は、CloverETL からGoogle Cloud Storage へのクエリ 処理を実現します。本記事では、CloverETL でJDBC Driver を使い、Google Cloud Storage をシンプルなCSV ファイルに変換します。

JDBC Data Source でGoogle Cloud Storage に接続

1. Google Cloud Storage データへの連携を作成します。CloverETL の新しいgraph で、Outline ペインのConnections ノードを右クリックして、Create Connection をクリックします。Database Connection ウィザードが表示されます。
2. ＋アイコンをクリックして、.jar ファイルをロードします。インストールディレクトリのlib フォルダの cdata.jdbc.googlecloudstorage.jar ファイルを選択します。
3. JDBC URL を入力します。一般的な接続文字列は： jdbc:googlecloudstorage:ProjectId='project1';

   ユーザーアカウントでの認証

   ユーザー資格情報の接続プロパティを設定することなく接続できます。InitiateOAuth をGETANDREFRESH に設定したら、接続の準備が完了です。

   接続すると、Google Cloud Storage OAuth エンドポイントがデフォルトブラウザで開きます。ログインして権限を付与すると、OAuth プロセスが完了します。

   サービスアカウントでの認証

   サービスアカウントには、ブラウザでユーザー認証を行わないサイレント認証があります。サービスアカウントを使用して、企業全体のアクセススコープを委任することもできます。

   このフローでは、OAuth アプリケーションを作成する必要があります。詳しくは、ヘルプドキュメントを参照してください。以下の接続プロパティを設定したら、接続の準備が完了です：

   • InitiateOAuth: GETANDREFRESH に設定。
   • OAuthJWTCertType: PFXFILE に設定。
   • OAuthJWTCert: 生成した.p12 ファイルへのパスに設定。
   • OAuthJWTCertPassword: .p12 ファイルのパスワードに設定。
   • OAuthJWTCertSubject: 証明書ストアの最初の証明書が選ばれるように"*" に設定。
   • OAuthJWTIssuer: 「サービスアカウント」セクションで「サービスアカウントの管理」をクリックし、このフィールドをサービスアカウントID フィールドに表示されているE メールアドレスに設定。
   • OAuthJWTSubject: サブジェクトタイプが"enterprise" に設定されている場合はエンタープライズID に設定し、"user" に設定されている場合はアプリユーザーID に設定。
   • ProjectId: 接続するプロジェクトのID に設定。

   これで、サービスアカウントのOAuth フローが完了します。

DBInputTable コンポーネントで、Google Cloud Storage データをクエリ

1. DBInputTable をReaders セクションからドラッグし、ジョブフローに置きます。ダブルクリックして、設定エディタを開きます。
2. DB コネクションプロパティで、Google Cloud Storage JDBC をドロップダウンから選択します。
3. SQL クエリを入力します。例： SELECT * FROM Buckets

UniversalDataWriter でQuery のOutput を記述

1. Writer セクションからUniversalDataWriter をドラッグして、ジョブフローに置きます。
2. UniversalDataWriter をダブルクリックして、設定エディタを開き、ファイルURL を足します。
3. DBInputTable をダブルクリックして、Extract Metadata をクリックします。
4. DBInputTable のOutput ポートをUniversalDataWriter に接続します。
5. UniversalDataWriter のSelect Metadata メニューでBuckets テーブルを選択します。（UniversalDataWriter のInput ポートを右クリックしてメニューを開くことも可能です。）
6. Run をクリックして、ファイルの書き込みを実行します。