PaylocityとSalesforceのデータをSnowflakeで集計・分析してDynamics 365に連携する方法（リバースETL）

こんにちは！プロダクトスペシャリストの宮本です。

CData Sync は、400種類以上のSaaS / DB のデータを各種DB・データウェアハウスにノーコードで統合可能なETL / ELT ツールです。CData Sync では、DB / DWH だけでなくDynamics 365 をはじめとする一部SaaS をデータの転送先としてサポートしているため、いわゆるリバースETL 構成のデータパイプラインを構築できます。

本記事では、Paylocity とDynamics 365 のデータをSnowflake に統合、リードスコアを計算・付加した後にDynamics 365 連携する、というリバースETL 構成のパイプラインを作っていきます。

CData Sync とは？

CData Sync は、レポーティング・ダッシュボード、機械学習・AI などで使えるよう、社内のデータを一か所に統合して管理できるデータ基盤をノーコードで構築できるETL ツールで、以下の特徴を持っています。

1. Paylocity をはじめとする400種類以上のSaaS / DB データに対応
2. 主要なRDB、データレイク、データストア、データウェアハウスにデータを転送
3. 業務データのデータ分析基盤へのETL / ELT 機能に特化し、極限まで設定操作をシンプルに
4. 主要なSaaS データの差分更新やCDC（Change Data Capture、変更データキャプチャ）のサポート
5. フレキシブルなSQL / dbt 連携での取得データの変換
6. Dynamics 365 を始めとする一部SaaS へのデータ転送（リバースETL）をサポート

リバースETL とは？

ETL の逆方向のデータ転送手法で、データウェアハウス（DWH）からSaaS へデータを転送することを指します。アプリ間連携のようなEAI とは異なり、ETL のようにバッチ処理での連携を行います。例えば、Dynamics 365とPaylocity のデータをデータウェアハウス内に統合、集計・予測してからDynamics 365に書き戻したい場合、以下の２つの方法があります。

1. Dynamics 365 → データウェアハウスで連携
2. データウェアハウスで変換されたデータをDynamics 365 に書き戻し

それでは、Paylocity とDynamics 365 のデータを統合して書き戻すための具体的な設定手順を説明していきます。

実現するシナリオ

Paylocity とDynamics 365 の情報を一度Snowflake に統合、統合したデータを使ってリードをスコアリングし、その結果をDynamics 365 に書き戻します。 リバースETL のデータソースとなるDB としてSnowflake を使い、全体のデータの流れは、

となります。なお、Dynamics 365 のLead オブジェクトにはスコアリング結果を格納するカスタム項目を事前に作成しておきます。

Dynamics 365 とPaylocity への接続を設定

はじめに、Dynamics 365 とPaylocity のデータをSnowflake に転送するための設定を行います。

CData Sync のブラウザ管理コンソールにログインします。CData Sync のインストールをまだ行っていない方は本記事の製品リンクからCData Sync をクリックして、30日の無償トライアルとしてCData Sync をインストールしてください。インストール後にCData Sync が起動して、ブラウザ設定画面が開きます。

それでは、データソースとしてPaylocity を設定していきましょう。左の［接続］タブをクリックします。

1. ［＋接続の追加］ボタンをクリックします。
2. ［データソース］タブを選択して、リスト表示されるデータソースを選ぶか、検索バーにデータソース名を入力して、Paylocity を見つけます。
3. Paylocity の右側の［→］をクリックして、Paylocity アカウントへの接続画面を開きます。もし、Paylocity のコネクタがデフォルトでCData Sync にインストールされていない場合には、ダウンロードアイコン（コネクタのアップロードアイコン）をクリックし、［ダウンロード］をクリックすると、CData Sync にコネクタがインストールされます。
4. 接続プロパティにPaylocity に接続するアカウント情報を入力をします。
   

   Paylocity への接続を確立するには以下を設定します。

   • RSAPublicKey：Paylocity アカウントでRSA 暗号化が有効になっている場合は、Paylocity に関連付けられたRSA キーを設定。

     このプロパティは、Insert およびUpdate ステートメントを実行するために必須です。この機能が無効になっている場合は必須ではありません。

   • UseSandbox：サンドボックスアカウントを使用する場合はTrue に設定。
   • CustomFieldsCategory：Customfields カテゴリに設定。これは、IncludeCustomFields がtrue に設定されている場合は必須です。デフォルト値はPayrollAndHR です。
   • Key：Paylocity の公開鍵で暗号化されたAES 共通鍵（base 64 エンコード）。これはコンテンツを暗号化するためのキーです。

     Paylocity は、RSA 復号化を使用してAES 鍵を復号化します。
     これはオプションのプロパティで、IV の値が指定されていない場合、ドライバーは内部でキーを生成します。

   • IV：コンテンツを暗号化するときに使用するAES IV（base 64 エンコード）。これはオプションのプロパティで、Key の値が指定されていない場合、ドライバーは内部でIV を生成します。

   OAuth

   OAuth を使用してPaylocity で認証する必要があります。OAuth では認証するユーザーにブラウザでPaylocity との通信を要求します。詳しくは、ヘルプドキュメントのOAuth セクションを参照してください。

   Pay Entry API

   Pay Entry API はPaylocity API の他の部分と完全に分離されています。個別のクライアントID とシークレットを使用し、アカウントへのアクセスを許可するにはPaylocity から明示的にリクエストする必要があります。 Pay Entry API を使用すると、個々の従業員の給与情報を自動的に送信できます。 Pay Entry API によって提供されるものの性質が非常に限られているため、CData では個別のスキーマを提供しないことを選択しましたが、UsePayEntryAPI 接続プロパティを介して有効にできます。

   UsePayEntryAPI をtrue に設定する場合は、CreatePayEntryImportBatch、MergePayEntryImportBatch、Input_TimeEntry、およびOAuth ストアドプロシージャのみ利用できることに注意してください。 製品のその他の機能を使用しようとするとエラーが発生します。また、OAuthAccessToken を個別に保存する必要があります。これは、この接続プロパティを使用するときに異なるOAuthSettingsLocation を設定することを意味します。

5. ［作成およびテスト］をクリックして、正しくPaylocity に接続できているかをテストして保存します。これでレプリケーションのデータソースとしてPaylocity への接続が設定されました。

Dynamics 365 への接続を設定

データソースとしてDynamics 365 を設定します。接続プロパティまでの設定方法は基本的にPaylocity と同じです。

接続には、Edition およびOrganizationUrl 接続プロパティが必須です。Dynamics 365 コネクタは、以下のエディションへの接続をサポートしています。

• CustomerService
• FieldService
• FinOpsOnline
• FinOpsOnPremise
• HumanResources
• Marketing
• ProjectOperations
• Sales

Dynamics 365 Business Central については、Dynamics 365 Business Central ドライバーを使用してください。

OrganizationUrl は、Dynamics 365 組織へのURL です。例えば、https://orgcb42e1d0.crm.dynamics.com

Snowflake への接続を設定

次に、Snowflake への接続を設定します。同じく［接続］タブを開きます。

1. ［＋接続の追加］ボタンをクリックします。
2. ［同期先］タブを選択して、リスト表示されるデータソースを選ぶか、検索バーにデータソース名を入力して、Snowflake を見つけます。
3. Snowflake の右側の［→］をクリックして、Snowflake データベースへの接続画面を開きます。
4. 必要な接続プロパティを入力します。Snowflake との接続には、以下のプロパティが必要です。
   • User: Snowflake データベースへの認証用のusername
   • Password: Snowflake ユーザーのpassword
   • AuthScheme: 使用する認証スキーマ。入力可能な値はPASSWORD、もしくはOKTA
   • Account: Snowflake でのアカウント
   • URL: Snowflake インスタンスのURL 例: https://myaccount.snowflakecomputing.com
   • Warehouse: Snowflake ウェアハウスの名前
   • Database: Snowflake データベース名
   • Schema: Snowflake データベースのスキーマ
5. ［作成およびテスト］をクリックして、正しく接続できているかをテストします。
6. これで転送先としてSnowflake を設定できました。CData Sync では、Snowflake のデータベース名を指定するだけで、転送するSnowflake に併せたテーブルスキーマを自動的にCREATE TABLE してくれます。同期データに合わせたテーブルを事前に作成するなどの面倒な手順は必要ありません。もちろん、既存テーブルにマッピングを行いデータ同期を行うことも可能です。

Dynamics 365 とPaylocity のデータをSnowflake に統合

CData Sync では、データ転送をジョブ単位で設定します。ジョブは、例えばDynamics 365 → Snowflake といった1データソース対1転送先の単位で設定し、データソースが持つ複数のテーブルを転送できます。データ転送ジョブを設定するには、［ジョブ］タブに進み、［＋ジョブを追加］ボタンをクリックします。

すべてのオブジェクトをデータ転送する場合

Dynamics 365 のすべてのオブジェクト / テーブルをデータ転送するには、［種類］で［すべて同期］を選択して、［タスクを追加］ボタンで確定します。

作成したジョブ画面で、右上の［▷実行］ボタンをクリックするだけで、全Dynamics 365 テーブルをSnowflake に転送できます。

オブジェクトを選択してデータ転送する場合

Dynamics 365 から特定のオブジェクト / テーブルを選択してデータ転送を行うことが可能です。［種類］では［標準（個別設定）］を選んでください。

次に［ジョブ］画面で、［タスク］タブをクリックし、［タスクを追加］ボタンをクリックします。

するとCData Sync で利用可能なオブジェクト / テーブルのリストが表示されるので、データ転送を行うオブジェクトにチェックを付けます（複数選択可）。［タスクを追加］ボタンで確定します。

作成したジョブ画面で、［▷実行］ボタンをクリックして（もしくは各タスク毎の実行ボタンを押して）、データ転送ジョブを実行します。

このようにとても簡単にDynamics 365 からSnowflake への同期を行うことができました。

Snowflake に転送されたテーブルを見てみると、Dynamics 365 のデータが転送されていることが確認できます。スコアリング結果を格納するLeadScore_c（カスタム項目）にはまだ何もデータが入っていnaino、ここにPaylocity のデータを統合したリードスコアリングの計算結果を追加します。

同じ手順で、Paylocity のお好みのデータをSnowflake に転送できます。今回はEmployee テーブルを使用しました。

リードスコアリング

それでは、Dynamics 365 のリードをスコアリングしてSnowflake に反映しましょう。このときにPaylocity のEmployee データを統合して使います。

CData Sync ではDynamics 365 とPaylocity 以外にも400種類以上のデータソースをサポートしているので、スコアリングに必要なデータ（Webサイト上のアクティビティやメール開封率、ダウンロード履歴など）が他にあれば追加してみてください。

それでは、Snowflake のLead_reverse テーブルのLeadScore_c を参照してみましょう。

本記事ではリードスコアリングの方法は省きますが、Snowflake 上でDynamics 365 とPaylocity のデータを使ってスコアリングした結果は以下のようにLeadScore_c カラムに追加しています。

この更新されたリードデータを、元のリードデータを持つDynamics 365 に書き戻します。

Dynamics 365 への書き戻し

書き戻しを行うには、Snowflake からDynamics 365 へのジョブを作成する必要があります。ただし、作成方法はデータソースと同期先に注意するだけでほとんど同じです。

では、ジョブを追加ボタンをクリックしてジョブを作成していきます。

• データソース：Snowflake
• 同期先：Dynamics 365
• 転送モード：元あるリードデータにスコアリング結果を加えるだけなので、Update

※連携方法は、 Insert、Upsert、Update の3パターンから選択可能です。Upsertの場合は、Dynamics 365 で外部ID として登録している項目のみKey として使用可能

ここでテーブル同士を紐づけます。

次にどの項目をキーにするか、またどのカラム同士をマッピングするかを指定します。今回は LeadScore_c 同士でマッピングしました。

設定は以上で、あとは右上の実行ボタンをクリックするだけです。※運用時はスケジュール設定を行ってください。

実行が完了すると、ステータスや更新した行数が表示されます。

では、最後に Dynamics 365 のLeadオブジェクトを見てみましょう。LeadScore 列にSnowflake でスコアリングした結果が取り込まれました！

Dynamics 365 へのリバースETL 構成をCData Sync で実現

このように、Dynamics 365 とPaylocity のデータを統合して書き戻すリバースETL のような複雑に思える構成でも、CData Sync ならノーコードで簡単に実現できます。

リバースETL にはリードスコアリングの他、マスタデータとの連携やWeb 解析ツールが持つユーザーアクティビティとの連携など、幅広いユースケースがあります。30日間の無償トライアルで、リバースETL パイプラインの構築を手軽にお試しください。

日本のユーザー向けにCData Sync は、UI の日本語化、ドキュメントの日本語化、日本語でのテクニカルサポートを提供しています。

もっとユースケースが知りたい！という方は、CData Sync の 導入事例を併せてご覧ください。