Python でe-Sales Manager データを変換・出力するETL 処理を作る方法

こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

Pythonエコシステムには多くのモジュールがあり、システム構築を素早く効率的に行うことができます。本記事では、CData Python Connector for ESalesManager とpetl フレームワークを使って、e-Sales Manager データにPython から接続してデータを変換、CSV に出力するETL 変換を実装してみます。

CData Python Connector は効率的なデータ処理によりe-Sales Manager データ にPython から接続し、高いパフォーマンスを発揮します。e-Sales Manager にデータをクエリする際、ドライバーはフィルタリング、集計などがサポートされている場合SQL 処理を直接e-Sales Manager 側に行わせ、サポートされていないSQL 処理については、組み込みのSQL エンジンによりクライアント側で処理を行います（JOIN やSQL 関数など）。

必要なモジュールのインストール

pip で必要なモジュールおよびフレームワークをインストールします：

pip install petl
pip install pandas

Python でe-Sales Manager データをETL 処理するアプリを構築

モジュールとフレームワークをインストールしたら、ETL アプリケーションを組んでいきます。コードのスニペットは以下の通りです。フルコードは記事の末尾に付いています。

CData Connector を含むモジュールをインポートします。

import petl as etl
import pandas as pd
import cdata.esalesmanager as mod

接続文字列で接続を確立します。connect 関数を使って、CData e-Sales Manager Connector からe-Sales Manager への接続を行います

cnxn = mod.connect("User=MyUsername;Password=MyPassword;URL=MyInstanceURL;TenantId=MyTenantId;")

e セールスマネージャー Remix に接続するには、User、Passowrd、URL、TenantId パラメータが必要です。

• User：API を実行するためのログインユーザーのユーザーID。
• Password：API を実行するためのログインユーザーのユーザーパスワード
。
• URL：e-Sales Manager Remix エンドポイントへのURL。例：https://XXX.softbrain.co.jp
• TenantId：e-Sales Manager Remix テナント名のTenantd。例：cdata

e-Sales Manager をクエリするSQL 文の作成

e-Sales Manager にはSQL でデータアクセスが可能です。Customer エンティティからのデータを読み出します。

sql = "SELECT Name, Address FROM Customer WHERE Address = 'CustomerAddress'"

e-Sales Manager データ のETL 処理

DataFrame に格納されたクエリ結果を使って、petl でETL（抽出・変換・ロード）パイプラインを組みます。この例では、e-Sales Manager データ を取得して、Address カラムでデータをソートして、CSV ファイルにデータをロードします。

table1 = etl.fromdb(cnxn,sql)

table2 = etl.sort(table1,'Address')

etl.tocsv(table2,'customer_data.csv')

CData Python Connector for ESalesManager を使えば、データベースを扱う場合と同感覚で、e-Sales Manager データ を扱うことができ、petl のようなETL パッケージから直接データにアクセスが可能になります。

おわりに

e-Sales Manager Python Connector の30日の無償トライアル をぜひダウンロードして、e-Sales Manager データ への接続をPython アプリやスクリプトから簡単に作成しましょう。

フルソースコード

import petl as etl
import pandas as pd
import cdata.esalesmanager as mod

cnxn = mod.connect("User=MyUsername;Password=MyPassword;URL=MyInstanceURL;TenantId=MyTenantId;")

sql = "SELECT Name, Address FROM Customer WHERE Address = 'CustomerAddress'"

table1 = etl.fromdb(cnxn,sql)

table2 = etl.sort(table1,'Address')

etl.tocsv(table2,'customer_data.csv')