Python でSAP Netweaver Gateway データを変換・出力するETL 処理を作る方法

こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

Pythonエコシステムには多くのモジュールがあり、システム構築を素早く効率的に行うことができます。本記事では、CData Python Connector for SAPGateway とpetl フレームワークを使って、SAP Netweaver Gateway データにPython から接続してデータを変換、CSV に出力するETL 変換を実装してみます。

CData Python Connector は効率的なデータ処理によりSAP Netweaver Gateway データ にPython から接続し、高いパフォーマンスを発揮します。SAP Netweaver Gateway にデータをクエリする際、ドライバーはフィルタリング、集計などがサポートされている場合SQL 処理を直接SAP Netweaver Gateway 側に行わせ、サポートされていないSQL 処理については、組み込みのSQL エンジンによりクライアント側で処理を行います（JOIN やSQL 関数など）。

必要なモジュールのインストール

pip で必要なモジュールおよびフレームワークをインストールします：

pip install petl
pip install pandas

Python でSAP Netweaver Gateway データをETL 処理するアプリを構築

モジュールとフレームワークをインストールしたら、ETL アプリケーションを組んでいきます。コードのスニペットは以下の通りです。フルコードは記事の末尾に付いています。

CData Connector を含むモジュールをインポートします。

import petl as etl
import pandas as pd
import cdata.sapgateway as mod

接続文字列で接続を確立します。connect 関数を使って、CData SAP Netweaver Gateway Connector からSAP Netweaver Gateway への接続を行います

cnxn = mod.connect("User=user;Password=password;URL=https://sapes5.sapdevcenter.com/sap/opu/odata/IWBEP/GWSAMPLE_BASIC/;InitiateOAuth=GETANDREFRESH;OAuthSettingsLocation=/PATH/TO/OAuthSettings.txt")")

SAP Gateway はBasic 認証とOAuth 2.0 認証の両方を許可します。Basic 認証を使用して自分のアカウントに接続するか、OAuth を使用して他のユーザーが彼らのアカウントでサービスからデータを取得できるようにすることができます。基本となる認証情報に加え、SAP Gateway テーブルへのアクセスには以下の追加プロパティが必要です。

• Url: 環境のURL、またはサービスの完全URL に設定。例えば、完全URL は次のようになります：https://sapes5.sapdevcenter.com/sap/opu/odata/IWBEP/GWSAMPLE_BASIC/。この例では、環境URL は次のようになります：https://sapes5.sapdevcenter.com。
• Namespace: 適切なService Namespace を設定。先ほどの例では、IWBEP が名前空間です。サービスへの完全URL が指定されている場合は任意です。
• Service: データを取得するサービスに設定。先ほどの例では、サービスはGWSAMPLE_BASIC です。完全URL が指定されている場合は必須ではありません。

Basic 認証での認証

Basic 認証では、自分のログインクレデンシャルを使用して接続します。次のプロパティを設定します。

• User: これはSAP Gateway へのログインに使用するユーザー名です。
• Password: これはSAP Gateway へのログインに使用するパスワードです。

OAuth 認証での認証

ユーザー資格情報の接続プロパティを設定せずに接続できます。 接続すると、CData 製品はデフォルトブラウザでSAP Gateway OAuth エンドポイントを開きます。ログインして、CData 製品にアクセス許可を与えます。CData 製品が以下のOAuth プロセスを完了します。 他のOAuth 認証フローについては、ヘルプドキュメントの「OAuth 認証の使用」を参照してください。

SAP Netweaver Gateway をクエリするSQL 文の作成

SAP Netweaver Gateway にはSQL でデータアクセスが可能です。SalesOrderLineItems エンティティからのデータを読み出します。

sql = "SELECT ProductID, Quantity FROM SalesOrderLineItems WHERE Quantity = '15'"

SAP Netweaver Gateway データ のETL 処理

DataFrame に格納されたクエリ結果を使って、petl でETL（抽出・変換・ロード）パイプラインを組みます。この例では、SAP Netweaver Gateway データ を取得して、Quantity カラムでデータをソートして、CSV ファイルにデータをロードします。

table1 = etl.fromdb(cnxn,sql)

table2 = etl.sort(table1,'Quantity')

etl.tocsv(table2,'salesorderlineitems_data.csv')

CData Python Connector for SAPGateway を使えば、データベースを扱う場合と同感覚で、SAP Netweaver Gateway データ を扱うことができ、petl のようなETL パッケージから直接データにアクセスが可能になります。

おわりに

SAP Netweaver Gateway Python Connector の30日の無償トライアル をぜひダウンロードして、SAP Netweaver Gateway データ への接続をPython アプリやスクリプトから簡単に作成しましょう。

フルソースコード

import petl as etl
import pandas as pd
import cdata.sapgateway as mod

cnxn = mod.connect("User=user;Password=password;URL=https://sapes5.sapdevcenter.com/sap/opu/odata/IWBEP/GWSAMPLE_BASIC/;InitiateOAuth=GETANDREFRESH;OAuthSettingsLocation=/PATH/TO/OAuthSettings.txt")")

sql = "SELECT ProductID, Quantity FROM SalesOrderLineItems WHERE Quantity = '15'"

table1 = etl.fromdb(cnxn,sql)

table2 = etl.sort(table1,'Quantity')

etl.tocsv(table2,'salesorderlineitems_data.csv')