RapidMiner からAzure Data Lake Storage データに連携

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

この記事では、CData JDBC Driver for ADLS をRapidMiner のプロセスと簡単に統合する方法を示します。この記事では、CData JDBC Driver for ADLS を使用してAzure Data Lake Storage をRapidMiner のプロセスに転送します。

RapidMiner のAzure Data Lake Storage にJDBC Data Source として接続する

以下のステップに従ってAzure Data Lake Storage へのJDBC 接続を確認できます。

1. Azure Data Lake Storage 用の新しいデータベースドライバーを追加します。［Connections］->［Manage Database Drivers］とクリックします。
2. 表示されるウィザードで［Add］ボタンをクリックし、接続に名前を入力します。
3. JDBC URL のプレフィックスを入力します。 jdbc:adls:
4. インストールディレクトリのlib サブフォルダにあるcdata.jdbc.adls.jar ファイルにパスを入力して下さい。
5. ドライバークラスを入力します。 cdata.jdbc.adls.ADLSDriver
6. 新しいAzure Data Lake Storage 接続を作成します。［Connections］->［Manage Database Connections］とクリックします。
7. 接続の名前を入力します。
8. データベースシステムの場合は、以前構成したAzure Data Lake Storage ドライバーを選択します。
9. Host ボックスで接続文字列を入力します。

   Azure DataLakeStorage 接続プロパティの取得・設定方法

   Azure DataLakeStorage Gen 1 への接続

   Gen 1 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

   • Schema：ADLSGen1 を指定。
   • Account：アカウント名に設定。
   • AzureTenant：テナントId に設定。Azure Portal 内のAzure Data Lake プロパティから取得できます。
   • Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

   Azure DataLakeStorage Gen 1 への認証

   Gen 1 は、認証方法としてAzure Active Directory OAuth（AzureAD）およびマネージドサービスID（AzureMSI）をサポートしています。認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 1 への認証」セクションを参照してください。

   Azure DataLakeStorage Gen 2 への接続

   Gen 2 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

   • Schema：ADLSGen2 に設定。
   • Account：ストレージアカウント名に設定。
   • FileSystem：このアカウントで使用するファイルシステム名に設定。例えば、Azure Blob コンテナ名など。
   • Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

   Azure DataLakeStorage Gen 2 への認証

   Gen 2は、認証方法としてアクセスキー、共有アクセス署名（SAS）、Azure Active Directory OAuth（AzureAD）、マネージドサービスID（AzureMSI）など多様な方法をサポートしています。AzureAD、AzureMSI での認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 2 への認証」セクションを参照してください。

   アクセスキーを使用した認証

   アクセスキーを使用して接続するには、AccessKey プロパティを取得したアクセスキーの値に、AuthScheme を「AccessKey」に設定します。

   Azure ポータルからADLS Gen2 ストレージアカウントのアクセスキーを取得できます。

   1. Azure ポータルのADLS Gen2 ストレージアカウントにアクセスします。
   2. 設定で「アクセスキー」を選択します。
   3. 利用可能なアクセスキーの1つの値を「AccessKey」接続プロパティにコピーします。

   共有アクセス署名（SAS）

   共有アクセス署名を使用して接続するには、SharedAccessSignature プロパティを接続先リソースの有効な署名に設定して、AuthScheme を「SAS」に設定します。 共有アクセス署名は、Azure Storage Explorer などのツールで生成できます。

   ビルトイン接続文字列デザイナ

   JDBC URL の構成については、Azure Data Lake Storage JDBC Driver に組み込まれている接続文字列デザイナを使用してください。JAR ファイルのダブルクリック、またはコマンドラインからJAR ファイルを実行します。

   java -jar cdata.jdbc.adls.jar

   接続プロパティを入力し、接続文字列をクリップボードにコピーします。

   以下は一般的な接続文字列です。

   Schema=ADLSGen2;Account=myAccount;FileSystem=myFileSystem;AccessKey=myAccessKey;InitiateOAuth=GETANDREFRESH
10. 必要であればユーザー名とパスワードを入力します。

プロセス内の様々なRapidMiner オペレーターとのAzure Data Lake Storage 接続を使用できます。Azure Data Lake Storage を取得するには、［Operators］ビューから［Retrieve］をドラッグします。 ［Retrieve］オペレータを選択した状態で、［repository entry］の横にあるフォルダアイコンをクリックして［Parameters］ビューで取得するテーブルを定義できます。表示されるRepository ブラウザで接続ノードを展開し、目的のサンプルセットを選択できます。

最後に、［Retrieve］プロセスから結果に出力をワイヤリングし、プロセスを実行してAzure Data Lake Storage を確認します。