IntelliJ からAzure Data Lake Storage データに連携

こんにちは！ウェブ担当の加藤です。マーケ関連のデータ分析や整備もやっています。

CData JDBC Driver for ADLS を使用することで、JDBC データソースとしてAzure Data Lake Storage にアクセスでき、IDE の迅速な開発ツールとの統合が可能になります。この記事では、データソース構成ウィザードを使用してIntelliJ のAzure Data Lake Storage に接続する方法を示します。

JBDC Data Source for ADLS の作成

以下のステップに従ってドライバーJAR を追加し、Azure Data Lake Storage への接続に必要な接続プロパティを定義します。

1. ［Data Sources］ウィンドウで右クリックし、［Add Data Source］->［DB Data Source］と進みます。

2. 表示される［Data Source Properties］ダイアログでは、次のプロパティが必要です。

   • JDBC Driver Files:このメニューの隣にあるボタンをクリックし、インストールディレクトリのJDBC ドライバーファイル（cdata.jdbc.adls.jar）を追加します。
   • JDBC Driver Class:このメニューで、リストからcdata.jdbc.adls.ADLS ドライバーを選択します。

   • Database URL:JDBC URL プロパティで接続URL を入力します。URL は、jdbc:adls: で始まり、セミコロンで区切られた接続プロパティが含まれています。

     Azure DataLakeStorage 接続プロパティの取得・設定方法

     Azure DataLakeStorage Gen 1 への接続

     Gen 1 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

     • Schema：ADLSGen1 を指定。
     • Account：アカウント名に設定。
     • AzureTenant：テナントId に設定。Azure Portal 内のAzure Data Lake プロパティから取得できます。
     • Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

     Azure DataLakeStorage Gen 1 への認証

     Gen 1 は、認証方法としてAzure Active Directory OAuth（AzureAD）およびマネージドサービスID（AzureMSI）をサポートしています。認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 1 への認証」セクションを参照してください。

     Azure DataLakeStorage Gen 2 への接続

     Gen 2 DataLakeStorage アカウントに接続するには、はじめに以下のプロパティを設定します。

     • Schema：ADLSGen2 に設定。
     • Account：ストレージアカウント名に設定。
     • FileSystem：このアカウントで使用するファイルシステム名に設定。例えば、Azure Blob コンテナ名など。
     • Directory：（オプション）複製したファイルを格納するためのパスを設定。指定しない場合は、ルートディレクトリが使用されます。

     Azure DataLakeStorage Gen 2 への認証

     Gen 2は、認証方法としてアクセスキー、共有アクセス署名（SAS）、Azure Active Directory OAuth（AzureAD）、マネージドサービスID（AzureMSI）など多様な方法をサポートしています。AzureAD、AzureMSI での認証方法は、ヘルプドキュメントの「Azure DataLakeStorage Gen 2 への認証」セクションを参照してください。

     アクセスキーを使用した認証

     アクセスキーを使用して接続するには、AccessKey プロパティを取得したアクセスキーの値に、AuthScheme を「AccessKey」に設定します。

     Azure ポータルからADLS Gen2 ストレージアカウントのアクセスキーを取得できます。

     1. Azure ポータルのADLS Gen2 ストレージアカウントにアクセスします。
     2. 設定で「アクセスキー」を選択します。
     3. 利用可能なアクセスキーの1つの値を「AccessKey」接続プロパティにコピーします。

     共有アクセス署名（SAS）

     共有アクセス署名を使用して接続するには、SharedAccessSignature プロパティを接続先リソースの有効な署名に設定して、AuthScheme を「SAS」に設定します。 共有アクセス署名は、Azure Storage Explorer などのツールで生成できます。

     ビルトイン接続文字列デザイナ

     JDBC URL の構成については、Azure Data Lake Storage JDBC Driver に組み込まれている接続文字列デザイナを使用してください。JAR ファイルのダブルクリック、またはコマンドラインからJAR ファイルを実行します。

     java -jar cdata.jdbc.adls.jar

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     以下は一般的なJDBC URL です。

     jdbc:adls:Schema=ADLSGen2;Account=myAccount;FileSystem=myFileSystem;AccessKey=myAccessKey;InitiateOAuth=GETANDREFRESH

Azure Data Lake Storage データの編集・保存

スキーマ情報を見つけるには、作成したデータソースを右クリックし、［Refresh Tables］をクリックします。 テーブルを右クリックし、［Open Tables Editor］をクリックして、テーブルをクエリします。