PolyBase で外部データソースとしてSFTP を連携利用

SQL Server のPolyBase は、データベーステーブルをクエリするTransact-SQL 構文を使って、外部データにクエリする仕組みです。 CData ODBC Driver for SFTP を組み合わせて使うことで、SQL Server データと同じようにSFTP へのアクセスが可能です。 本記事では、外部データソースと外部テーブルの作成から、T-SQL クエリを使ってライブSFTP データへ接続を認可するところまで説明します。

CData ODBC ドライバーは、ドライバーに組み込まれた最適化されたデータ処理により、PolyBase でライブSFTP データを送受信するための圧倒的なパフォーマンスを提供します。SQL Server からSFTP に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされているSQL 操作をSFTP に直接プッシュダウンし、組み込みSQL エンジンを利用して、サポートされていない操作（一般的にはSQL 関数とJOIN 操作） をクライアント側で処理します。また、PolyBase を使用することで、単一のクエリを使用して分散ソースからデータをプルし、SQL Server データをSFTP と結合することもできます。

SFTP への接続

未指定の場合は、初めにODBC DSN（data source name）で接続プロパティを指定します。ドライバーのインストールの最後にアドミニストレーターが開きます。Microsoft ODBC Data Source Administrator を使用して、ODBC DSN を作成および構成できます。PolyBase を使用してSQL Server に外部データソースを作成するには、System DSN を構成します。（CData SFTP Sys は自動的に作成されます。）

FTP は、SFTP プロトコルを使用してSFTP サーバーとの間のファイル転送を行います。接続するにはRemoteHost を指定します。FTP はUser、Password、および公開鍵認証（SSHClientCert）を使用します。 SSHAuthMode を選択し、選択に基づいて接続値を指定します。

次の接続プロパティを設定し、ファイルシステムのリレーショナルビューをコントロールします。

• RemotePath: 現在の作業ディレクトリに設定。
• TableDepth: ビューとしてレポートするサブフォルダの深度を制御するために設定。
• FileRetrievalDepth: ファイルを再帰的に取得し、Root テーブルにリストするために設定。

［接続のテスト］をクリックして、DSN がSFTP に正しく接続できているかを確認します。［テーブル］タブに移動し、SFTP のテーブル定義を確認します。

SFTP データの外部データソースを作成

接続を構成したのち、外部データソースのマスター暗号化キーと資格情報データベースを作成する必要があります。

マスター暗号化キーの作成

以下のSQL コマンドを実行して新しいマスターキー［ENCRYPTION］を作成し、外部データソースの資格情報を暗号化します。

CREATE MASTER KEY ENCRYPTION BY PASSWORD = 'password';

資格情報データベースの作成

以下のSQL コマンドを実行してSFTP に接続されている外部データソースの資格情報を作成します。

Note：SFTP は認証にUser やPassword を必要としないため、IDENTITY とSECRET に任意の値を使用できます。

CREATE DATABASE SCOPED CREDENTIAL sftp_creds
WITH IDENTITY = 'username', SECRET = 'password';

SFTP の外部データソースを作成

以下のSQL コマンドを実行し、以前作成したDSN と資格情報を使用して、PolyBase でSFTP の外部データソースを作成します。

PUSHDOWN は、デフォルトでON に設定されているため、ODBC Driver は、サーバー側の処理を利用して複雑なクエリを実行できます。

CREATE EXTERNAL DATA SOURCE cdata_sftp_source
WITH ( 
  LOCATION = 'odbc://SERVERNAME[:PORT]',
  CONNECTION_OPTIONS = 'DSN=CData SFTP Sys',
  -- PUSHDOWN = ON | OFF,
  CREDENTIAL = sftp_creds
);

SFTP の外部テーブルを作成

外部データソースを作成したら、CREATE EXTERNAL TABLE ステートメントを使用してSQL Server インスタンスからSFTP にリンクします。テーブルカラムの定義は、CData ODBC Driver for SFTP によって公開されているものと一致しなければなりません。DSN Configuration Wizard の［テーブル］タブを参照し、テーブルの定義を確認できます。

CREATE TABLE ステートメントのサンプル

以下は、SFTP MyDirectory に基づいて外部テーブルを作成するステートメントの一例です。

CREATE EXTERNAL TABLE MyDirectory(
  Filesize [nvarchar](255) NULL,
  Filename [nvarchar](255) NULL,
  ...
) WITH ( 
  LOCATION='MyDirectory',
  DATA_SOURCE=cdata_sftp_source
);

SQL Server インスタンスでSFTP の外部テーブルを作成すると、ローカルデータとリモートデータを同時にクエリできるようになります。CData ODBC Driver に組み込まれているクエリ処理により、可能な限り多くのクエリ処理がSFTP にプッシュされることで、ローカルのリソースと計算リソースが解放されます。ODBC Driver for SFTP の30日間無料トライアルをダウンロードし、SQL Server データでライブSFTP データを使い始めましょう。