PolyBase で外部データソースとしてAvro を連携利用

SQL Server のPolyBase は、データベーステーブルをクエリするTransact-SQL 構文を使って、外部データにクエリする仕組みです。 CData ODBC Driver for Avro を組み合わせて使うことで、SQL Server データと同じようにAvro へのアクセスが可能です。 本記事では、外部データソースと外部テーブルの作成から、T-SQL クエリを使ってライブAvro データへ接続を認可するところまで説明します。

CData ODBC ドライバーは、ドライバーに組み込まれた最適化されたデータ処理により、PolyBase でライブAvro データを送受信するための圧倒的なパフォーマンスを提供します。SQL Server からAvro に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされているSQL 操作をAvro に直接プッシュダウンし、組み込みSQL エンジンを利用して、サポートされていない操作（一般的にはSQL 関数とJOIN 操作） をクライアント側で処理します。また、PolyBase を使用することで、単一のクエリを使用して分散ソースからデータをプルし、SQL Server データをAvro と結合することもできます。

Avro への接続

未指定の場合は、初めにODBC DSN（data source name）で接続プロパティを指定します。ドライバーのインストールの最後にアドミニストレーターが開きます。Microsoft ODBC Data Source Administrator を使用して、ODBC DSN を作成および構成できます。PolyBase を使用してSQL Server に外部データソースを作成するには、System DSN を構成します。（CData Avro Sys は自動的に作成されます。）

［接続のテスト］をクリックして、DSN がAvro に正しく接続できているかを確認します。［テーブル］タブに移動し、Avro のテーブル定義を確認します。

Avro データの外部データソースを作成

接続を構成したのち、外部データソースのマスター暗号化キーと資格情報データベースを作成する必要があります。

マスター暗号化キーの作成

以下のSQL コマンドを実行して新しいマスターキー［ENCRYPTION］を作成し、外部データソースの資格情報を暗号化します。

CREATE MASTER KEY ENCRYPTION BY PASSWORD = 'password';

資格情報データベースの作成

以下のSQL コマンドを実行してAvro に接続されている外部データソースの資格情報を作成します。

Note：Avro は認証にUser やPassword を必要としないため、IDENTITY とSECRET に任意の値を使用できます。

CREATE DATABASE SCOPED CREDENTIAL avro_creds
WITH IDENTITY = 'username', SECRET = 'password';

Avro の外部データソースを作成

以下のSQL コマンドを実行し、以前作成したDSN と資格情報を使用して、PolyBase でAvro の外部データソースを作成します。

Avro の場合、SERVERNAME を［localhost］または［127.0.0.1］に設定し、PORT を空のままにします。PUSHDOWN は、デフォルトでON に設定されているため、ODBC Driver は、サーバー側の処理を利用して複雑なクエリを実行できます。

CREATE EXTERNAL DATA SOURCE cdata_avro_source
WITH ( 
  LOCATION = 'odbc://SERVERNAME[:PORT]',
  CONNECTION_OPTIONS = 'DSN=CData Avro Sys',
  -- PUSHDOWN = ON | OFF,
  CREDENTIAL = avro_creds
);

Avro の外部テーブルを作成

外部データソースを作成したら、CREATE EXTERNAL TABLE ステートメントを使用してSQL Server インスタンスからAvro にリンクします。テーブルカラムの定義は、CData ODBC Driver for Avro によって公開されているものと一致しなければなりません。DSN Configuration Wizard の［テーブル］タブを参照し、テーブルの定義を確認できます。

CREATE TABLE ステートメントのサンプル

以下は、Avro SampleTable_1 に基づいて外部テーブルを作成するステートメントの一例です。

CREATE EXTERNAL TABLE SampleTable_1(
  Id [nvarchar](255) NULL,
  Column1 [nvarchar](255) NULL,
  ...
) WITH ( 
  LOCATION='SampleTable_1',
  DATA_SOURCE=cdata_avro_source
);

SQL Server インスタンスでAvro の外部テーブルを作成すると、ローカルデータとリモートデータを同時にクエリできるようになります。CData ODBC Driver に組み込まれているクエリ処理により、可能な限り多くのクエリ処理がAvro にプッシュされることで、ローカルのリソースと計算リソースが解放されます。ODBC Driver for Avro の30日間無料トライアルをダウンロードし、SQL Server データでライブAvro データを使い始めましょう。