SSIS を使ってKafka データをSQL Server にインポート

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

SQL Server に基幹業務データのバックアップを保管しておくことは、ビジネス上のセーフティネットとなります。また、ユーザーはSQL Server のバックアップデータからレポーティングや分析を簡単に行うことができます。

ここでは、SQL サーバー SSIS ワークフロー内でCData SSIS Tasks for ApacheKafka を使用して、Kafka データをMicrosoft SQL Server データベースに転送する方法を説明します。

Components の追加

開始するには、新しいKafka ソースとSQL Server ADO.NET 転送先を新しいデータフロータスクに追加します。

新しいコネクションマネジャーを作成

以下のステップに従って、接続マネジャーでKafka 接続プロパティを保存します。

1. Connection Manager ウィンドウで、右クリックで［New Connection］ を選択します。Add SSIS Connection Manager ダイアログが表示されます。
2. ［Connection Manager type］メニューでApacheKafka を選択します。CData Kafka Connection Manager が表示されます。
3. 接続プロパティを構成します。

   BootstrapServers およびTopic プロパティを設定して、Apache Kafka サーバーのアドレスと、対話するトピックを指定します。

   認可メカニズム

   • SASL Plain：User およびPassword プロパティを指定する必要があります。AuthScheme は'Plain' に設定します。
   • SASL SSL：User およびPassword プロパティを指定する必要があります。AuthScheme は'Scram' に、UseSSL はtrue に設定します。
   • SSL：SSLCert およびSSLCertPassword プロパティを指定する必要があります。UseSSL はtrue に設定します。
   • Kerberos：User およびPassword プロパティを指定する必要があります。AuthScheme は'Kerberos' に設定します。

   サーバー証明書を信頼する必要がある場合があります。そのような場合は、必要に応じてTrustStorePath およびTrustStorePassword を指定してください。

Kafka Source の構成

以下のステップに従って、Kafka の抽出に使用するクエリを指定します。

1. Kafka ソースをダブルクリックしてソースコンポーネントエディタを開きます。
2. ［Connection Manager］メニューで、以前作成した接続マネジャーを選択します。
3. データの書き出しに使用するクエリを指定します。例： SELECT Id, Column1 FROM SampleTable_1 WHERE Column2 = '100'
4. Kafka Source コントロールを閉じて、ADO.NET Destination に接続します。

SQL Server Destination を構成する

以下のステップに従って、Kafka をロードするSQL サーバーテーブルを指定します。

1. ADO.NET Destination を選択して、新しい接続を追加します。接続するサーバーおよびデータベースの情報を入力。
2. Data access モードメニューで、［table or view］を選択します。
3. ［Table Or View］メニューで、設定するテーブルまたはビューを選択します。
4. ［Mappings］画面で必要なプロパティを設定します。

プロジェクトの実行

プロジェクトを実行できるようになりました。SSIS Task の実行が完了すると、データベースにKafka データが入力されます。