SnapLogic でKafka を外部サービスに連携

こんにちは！ドライバー周りのヘルプドキュメントを担当している古川です。

SnapLogic はintegration Platform-as-a-Service（iPaaS）であり、ユーザーはノーコードでデータ連携フローを作成できます。CData JDBC ドライバと組み合わせることで、ユーザーはSnapLogic ワークフローからKafka を含む250を超えるSaaS、ビッグデータ、NoSQL データソースのリアルタイムデータに接続できます。

組み込みの最適化されたデータ処理によって、CData JDBC Driver はリアルタイムKafka データを高速に扱えます。プラットフォームがKafka に複雑なSQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされているSQL 操作をKafka に直接プッシュし、サポートされていない操作（主にSQL 関数とJOIN 操作）は組み込みSQL エンジンを利用してクライアント側で処理します。組み込みの動的メタデータクエリを使用すると、ネイティブデータソース型を使用してKafka データを操作することができます。

SnapLogic からKafka に接続する

SnapLogic からKafka データに接続するには、CData Kafka JDBC Driver をダウンロードしてインストールします。インストール画面に従ってください。インストールが完了すると、インストール先のディレクトリ（デフォルトでは、C:/Program Files/CData/CData JDBC Driver for ApacheKafka/lib）にJAR ファイルが作成されます。

Kafka JDBC Driver をアップロードする

インストール後、JDBC JAR ファイルをSnapLogic 内のディレクトリ（例えば、projects/Jerod Johnson）にManager タブからアップロードします。

接続を設定する

JDBC Driver がアップロードされると、Kafka への接続を作成できます。

1. Designer タブに移動します。
2. Snaps から「JDBC」を展開して、「Generic JDBC - Select」snap をdesigner にドラッグします。
3. Add Account をクリック（または既存のものを選択）して、「Continue」をクリックします。
4. 次のフォームでは、JDBC 接続プロパティを設定します。
   • JDBC JARs 以下にアップロードしたJAR ファイルを追加します。
   • JDBC Driver Class をcdata.jdbc.apachekafka.ApacheKafkaDriver に設定します。

   • JDBC URL をKafka JDBC Driver 用のJDBC 接続文字列に設定します。例えば、

     jdbc:apachekafka:User=admin;Password=pass;BootStrapServers=https://localhost:9091;Topic=MyTopic;RTK=XXXXXX;

     です。

     NOTE： RTK は評価版もしくは製品版のキーです。詳しくは、CData のサポートチームにご連絡ください。

     組み込みの接続文字列デザイナー

     JDBC URL の作成の補助として、Kafka JDBC Driver に組み込まれている接続文字列デザイナーが使用できます。JAR ファイルをダブルクリックするか、コマンドラインからjar ファイルを実行します。

     java -jar cdata.jdbc.apachekafka.jar

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     BootstrapServers およびTopic プロパティを設定して、Apache Kafka サーバーのアドレスと、対話するトピックを指定します。

     認可メカニズム

     • SASL Plain：User およびPassword プロパティを指定する必要があります。AuthScheme は'Plain' に設定します。
     • SASL SSL：User およびPassword プロパティを指定する必要があります。AuthScheme は'Scram' に、UseSSL はtrue に設定します。
     • SSL：SSLCert およびSSLCertPassword プロパティを指定する必要があります。UseSSL はtrue に設定します。
     • Kerberos：User およびPassword プロパティを指定する必要があります。AuthScheme は'Kerberos' に設定します。

     サーバー証明書を信頼する必要がある場合があります。そのような場合は、必要に応じてTrustStorePath およびTrustStorePassword を指定してください。

5. 接続プロパティの入力後、「Validate」、そして「Apply」をクリックします。

Kafka データを読み込む

接続を検証、適用後に開くフォームで、クエリを設定します。

• Schema name を"ApacheKafka" に設定します。
• Table name を、スキーマ名を使用したKafka 用のテーブルに設定します。例えば、"ApacheKafka"."SampleTable_1" です（ドロップダウンを使用して利用可能なテーブルの全リストを確認できます）。
• テーブルから、使用したい項目ごとにOutput fields を追加します。

Generic JDBC - Select snap を保存します。

接続とクエリを設定したら、snap の終端部分（以下のハイライト部分）をクリックしてデータをプレビューします。

結果が期待どおりのものであることを確認したら、他のsnap を追加してKafka データを別のエンドポイントに渡すこともできます。

Kafka データを外部サービスにパイプ

本記事では、データをGoogle Spreadsheet にロードします。他のあらゆるサポートされているsnap が使用でき、Generic JDBC snap を他のCData JDBC ドライバと利用してデータを外部サービスに移すこともできます。

1. まず、「Worksheet Writer」snap を"Generic JDBC - Select" snap の終端部分にドロップします。
2. Google Sheets に接続するアカウントを追加します。
3. Worksheet Writer snap を、Kafka データをGoogle Spreadsheet に書き込むよう設定します。

これで、接続済みのパイプラインを実行してKafka からデータを抽出し、Google Spreadsheet にプッシュできます。

外部データをKafka にパイプ

上述のように、JDBC Driver for ApacheKafka をSnapLogic から使用してデータをKafka に書き込むことができます。まずは、Generic JDBC - Insert またはGeneric JDBC - Update snap をダッシュボードに追加します。

1. 既存の「Account」（接続）を選択するか、新しく作成します。
2. クエリの設定。
   • Schema name を"ApacheKafka" に設定します。
   • Table name をスキーマ名を使用したKafka のテーブルに設定します。例えば、"ApacheKafka"."SampleTable_1"（ドロップダウンを使用して利用可能な全テーブルの一覧を確認できます）。
3. Generic JDBC - Insert/Update snap を保存します。

これで、Kafka にデータを書き込んだり、新しいレコードを挿入したり、既存のレコードを更新するsnap が設定できました。

詳細情報と無償評価版

CData JDBC Driver for ApacheKafka を使えば、Kafka データを外部サービスに連携するためのパイプラインをSnapLogic で作成できます。Kafka への接続に関する詳細については、CData のKafka 連携ページを参照してください。30日の無償評価版をダウンロードして今すぐ使い始めましょう。