Elasticsearch データをMySQL にレプリケーションするPowerShell スクリプト

詳細情報をご希望ですか?

無償トライアル:

ダウンロードへ

製品の詳細情報へ:

Elasticsearch Cmdlets

PowerShell Cmdlets は、Elasticsearch へのリアルタイム連携機能を提供します。 Cmdlets を使って、データに直接連携し、読み書き更新をDB と同感覚で行うことができます。



PowerShell でシンプルなスクリプトを記述し、Elasticsearch data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for Elasticsearch をつかって、PowerShell からリアルタイムElasticsearch data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for Elasticsearch およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でElasticsearch への接続を行います。レプリケーションは4つのステップがあります。

接続するには、Server およびPort 接続プロパティを設定します。 認証には、User とPassword プロパティ、PKI (public key infrastructure)、またはその両方を設定します。 PKI を使用するには、SSLClientCert、SSLClientCertType、SSLClientCertSubject、およびSSLClientCertPassword プロパティを設定します。

本製品は、認証とTLS/SSL 暗号化にX-Pack Security を使用しています。TLS/SSL で接続するには、Server 値に'https://' を接頭します。Note: PKI を 使用するためには、TLS/SSL およびクライアント認証はX-Pack 上で有効化されていなければなりません。

接続されると、X-Pack では、設定したリルムをベースにユーザー認証およびロールの許可が実施されます。

Elasticsearch データの取得

  1. モジュールのインストール:

    Install-Module ElasticsearchCmdlets
  2. Elasticsearch への接続:

    $elasticsearch = Connect-Elasticsearch -Server $Server -Port $Port -User $User -Password $Password
  3. 取得ターゲットのリソースの取得:

    $data = Select-Elasticsearch -Connection $elasticsearch -Table "Orders"

    Invoke-Elasticsearch cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-Elasticsearch -Connection $elasticsearch -Query 'SELECT * FROM Orders WHERE ShipCity = @ShipCity' -Params @{'@ShipCity'='New York'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

Elasticsearch データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. Elasticsearch、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Elasticsearch のリソース(Orders)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values }

これで、Elasticsearch データをMySQL に複製できました。これで、分析、BI などでElasticsearch データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でElasticsearch とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-Elasticsearch -Connection $elasticsearch -Table "Orders" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Orders" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、Elasticsearch を別のデータベースに複製する場合、Select-Elasticsearch cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}