Avro データをMySQL にレプリケーションするPowerShell スクリプト

詳細情報をご希望ですか?

無償トライアル:

ダウンロードへ

製品の詳細情報へ:

Avro Data Cmdlets

Avro にリアルタイムアクセス可能な、簡単に使えるPowerShell Cmdlets セット。Cmdlets を使って、SQL サーバーと同じようにライブデータを簡単に読み出しできます。



PowerShell でシンプルなスクリプトを記述し、Avro data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for Avro をつかって、PowerShell からリアルタイムAvro data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for Avro およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でAvro への接続を行います。レプリケーションは4つのステップがあります。

Connect to your local Avro file(s) by setting the URI connection property to the location of the Avro file.

Avro データの取得

  1. モジュールのインストール:

    Install-Module AvroCmdlets
  2. Avro への接続:

    $avro = Connect-Avro -URI $URI
  3. 取得ターゲットのリソースの取得:

    $data = Select-Avro -Connection $avro -Table "SampleTable_1"

    Invoke-Avro cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-Avro -Connection $avro -Query 'SELECT * FROM SampleTable_1 WHERE Column2 = @Column2' -Params @{'@Column2'='value_2'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

Avro データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. Avro、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Avro のリソース(SampleTable_1)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SampleTable_1" -Columns $columns -Values $values }

これで、Avro データをMySQL に複製できました。これで、分析、BI などでAvro データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でAvro とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-Avro -Connection $avro -Table "SampleTable_1" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "SampleTable_1" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、Avro を別のデータベースに複製する場合、Select-Avro cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}