HPCC Systems データをMySQL にレプリケーションするPowerShell スクリプト

Ready to get started?

Download for a free trial:

Download Now

Learn more:

HPCC Cmdlets

PowerShell Cmdlets は、HPCC Systems へのリアルタイム連携機能を提供します。 Cmdlets を使って、データに直接連携し、読み書き更新をDB と同感覚で行うことができます。



PowerShell でシンプルなスクリプトを記述し、HPCC Systems data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for HPCC Systems をつかって、PowerShell からリアルタイムHPCC Systems data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for HPCC Systems およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でHPCC Systems への接続を行います。レプリケーションは4つのステップがあります。

接続するには、次の接続プロパティを設定します。Url をサーバーのマシン名もしくはIP アドレス、およびサーバーが起動しているポートに設定します。例えば、https://server:port。Url で指定されたHPCC システムへの認証には、User およびPassword が必要です。LDAP 認証は、現在サポートされていません。

Version をWsSQL Web サーバーのバージョンに設定します。HPCC サーバーにWsSQL サービスをインストールしておく必要があることに注意してください。本製品は、HPCC システムへの連携にWsSQL Web サービスを使います。

Cluster をターゲットクラスタに設定します。

HPCC Systems データの取得

  1. モジュールのインストール:

    Install-Module HPCCCmdlets
  2. HPCC Systems への接続:

    $hpcc = Connect-HPCC -URL $URL -User $User -password $password -Version $Version -Cluster $Cluster
  3. 取得ターゲットのリソースの取得:

    $data = Select-HPCC -Connection $hpcc -Table "hpcc::test::orders"

    Invoke-HPCC cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-HPCC -Connection $hpcc -Query 'SELECT * FROM hpcc::test::orders WHERE ShipCity = @ShipCity' -Params @{'@ShipCity'='New York'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

HPCC Systems データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. HPCC Systems、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、HPCC Systems のリソース(hpcc::test::orders)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "hpcc::test::orders" -Columns $columns -Values $values }

これで、HPCC Systems データをMySQL に複製できました。これで、分析、BI などでHPCC Systems データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でHPCC Systems とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-HPCC -Connection $hpcc -Table "hpcc::test::orders" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "hpcc::test::orders" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、HPCC Systems を別のデータベースに複製する場合、Select-HPCC cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}