製品情報をご覧ください

製品情報や無償評価版を製品ページにてご確認いただけます。

製品ページへ

HBase データをMySQL にレプリケーションするPowerShell スクリプト

PowerShell でシンプルなスクリプトを記述し、HBase data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for HBase をつかって、PowerShell からリアルタイムHBase data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for HBase およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でHBase への接続を行います。レプリケーションは4つのステップがあります。

Apache HBase への接続には、Port およびServer を設定します。

HBase データの取得

  1. モジュールのインストール:

    Install-Module ApacheHBaseCmdlets
  2. HBase への接続:

    $apachehbase = Connect-ApacheHBase -Server $Server -Port $Port
  3. 取得ターゲットのリソースの取得:

    $data = Select-ApacheHBase -Connection $apachehbase -Table "Customers"

    Invoke-ApacheHBase cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-ApacheHBase -Connection $apachehbase -Query 'SELECT * FROM Customers WHERE ShipCity = @ShipCity' -Params @{'@ShipCity'='New York'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

HBase データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. HBase、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、HBase のリソース(Customers)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Customers" -Columns $columns -Values $values }

これで、HBase データをMySQL に複製できました。これで、分析、BI などでHBase データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でHBase とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-ApacheHBase -Connection $apachehbase -Table "Customers" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Customers" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、HBase を別のデータベースに複製する場合、Select-ApacheHBase cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}
 
 
ダウンロード