Twitter データをMySQL にレプリケーションするPowerShell スクリプト

Ready to get started?

Download for a free trial:

Download Now

Learn more:

Twitter Cmdlets

Twitter データにリアルタイム連携を実現するPowerShell Cmdlets。Cmdlets を使って、SQL Server と同感覚で多様なデータにリアルタイムアクセス。



PowerShell でシンプルなスクリプトを記述し、Twitter data をMySQL データベースにレプリケーション(複製)。

CData Cmdlets for Twitter をつかって、PowerShell からリアルタイムTwitter data に連携できます。データ同期などのタスクの連携にぴったりの製品です。 本記事では、PowerShell からCData Cmdlets for Twitter およびCData Cmdlets for MySQL を使って、同期スクリプトを作成して実行します。

まずは、PowerShell でTwitter への接続を行います。レプリケーションは4つのステップがあります。

すべてのテーブルには認証が必要です。OAuth を使用してTwitter で認証する必要があります。OAuth では認証するユーザーにブラウザでTwitter との通信を要求します。詳しくは、ヘルプドキュメントの「OAuth 認証の使用」を参照してください。

Twitter データの取得

  1. モジュールのインストール:

    Install-Module TwitterCmdlets
  2. Twitter への接続:

    $twitter = Connect-Twitter
  3. 取得ターゲットのリソースの取得:

    $data = Select-Twitter -Connection $twitter -Table "Tweets"

    Invoke-Twitter cmdlet を使って、SQL-92 クエリを使用することもできます:

    $data = Invoke-Twitter -Connection $twitter -Query 'SELECT * FROM Tweets WHERE From_User_Name = @From_User_Name' -Params @{'@From_User_Name'='twitter'}
  4. 戻り値からカラム名のリストを保存します。

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name

Twitter データをMySQL データベースに入れます

カラム名を指定できるようにして、データをMySQL データベースにレプリケーションします。

  1. モジュールのインストール:

    Install-Module MySQLCmdlets
  2. MySQL DB に、MySQL Server 名、ユーザー、パスワード、レプリケーション先のデータベース名を指定して、接続します:

    $mysql = Connect-MySQL -User $User -Password $Password -Database $Database -Server $Server -Port $Port
  3. Twitter、保存された値、そしてAdd-MySQL Cmdlet を使って、MySQL にデータを1レコードずつ挿入します。この例では、MySQL 側のテーブルは、Twitter のリソース(Tweets)と同じテーブル名を持っている必要があります。

    $data | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Tweets" -Columns $columns -Values $values }

これで、Twitter データをMySQL に複製できました。これで、分析、BI などでTwitter データをMySQL から使うことができるようになります。

Notes

  • 一度PowerShell でTwitter とMySQL に接続したら、次からは1行のコマンドでレプリケーションを実施できます:

    Select-Twitter -Connection $twitter -Table "Tweets" | % { $row = $_ $values = @() $columns | % { $col = $_ $values += $row.$($col) } Add-MySQL -Connection $mysql -Table "Tweets" -Columns $columns -Values $values }
  • 別のPowerShell モジュールで、Twitter を別のデータベースに複製する場合、Select-Twitter cmdlet のデータから、カラム、接続およびテーブルを除外する方がいいでしょう。これらのデータは、CData cmdlet からデータを移動する際にのみ必要なものだからです。:

    $columns = ($data | Get-Member -MemberType NoteProperty | Select-Object -Property Name).Name | ? {$_ -NotIn @('Columns','Connection','Table')}