AWSフォーラムをMechanizeとNokogoriでスクレイピングしてRSS一覧を取得してみた

2016.04.10

はじめに

こんにちは植木和樹@上越妙高オフィスです。本日はRubyのNokogiriライブラリを使ったスクレイピングのご紹介です。

AWS各サービスのアップデートはフォーラムにてアナウンスされています。

こちらのページでRSSが取得できるのですが、サービス単位でRSSが分かれているため、リンクを1つ1つコピーしてRSSリーダーに登録する必要があります。はい、面倒くさいですね。

面倒なことはコンピューターにやってもらいましょう。ということでRSSのURLを取得する処理をRubyを使って作ってみました。

スクリプトと解説

スクリプトはgistで公開しています。改変はご自由に。 解説はシェルのコメントに書いたので参考にしてください。

また実行にはRubyのMechanizeとNokogiriライブラリが必要になります。gemでインストールしましょう。(今回rubyは2.2.0を使いました)

$ gem install mechanize nokogiri --no-ri --no-rdoc

$ ruby --version
ruby 2.2.0p0 (2014-12-25 revision 49005) [x86_64-darwin13]

$ gem list mechanize nokogiri

*** LOCAL GEMS ***

mechanize (2.7.4)

*** LOCAL GEMS ***

nokogiri (1.6.7.2)

実行結果

https://forums.aws.amazon.com/rss/rssannounce.jspa?forumID=199 Amazon API Gateway
https://forums.aws.amazon.com/rss/rssannounce.jspa?forumID=171 Amazon AppStream
https://forums.aws.amazon.com/rss/rssannounce.jspa?forumID=137 Amazon CloudSearch
https://forums.aws.amazon.com/rss/rssannounce.jspa?forumID=147 Amazon Elastic Transcoder
https://forums.aws.amazon.com/rss/rssannounce.jspa?forumID=90 Amazon Simple Email Service
:
:

スクレイピングのコツ

NokogiriではXPathという方法で、HTMLの構造を指定して必要なコンテンツを取得できます。ただHTMLのソースを読んでこの階層構造を解析するのは大変です。

今回はChromeのDeveloper Toolを使って、XPathを調べました。調べ方はこちらのブログが詳しかったです。

# Forum Amazon API Gateway サービス名のXPathを取得
//*[@id="jive-rsspage"]/table/tbody/tr/td[1]/div/table/tbody/tr[3]/td[1]/table/tbody/tr/td[2]
# Forum Amazon AppStream サービス名のXPathを取得
# 途中のtr配列が[3] -> [4] なので、このtrをループさせればサービスをとれそう
//*[@id="jive-rsspage"]/table/tbody/tr/td[1]/div/table/tbody/tr[4]/td[1]/table/tbody/tr/td[2]

# Forum Amazon API Gateway Annousments RSSリンクのXPathを取得
# API Gatewayは同じtr[3]で列がtd[2]、さらに下層にテーブル構造があることがわかる
//*[@id="jive-rsspage"]/table/tbody/tr/td[1]/div/table/tbody/tr[3]/td[2]/div/table/tbody/tr/td[1]/a

Chromeで取得したXPath表記だと指定するパスが長かったので、今回は構造を調べた後class指定に見直してちょっとスッキリさせています。

まとめ

Nokogiri + XPathを使って簡単にHTMLから情報を引き出すことができました。

このURLを個人のRSSリーダー(LDRが好みです)に登録して読んでもいいのですが、AWS業務に関わるメンバーみんなで共有した方がいいため、取得したアナウンスをChatworkにポストするようにしました(くらめその方はご自由に入室ください)。このスクリプトは以前ご紹介したシェルスクリプトを流用していますので、こちらも参考にどうぞ。

AWSは日々新サービスや新機能がリリースされますので追うのが大変ですが、RSSをうまく使って効率良く情報収集しましょう。

参考資料