Html Agility Pack
Html Agility Packとは、主にウェブスクレイピングに用いられる.NET向けのオープンソースのライブラリである。
目次
概要
Html Agility Packを大雑把に説明するとHTMLをXMLに変換してくれるライブラリである。 HTMLのタグが閉じ忘れされていた場合などでも強力に補正した状態のXMLにしてくれるのが目玉機能である。 これによりXPathやLINQ to XMLといった汎用的な手法を用いて解析できるようになる。
Html Agility Packにはウェブページを取得するメソッドも用意されているが、あくまで簡易的なものでありキャッシュ機能などもなく文字コードの判別が弱いなどの問題を抱えている。ウェブクローラー的なものを目指すのであれば、独自でHTMLを取得し、ReadJEncを用いるなどして別途実装した方がいいだろう。