Python + Selenium でスクレイピングしてみる

Python と Selenium でスクレイピングのお勉強です。

Selenium は外部プログラムから Web ブラウザを操作することができる仕組みで、元々は Web アプリケーションのテスト自動化のためのツールだったようです。クリック、キー操作を外部アプリから操作できるので、技術的にはWebブラウザでできる全てのことを自動化するが可能です。

Selenium を使える言語としては Java, ruby, C#, Python, JavaScript のバインディングがあるのですが、Web を探してみるとスクレイピングの使い方としては Python + Selenium の情報量が圧倒的に多いため、Python で使ってみたいと思います。一般的には、Python + Selenium(ブラウザ制御) + Beautiful Soup(HTMLパーサ) の構成が多いようです。

概要をサラッと知るには Web よりも本のほうが良さそうなので、以下の書籍を買ってみました。
“Python + Selenium でスクレイピングしてみる” の続きを読む

アカウントアグリゲーション作ってみようかな

Python と Selenium を使うと比較的簡単にスクレイピングができるということを知ったので、アカウントアグリゲーションのアプリを作ってみようと思い立ちました。

Pythonは初心者だし、Selenium なんて使ったことなかったけど、世の中の流れについていくためにも、勉強がてら作ってみようかなと。

アカウントアグリゲーションの説明はWikipediaに任せるとして、なぜこんなものを作りたいのかというと、私はスタンドアロン型のアカウントアグリゲーション・アプリを使いたいのですが、現時点で主要なアカウントアグリゲーションサービス/アプリはすべてサーバ型(クラウド型)なのです。

“アカウントアグリゲーション作ってみようかな” の続きを読む

Xubuntuに乗り換えました

Ubuntu 18.04 を入れたばっかりですが、Xubuntu に乗り換えました。

以前から Unity が肌に合わなくて、Ubuntu を入れてもすぐに gnome-fallback/flashback を入れて Gnome2 相当で使っていたのですが、Unity から Gnome3 に変わったのでしばらく使ってみたところ、Unity の頃の Ubuntu に比べて格段に使いやすくなりましたね。

デフォルトの Alt + Tab のアプリケーション切り替えが変態仕様だったり、細かいところは気に入らないところもありますが、カスタマイズすれば違和感ない使い勝手になってくれるので気に入りました。

ただ・・・。
Gnome3 の UI は JavaScript で動作する Web ベースに近いとは聞いていたのですが、やはりメモリを非常に食うようで・・・。

“Xubuntuに乗り換えました” の続きを読む