DebugHacks ネタ – メモリリーク退治

前回のエントリで Debug Hacks Conference 2009 の参加報告 (?) を書きましたが、会場で著者のよしおかさんが「参加した人はブログ等で自分のDebugネタを書いてみんなで共有しよう」とおっしゃっていたので、私のDebugネタをちょっと書いてみます。

以前、ダウンが許されないサーバプログラムで数日間稼働させていると、僅かずつながらもメモリがリークしていくという現象があり非常に困りました。その時のHackです。

Hackその1  mallocカウンタを用意

malloc, free をマクロ定義して独自のmalloc, free で置き換えます。その独自 malloc, free でカウンタの増減を行います。そのカウンタは共有メモリ上に置いておくことでプログラム外から参照できるようにしていました。(コードは雰囲気で、未検証です)

/* 全てのソースがincludeしているヘッダに以下を記述 */
#define malloc(size) __my_malloc(size)
#define free(ptr) __my_free(ptr)
/* 置き換えられるmalloc */
#undef malloc
#undef free
void *__my_malloc(size_t size)
{
void *ptr;
ptr = malloc(size);
if(ptr)
_malloc_count++;
return ptr;
}

void __my_free(void *ptr)
{
free(ptr);
_malloc_count--;
}

これで malloc カウンタを見るとリークが発生しているかどうかが分かります。

ただし、ソフトウェアに定常状態があって、定常状態は常に同じmalloc数の場合でしか使えません。状況に応じてメモリ確保の状況が変わるとダメですね。あと、ライブラリ内でmallocしているようなものはカウントできない欠点もあります。

この方法は、リークの事実は分かっても特定するだけの情報がないので、「リークがない」という事実を確認するには使えますが、リークを潰す目的には使えません。

Hackその2  malloc領域にデバッグ情報を埋め込む

これは比較的メモリに余裕があるときにしか使えないのですが、Hackその1に関連して、mallocをフックした時に実際に要求された領域より+α を余分にmallocしておき、余剰部分にメモリ確保時の状況を書き込んでおくことで、後でリークを検出した時にトレース出来るようにしました。(以下未検証コード)

/* 全てのソースがincludeしているヘッダに以下を記述 */
#define malloc(size) __my_malloc(size, __func__, __LINE__)
#define free(ptr) __my_free(ptr, __func__, __LINE__)
struct malloc_debug_header {
int magic;
const char *func;
int line;
int size;
void *caller;
};
/* 置き換えられるmalloc */
#undef malloc
#undef free
void *__my_malloc(size_t size, const char *func, int line)
{
void *ptr;
struct malloc_debug_header *hdr;
ptr = malloc(size + sizeof(struct malloc_debug_header)); /* 余分にmalloc */
if(!ptr)
return ptr;
_malloc_count++;

hdr = ptr;
hdr->magic = 0xbf8129de; /* magic バイナリに出てこなそうな数値を指定 */
hdr->func = func;
hdr->line = line;
hdr->size = size;
hdr->caller = __builtin_return_address(1);
return ptr + sizeof(struct malloc_debug_header); /* offset を足してreturn */
}

void __my_free(void *ptr)
{
free(ptr - sizeof(struct malloc_debug_header)); /* offset を引いて free */
_malloc_count--;
}

これで各malloc領域にデバッグ情報は埋め込めたけど、じゃぁどうやってそれを読み出すんだよ!と思われるかもしれませんが、それは力技で。

  1. coreダンプさせて、coreファイルからmagicを検索して特定する方法
  2. attatchして、/proc/<PID>/mem をmmapして、そこからmagicを検索する方法

1つ目は、リーク発生後、kill -ABRT <PID> でcoreダンプさせてしまい、coreファイルからmagicナンバーを検索する方法です。

coreファイルはメモリイメージをベタに書き出しているので、gdb で core を開かずとも、バイナリファイルとして magic ナンバーを検索してしまえば、malloc された領域を特定できます。そこからデバッグ情報が書かれているので、line番号やサイズを取得します。

関数名についてはポインタなので、ポインタ値をメモっておいて、gdb でターゲットプログラムを開いて、そのポインタを表示させれば取得できます。

2つ目は、別途プログラムを作る必要がありますが、gdbのようにプロセスにattachして、そのプロセスの /proc/<PID>/mem を mmap することで、ターゲットプログラムのメモリ空間から直接magicナンバーを検索して解析する方法です。この方法では、detach 後、SIGCONTを発行すれば再開するので、プロセスが死なずにすみます。

caller も保存してあるので、おおよそどのルートでmallocされたメモリなのかが分かり、リーク退治に非常に便利でした。

 

今までの私が行ったデバッグの中で一番派手なのが上記の例ですね。後は泥まみれのデバッグばかりです。

私のデバッグスタイルとしては、使えるものを探し(時には作り)、使えるものは全て使ってバグ退治をするという感じですかね。バグを退治するのが目的なので、手段は選びません。

最近は printf デバッグ=悪といった風潮もありますが、printf デバッグも有効な手段である場面も多いと私は思います。私自身結構使いますし、必ずしも悪とは思ってません。その時の状況に応じて使えるものは全て使います。バグ退治に有効ならば。

私の場合、組み込み系の仕事がメインなのですが、i386以外のアーキテクチャではgdbが当てにならない場合が結構あります。マルチスレッドプログラムがgdb上ではうまく動かなかったり、Linuxカーネル起動後はICEなしで開発になったりと、デバッガがまともに使えないケースも結構あるので、デバッガは使えればラッキーくらいな感覚ですね。

なので、あまり手段を選んでられないのです。組み込み系でもスタイリッシュにグラフィカルなデバッガでスイスイデバッグができると楽なんですけどねぇ。組み込み系のようなプアな環境でのデバッグは十数年前からあまり変わってないのかもしれません。

DEBUG HACKS Conference 2009 に参加しました

久しぶりのブログです。今回は zaurus とは関係ないですが。。。

昨日開催された Debug Hacks の発売記念イベント Debug Hacks Conference 2009 に参加してきました。

参加前は本を買うかどうかは立ち読みしてから決めようかと思っていたんですが(^^;)、会場の即売所で買ってしまいました。

オライリーの紙袋 Debug Hacks Tシャツ

会場で本を買ったら DEBUG HACKS Tシャツがもらえました。ネタ以外では着れないですが・・・。
本を入れてくれたオライリーの紙袋がCoolです。

Conference の内容は詳細に書かれている方々がいらっしゃると思うし、動画がいずれニコニコ動画等にアップされると思うので、個人的にためになった部分を。

GDBでリスト表示

まず、gdb のユーザ定義コマンドによるリストの表示。構造体内のnext を辿って最後まで表示してくれるというもの。ユーザ定義コマンド自体は知ってたけど、面倒そうで使ったことなかったんですが、 こういう使い方が出きるなら便利ですね。

コードはメモってないので書けませんが、ユーザ定義コマンド(仮に list_print とする)で1つの構造体を表示するようなコマンドを作っておき、別のユーザ定義コマンドで next を辿って list_print を呼び出すというもの。(説明が下手ですな)

たしかに、ユーザ定義コマンドを作るのに手間がかかりますが、何度も何度もリストを見なければいけない場合には使えそうです。

今までは、

(gdb) p *list_head->next->next->next->next->next->next->next

とか普通に打ってました (汗)

Yuguiさんの発表

私は Ruby は触ったことがないこともあり、失礼ながら Yugui さんを始めて知りました。

まず、プレゼンうまいなーと。スライドの作りも個性的で、話の流れもわかりやすく、ユーモアもあり、とても印象に残りました。

印象に残ったのは、Ruby や Rails ではデバッグであまり苦労していないということ。言語設計やソフト設計が厄介なバグを混入しにくくしているんだなと感心しました。

DbC (Design by Contruct) や BDD (Behavior Driven Development) といった、軽微なバグを初期段階で検出できて、バグを混入しにくい作り方が、地味そうに思えるも非常に有効だと分かりました。

体験談として、DbC を適用して assert 入れまくったらバグがボロボロ出てきて、全て退治したらバグが1つしか残らなかったとおっしゃってました。1つのスキームで数百、数千単位のバグを1つにまで減らせたというのは驚きです。

こういう理論って確かにそうだけど、実際開発には適用が難しくない?とか、本当に手間に対する効果があるの?みたいなことを考えてしまうのですが、バリバリ開発しているハッカーに言われると非常に説得力があります。

いま仕事で開発してるソフトに DbC に倣って assert 入れまくってみようかな。結果がちょっと怖いですが (^^;

サインもらいました

最後に著者の方々にサインをもらってきました。

まだ本は読んでないですが、なかなか勉強になる Conference でした。

qgmap 0.1.7 リリース

リリース直後ですが、いろいろとバグバグだったので修正しました。→ダウンロードページ

bxk07344さんに教えていただいた以下のバグを修正しています。

  • MapPathダイアログでパスが設定されているにも関わらず「地図のパスは最低1つ必要です」と表示されるバグを修正。
  • v0.1.5以前のMapPath設定, GPS設定の引き継ぎに問題があったので修正
  • パス指定・イメージファイル指定で/home/zaurus/documentsより上位ディレクトリを指定可能に

他にも細かいバグがあるかもしれないので、気づいたらご指摘をお願いします。

qgmap 0.1.6 リリース

約1ヶ月半ぶりになりますが、qgmapをリリースします。→ダウンロードページ

今回はちょっと使い勝手が向上する機能を追加しました。

  • イメージファイル自動マウント機能
  • 複数イメージファイル/ディレクトリ対応
  • QCop メッセージによる緯度経度指定ジャンプ対応
  • GPS機器選択対応

最初の2つは、前々から考えてはいたものの、UIを作るのが大変そうで敬遠していた機能です (^^;

今までは1つのディレクトリしか指定できませんでしたが、今回から8つまでイメージファイル / 地図ディレクトリが指定可能になりました。それに伴い、自動でマウントする機能も付けました。

 
左上のアイコンから「Map Path」を選択

 

地図イメージ設定ダイアログ
地図イメージ設定ダイアログ

「追加」を押すと、ファイル/ディレクトリ選択ダイアログが表示されるので、地図ディレクトリの場合は、今までどおり imgs ディレクトリを指定し、イメージファイルの場合は、.rom, .isoファイルを指定してください。

地図ディレクトリ/イメージファイル選択ダイアログ
地図ディレクトリ/イメージファイル選択ダイアログ

これで地域別、用途別に地図イメージを作成しておき、必要な地図イメージだけをSDカードにコピーするといった運用が可能になります。また、いちいちマウントする手間が省けます。

 

QCopメッセージ対応は、bxk07344 さんがのぼぶろぐにて乗換案内とqgmapを連携させる方法を公開されたのがきっかけで作った機能です。
以下のようにQCopメッセージを送信することで、外部から指定した座標へジャンプさせることが可能になります。

 # qcop QPE/Application/qgmap 'setWGSLocation(QString)' '緯度,経度[,zoom]' 
# qcop QPE/Application/qgmap 'setTokyoLocation(QString)' '緯度,経度[,zoom]'

世界測地系、日本測地系のどちらでも指定可能です。

 

最後がGPS機器選択対応です。複数の GPS 機器をお持ちの方用に、5機種まで設定を登録できるようにし、簡単に切り替えられるようにしました。

新しいGPSメニュー
新しいGPSメニュー

Settingsを選択すると、各GPS機器の設定が可能です。それ以降の5つがそれぞれ設定したGPS機器となります。選択中の設定には上記のようにチェックが入って表示されます。

GPS設定ダイアログ
GPS設定ダイアログ

Nameで設定した名称がGPSメニューにも表示されます。他の項目は今までと同じです。

あまり需要は無い機能かもしれませんが、私がデバッグ目的で uPod と M-241 を切り替えるときに設定をいちいち書き直すのが面倒だったので追加しました。あっかんべー

 

HB1さんのZegaも着々とバージョンアップされてますね。次のバージョンではルート案内の曲がり角拡大表示機能を実装予定とか。うーん。すごい。ほとんどカーナビじゃないですか。
GPSログやルート案内などのGPS・ナビ関連機能は全然かなわないですね。

qgmapの今後の予定として、一応、GPSのNMEAログ取得機能は実装するつもりですが、それ以降はGPS・ナビ系以外の機能に力を入れる予定です。

カスタムPOIデータ対応や、sugarwareさんにご要望をいただきながらも先延ばしになっていた住所指定ジャンプ機能あたりを実装しようかなと思ってます。

あと、ダウンロードページの使い方の欄が膨れ上がってきたので、以前手を付けて以来放置状態のマニュアルへちょっとずつ書き写して整備していかないとですね・・。

WifiConnect 0.0.2 リリース

WifiConnect をバグフィックスした 0.0.2 をリリースします。 →ダウンロードページ

ブースカさんから指摘していただいたバグの2点+αのみを修正してあります。機能追加はありません。

  •  WEPのアクセスポイントでWEPアイコンが表示されないバグを修正
  • Exitボタンが動作していなかったが、Exitボタンは不要なのでボタン自体を削除
  • タイトルバーにアプリ名を表示

とりあえず検索だけはちゃんと動くようになったかなと思います。

いまのところ、以下のようなステップで作っていこうと考えてます。

  1. GW-CF54G, WN-G54/CF で検索  (←いまココ)
  2. Prism系カードで検索
  3. 設定済みのAPへ接続
  4. 設定がないAPへ接続 (設定を作成する)
  5. 設定の変更を可能に

一応 1. はクリアしたので、一段落ついたということで qgmap の開発へ戻ろうと思います。

既に前回リリースから1ヶ月が経って、何も手つかず状態なので、ご協力して頂いている waste さんや、ユーザの皆さんに申し訳ないので。