Wikia Search
January 10th, 2008
これぞGoogleキラー?Wikipedia創始者らの手による検索エンジン公開
分散型Webクローラーを活用した検索サイト「Wikia Search」のα版が公開
Wikiaのサーチエンジンが公開されました。少なくとも現状の検索結果は惨憺たるもので役に立つなどとはとても思えないできなのですが、その辺についてちょっと思ったことを(というか年始に友人と話したこと)。
Wikia Searchは、P2Pのクローラでデータを集めているらしい。ただ、計算量を考えても現代の検索エンジンで一番重いのはクロールするところではなくインデックスを作るとこなんじゃないだろうか?もしクロールも自前で行わない方がいいと判断されるほどマシンパワーがないのであれば、まともにインデックスを作れるはずがないのでないだろうか。
P2Pによる検索という話は、たぶん1990年代に生まれたアイディアで、もしかしたら当時はインデックスよりもクロールの方がずっと大変な処理だったのかもしれない。でも、あるシステムのボトルネックが時代と共に変わるのは当たり前のことで、その「クロールを分散すればどうにかなる」という概念だけ生き続けてしまった結果こういう事態になってしまったのかなと想像してみた。
January 10th, 2008 at 12:06 pm
お、この前のやつよね。
検索の仕組みってもっと理解したいなぁ。
January 12th, 2008 at 9:32 am
全然よくわかっていないんですけど,クロールする時に,クローラが,自分がクロールした分のインデックス作業もしているとかはないですかね?
でもって,本体では,インデックスのマージ作業のみしているとか.