ダウンロードリスト

プロジェクト概要

Ebot は拡張性と distribuited の Web クローラーです。Url が、NOSQL データベース (マップまたは軽減のクエリをサポートしています) に保存されますも HTTP 要求またはお好みのプログラミング言語を使用してを通じてクエリできること。分析対象とする必要がある Url は、AMQP キューに送信されます。この方法でいくつかのクローラーが並列で実行し停止および Url を失うことがなくそれらを起動することが可能です。

システム要件

システム要件が設定されていません
プロジェクトのリリース情報やプロジェクトリソースの情報です。
注: プロジェクトリソースの情報は Freecode.com ページからの引用です。ダウンロードそのものは、OSDNにホスティングされているものではありません。

2010-06-20 23:18 リリース一覧に戻る
0.5

優れたスケーラビリティ、新しいAMQPのキューは、(.* .* .* ebot.refused .*)とクローラ(ebot_web古いコア)ebot.completed現在、2つの異なる並列モジュールで分割されてebot.fetched ebot.newを使用している/プロセス(ebot_htmlとebot_web)。
For better scalability, new amqp queues are used (ebot.new.* ebot.fetched.* ebot.completed.* ebot.refused.*) and the old core of the crawler (ebot_web) is now split in two different and parallel modules/processes (ebot_html and ebot_web).

プロジェクトリソース