Показать сообщение отдельно

Aura SE Parser / Лучший парсер поисковиков
  #1  
Старый 13.02.2008, 07:06
Хозяин
Постоянный
Регистрация: 15.03.2006
Сообщений: 600
С нами: 10608806

Репутация: 1203


По умолчанию Aura SE Parser / Лучший парсер поисковиков

Для тех кто не в курсе что это:

- парсинг результатов выдачи Google, Yahoo, Live, возможность установки глубины просматриваемых страниц. количество результатов на странице для всех поисковых систем - 100.
- многопоточность - произвольное число потоков на SE, отдельные списки запросов для каждой SE, параллельный парсинг нескольких SE, возможность установки таймаута потока
- прокси - HTTP, установка таймаута соединения, возможность парсинга без прокси
- вращение выдачи - буквы, цифры, дополнительные запросы, ALD (Any Level Domain, подстановка конструкции site:домен_любого_уровня в запросы Google)
- принудительная задержка потоков (для парсинга без прокси)
- postmortem-механизм - продолжение парсинга после ребута/выключения сервера
- развернутая статистика - процент выполнения потоков, парсинга в целом, время парсинга
- скачивание выдачи поисковых систем в gzip
- макроподстановки в запросах
- очистка мусора из выдачи
- фильтрация результатов

Требования к хосту:

- UNIX-подобная операционная система
- Perl 5.8.6 и выше, есть в поставке подавляющего большинства UNIX-подобных систем
- Perl-модули: Byteloader, Compress::Zlib, Uncompress::Gunzip, CGI, CGI::Carp, POSIX, Fcntl, LWP::UserAgent

(как вы видите, бесплатные - отпадают)

Архив содержит отличный мануал, по установке и настройке. не вижу смысла его здесь копипастить.

Скачать пароль antichat

+

Пак апдейтов

+

Мод для Yahoo

Конкретный скрипт я заводил. Большинство возможных проблем, из-за отсутствия модулей перла
 
Ответить с цитированием