PDA

Просмотр полной версии : Бан поисковиком за частые запросы....


LolFEm
15.05.2008, 00:00
Собственно интересна тема.
Пишу парсер Яндекса, Гугла и Яши...
надо отпарсить 10000 запросов.

Сейчас стоит между запросами dalay = 1сек.
Будет ли бан за частые запросы, если да то как по большому кол-ву запросов с одного Ip...
Собственно вот кто знает через какое время поисковики дают бан за частое обращение к поиску...

Vid0k
15.05.2008, 00:42
может будет иногда когда гуугл ручками парсю после 10-20 страницы
пишет мол у вас какие траблы с компьютером и дальше ни как

ДеЦл
15.05.2008, 00:45
icq.com юзай

Spyder
15.05.2008, 00:48
ДеЦл, там походу тоже ввели ограничение

ДеЦл
15.05.2008, 00:49
мы ж с тобой кажись парсер писали?

Spyder
15.05.2008, 00:50
было дело =) вот он чё то нормально работать перестал =\
надо переделывать, а мне влом

ДеЦл
15.05.2008, 00:51
мне соответственно тоже)

Piflit
15.05.2008, 00:53
а у меня есть! =Р

ДеЦл
15.05.2008, 00:54
баян

Vid0k
15.05.2008, 01:19
а как возможно обойти эту фичу если она и на icq.com появиласть менять прокси?

LolFEm
15.05.2008, 13:32
Можно использовать прокси. Но если есть возможность ставить паузу между запросами можно просто скрипт Кроном форкать...

BlackCats
15.05.2008, 13:35
http://www.vengo.ru/
юзайте

Spyder
15.05.2008, 13:37
омг
попробуйте в гугле сразу на 12 страницу перейти с запросом inurl:""
он вас на*** пошлёт

LolFEm
15.05.2008, 13:42
мне не обязательно поиск делать по даполнительным параметрам.... просто запросы

http://www.yandex.ru/yandsearch?text=test

http://www.google.com/search?&rls=ru&q=test

Spyder
15.05.2008, 14:00
так гугл и не банит по обычным запросам =\