Скачивание файлов
Модератор: /dev/random
-
cdrw
- Сообщения: 249
Скачивание файлов
Хотелось бы скачать часть сайта. wget это делает с кучей мусора. Или я правильной опции не нашел?
-
Goodwin
- Сообщения: 149
- ОС: Slackware 13.0
Re: Скачивание файлов
сведения по wget (инфа взята из инета)
примеры использования утилиты wget для скачивания файлов из сети.
wget ftp://user:password@host:port/directory
Докачка
wget -c http://3d.domain.com/file.txt
Список файлов для скачивания в longfile, результат сохраняем в директории mydir
wget -P mydir -i longfile
Рекурсивный запрос (зеркалирование), -t - сколько попыток при ошибке
wget -r -t1 http://www.softerra.ru/
Запрещаем загрузку .jpg
wget -R.jpg
Только грузим .jpg
wget -A.jpg
Ограничиваем пропускную способность
wget --limit-rate=10K
Примеры использования wget и curl для копирования web-контента
Копирум ftp.test.ru, за исключением директории /pub/mp3 и помещаем результат в /tmp/test
wget -m -P/tmp/test -nH ftp://ftp.test.ru/pub/ -X /pub/mp3
Скачиваем файл test.gif со скоростью 10 Кб/с и сохраняем его на локальном диске:
wget --quiet -O - --timeout=20 --limit-rate 10k http://test.ru/test.gif > /tmp/test.gif
curl http://test.ru/test.gif --max-time 20 -s -o test.gif
Рекурсивно скачиваем в директорию test_site:
wget -r --no-parent -P ./test_site http://test.ru/arc/
Доп. опции wget:
"-O N" - куда выводить результат, "-" - стандартный вывод;
"-l N" - уровень вложенности;
"-r" - рекурсивный запрос.
"--no-parent" - не выходить за пределы родительского каталога;
"--quota N" - сограничить общий объем выкачиваемого в байтах (можно m и k);
"--limit-rate N" - ограничить скорость в байт/сек. (10k - 10кб/сек);
При перекачке по FTP можно в именах файлов указывать шаблоны (естественно, "закавычивая" их). Например, команда
wget 'ftp://rdist.inp.nsk.su/pub/Linux/redhat-5.2/updates/i386/XFree86*.rpm'
следующая команда могла бы использоваться для скачивания целого домашнего сайта:
wget -r -l 0 -np http://www.h-hosts.com/users/goofy/
Эта опция для отключения протокола веб-роботов.(будет качать все подряд)
"-e robots=off"
примеры использования утилиты wget для скачивания файлов из сети.
wget ftp://user:password@host:port/directory
Докачка
wget -c http://3d.domain.com/file.txt
Список файлов для скачивания в longfile, результат сохраняем в директории mydir
wget -P mydir -i longfile
Рекурсивный запрос (зеркалирование), -t - сколько попыток при ошибке
wget -r -t1 http://www.softerra.ru/
Запрещаем загрузку .jpg
wget -R.jpg
Только грузим .jpg
wget -A.jpg
Ограничиваем пропускную способность
wget --limit-rate=10K
Примеры использования wget и curl для копирования web-контента
Копирум ftp.test.ru, за исключением директории /pub/mp3 и помещаем результат в /tmp/test
wget -m -P/tmp/test -nH ftp://ftp.test.ru/pub/ -X /pub/mp3
Скачиваем файл test.gif со скоростью 10 Кб/с и сохраняем его на локальном диске:
wget --quiet -O - --timeout=20 --limit-rate 10k http://test.ru/test.gif > /tmp/test.gif
curl http://test.ru/test.gif --max-time 20 -s -o test.gif
Рекурсивно скачиваем в директорию test_site:
wget -r --no-parent -P ./test_site http://test.ru/arc/
Доп. опции wget:
"-O N" - куда выводить результат, "-" - стандартный вывод;
"-l N" - уровень вложенности;
"-r" - рекурсивный запрос.
"--no-parent" - не выходить за пределы родительского каталога;
"--quota N" - сограничить общий объем выкачиваемого в байтах (можно m и k);
"--limit-rate N" - ограничить скорость в байт/сек. (10k - 10кб/сек);
При перекачке по FTP можно в именах файлов указывать шаблоны (естественно, "закавычивая" их). Например, команда
wget 'ftp://rdist.inp.nsk.su/pub/Linux/redhat-5.2/updates/i386/XFree86*.rpm'
следующая команда могла бы использоваться для скачивания целого домашнего сайта:
wget -r -l 0 -np http://www.h-hosts.com/users/goofy/
Эта опция для отключения протокола веб-роботов.(будет качать все подряд)
"-e robots=off"
Химические реакции, протекающие в большинстве голов, никак нельзя назвать мышлением.
-
WiZ
- Сообщения: 60
Re: Скачивание файлов
Интересно, почему этот топик надо было создавать именно в разделе Slackware?
А если по теме, то man wget, там всё подробно и понятно описано, даже с примерами.
А если по теме, то man wget, там всё подробно и понятно описано, даже с примерами.
Arch / Linux-ck 64bit / xmonad / vim,opera,deadbeef,zsh /
-
Goodwin
- Сообщения: 149
- ОС: Slackware 13.0
Re: Скачивание файлов
а если этот топик не по теме, то зачем в нем что-то писать?? Пишите сразу в разделе, куда этот топик переместят....
Химические реакции, протекающие в большинстве голов, никак нельзя назвать мышлением.
-
MadDog
- Бывший модератор
- Сообщения: 2298
- Статус: Добрый банщик
Re: Скачивание файлов
Согласен. Поехали в Программы
-
Folderx
- Сообщения: 296
- ОС: fedora, mandriva
Re: Скачивание файлов
Если там страница на сайте, он её скачивает, а потом из неё ссылки качает, банеры, скрипты всё подряд и только что найдёт на странице, так что если с сервера можно скачать чо-то ещё он не скачает если это в странице(какой-нибудь) не написано.