Скачивание файлов

Софт под Linux, разные программы, но только связанные с Linux

Модератор: /dev/random

Аватара пользователя
cdrw
Сообщения: 249

Скачивание файлов

Сообщение cdrw »

Хотелось бы скачать часть сайта. wget это делает с кучей мусора. Или я правильной опции не нашел?
Спасибо сказали:
Аватара пользователя
Goodwin
Сообщения: 149
ОС: Slackware 13.0

Re: Скачивание файлов

Сообщение Goodwin »

сведения по wget (инфа взята из инета)

примеры использования утилиты wget для скачивания файлов из сети.

wget ftp://user:password@host:port/directory

Докачка
wget -c http://3d.domain.com/file.txt

Список файлов для скачивания в longfile, результат сохраняем в директории mydir
wget -P mydir -i longfile

Рекурсивный запрос (зеркалирование), -t - сколько попыток при ошибке
wget -r -t1 http://www.softerra.ru/

Запрещаем загрузку .jpg
wget -R.jpg

Только грузим .jpg
wget -A.jpg

Ограничиваем пропускную способность
wget --limit-rate=10K

Примеры использования wget и curl для копирования web-контента
Копирум ftp.test.ru, за исключением директории /pub/mp3 и помещаем результат в /tmp/test
wget -m -P/tmp/test -nH ftp://ftp.test.ru/pub/ -X /pub/mp3

Скачиваем файл test.gif со скоростью 10 Кб/с и сохраняем его на локальном диске:
wget --quiet -O - --timeout=20 --limit-rate 10k http://test.ru/test.gif > /tmp/test.gif
curl http://test.ru/test.gif --max-time 20 -s -o test.gif

Рекурсивно скачиваем в директорию test_site:
wget -r --no-parent -P ./test_site http://test.ru/arc/

Доп. опции wget:
"-O N" - куда выводить результат, "-" - стандартный вывод;
"-l N" - уровень вложенности;
"-r" - рекурсивный запрос.
"--no-parent" - не выходить за пределы родительского каталога;
"--quota N" - сограничить общий объем выкачиваемого в байтах (можно m и k);
"--limit-rate N" - ограничить скорость в байт/сек. (10k - 10кб/сек);
При перекачке по FTP можно в именах файлов указывать шаблоны (естественно, "закавычивая" их). Например, команда
wget 'ftp://rdist.inp.nsk.su/pub/Linux/redhat-5.2/updates/i386/XFree86*.rpm'
следующая команда могла бы использоваться для скачивания целого домашнего сайта:
wget -r -l 0 -np http://www.h-hosts.com/users/goofy/
Эта опция для отключения протокола веб-роботов.(будет качать все подряд)
"-e robots=off"
Химические реакции, протекающие в большинстве голов, никак нельзя назвать мышлением.
Спасибо сказали:
WiZ
Сообщения: 60

Re: Скачивание файлов

Сообщение WiZ »

Интересно, почему этот топик надо было создавать именно в разделе Slackware?

А если по теме, то man wget, там всё подробно и понятно описано, даже с примерами.
Arch / Linux-ck 64bit / xmonad / vim,opera,deadbeef,zsh /
Спасибо сказали:
Аватара пользователя
Goodwin
Сообщения: 149
ОС: Slackware 13.0

Re: Скачивание файлов

Сообщение Goodwin »

а если этот топик не по теме, то зачем в нем что-то писать?? Пишите сразу в разделе, куда этот топик переместят....
Химические реакции, протекающие в большинстве голов, никак нельзя назвать мышлением.
Спасибо сказали:
Аватара пользователя
MadDog
Бывший модератор
Сообщения: 2298
Статус: Добрый банщик

Re: Скачивание файлов

Сообщение MadDog »

WiZ писал(а): ↑
06.11.2007 20:20
Интересно, почему этот топик надо было создавать именно в разделе Slackware?
Согласен. Поехали в Программы
MadDog's Blog
Внимательно читать: Как правильно задавать вопросы
No fate but what we make
Спасибо сказали:
Аватара пользователя
Folderx
Сообщения: 296
ОС: fedora, mandriva

Re: Скачивание файлов

Сообщение Folderx »

cdrw писал(а): ↑
06.11.2007 15:48
Хотелось бы скачать часть сайта. wget это делает с кучей мусора. Или я правильной опции не нашел?

Если там страница на сайте, он её скачивает, а потом из неё ссылки качает, банеры, скрипты всё подряд и только что найдёт на странице, так что если с сервера можно скачать чо-то ещё он не скачает если это в странице(какой-нибудь) не написано.
Спасибо сказали: