распределенное скачивание файла

Софт под Linux, разные программы, но только связанные с Linux

Модератор: /dev/random

finist
Сообщения: 9

распределенное скачивание файла

Сообщение finist »

Народ, а существует ли ПО либо метод организации распределенной закачки файлов с инета, т.е. допустим есть какой-ть файл весом метров в много, есть несколько машин, я на одной из них даю команду на скачивание файла, она распределяет закачку частей по машинам, потом это все объединяется в один файл. Причем это не торрент или емул, речь идет именно о закачке с HTTP (FTP)...?
Спасибо сказали:
allez
Сообщения: 2223
Статус: Не очень злой админ :-)
ОС: SuSE, CentOS, FreeBSD, Windows

Re: распределенное скачивание файла

Сообщение allez »

Да в общем-то ничего сверхъестественного в этом нет. Тут главное, чтобы сервер, с которого скачивается файл, умел "отдавать" файлы не только с начала, но и с произвольной позиции, а проще говоря, поддерживал докачку. Таких серверов, думаю, сейчас в мире абсолютное большинство. Но вот что касается софта, то мне удалось найти утилиту, способую к распределенному скачиванию, лишь под Windows: http://as-works.narod.ru/software/gul.htm.

P. S. Я искал в Google по запросу "распределенная загрузка файлов по http" и ссылка, по которой я нашел эту утилиту, находилась на первом месте в списке. А вы как искали? И искали ли вообще? ;)

P. P. S. Не всякий сервер сообщает точный размер скачиваемого файла, что может сделать распределенную закачку невозможной.
Спасибо сказали:
zenitur
Сообщения: 594
Статус: Одмин
ОС: openSuSE 10.2

Re: распределенное скачивание файла

Сообщение zenitur »

Я пробовал gftp, когда мне надо было скачать мегабайтов 50 файлов, я туда залил ссылки. Интернет не работал, так что я поставил кол-во попыток соединиться 99999. Проснулся, посмотрел лог: через 20 минут Интернет объявился, началась HTTP-транзакция, или как её... В ответ сервер прислал 302 file found, gftp остался доволен и отрубил закачки. Не стал качать! Насколько я видел это в ReGet, он должен был перейти по ссылке сервера на файл и скачать! Но он всё же это не сделал.
gftp не юзай. Может, для Firefox есть такой плагин?
А йа Ктулху! А йа - Медве-ед! А где Путин? Путина не-ет! Если встретишь - зохавай моск! А вернёшься - скажи ПРЕВЕД! Превед, Ктулху! Превед, Медвед!
Спасибо сказали:
finist
Сообщения: 9

Re: распределенное скачивание файла

Сообщение finist »

А вы как искали? И искали ли вообще?

искал так же и сейчас ищу. и утилитку эту находил, изучение оставил на потом, думаю все таки поискать подобное под nix*, если есть еще у кого предложения - прошу
Спасибо сказали:
Аватара пользователя
sash-kan
Администратор
Сообщения: 13939
Статус: oel ngati kameie
ОС: GNU

Re: распределенное скачивание файла

Сообщение sash-kan »

эй, ребята, вы что, серьезно все это понаписали? точно, не прикалываетесь?
да самый тупой и неприспособленный wget подойдет.
получите размер файла:
$ wget -S --spider http://bla-bla-bla 2>&1 |grep Content-Length
разделите этот размер на количество задействованных машин, рассчитайте стартовые позиции.
перед началом закачки создайте пустой файл нужного размера:
$ dd if=/dev/zero of=имя bs=1 count=1 seek=размер_минус_один_байт
и запускайте wget с опцией -c.
ах да, чтобы ограничить количество скачиваемого, можно квоту установить (опция -Q).
а чтобы квота сработала с одним-единственным скачиваемым файлом, ссылку на него запишите в файлик и передайте его имя опцией -i.

ну, уж как выдрать нужное и собрать все воедино я расписывать не буду ;)

надеюсь, кому действительно надо, скриптики-то накатает ;)
Писать безграмотно - значит посягать на время людей, к которым мы адресуемся, а потому совершенно недопустимо в правильно организованном обществе. © Щерба Л. В., 1957
при сбоях форума см.блог
Спасибо сказали: