распределенное скачивание файла
Модератор: /dev/random
-
finist
- Сообщения: 9
распределенное скачивание файла
Народ, а существует ли ПО либо метод организации распределенной закачки файлов с инета, т.е. допустим есть какой-ть файл весом метров в много, есть несколько машин, я на одной из них даю команду на скачивание файла, она распределяет закачку частей по машинам, потом это все объединяется в один файл. Причем это не торрент или емул, речь идет именно о закачке с HTTP (FTP)...?
-
allez
- Сообщения: 2223
- Статус: Не очень злой админ :-)
- ОС: SuSE, CentOS, FreeBSD, Windows
Re: распределенное скачивание файла
Да в общем-то ничего сверхъестественного в этом нет. Тут главное, чтобы сервер, с которого скачивается файл, умел "отдавать" файлы не только с начала, но и с произвольной позиции, а проще говоря, поддерживал докачку. Таких серверов, думаю, сейчас в мире абсолютное большинство. Но вот что касается софта, то мне удалось найти утилиту, способую к распределенному скачиванию, лишь под Windows: http://as-works.narod.ru/software/gul.htm.
P. S. Я искал в Google по запросу "распределенная загрузка файлов по http" и ссылка, по которой я нашел эту утилиту, находилась на первом месте в списке. А вы как искали? И искали ли вообще?
P. P. S. Не всякий сервер сообщает точный размер скачиваемого файла, что может сделать распределенную закачку невозможной.
P. S. Я искал в Google по запросу "распределенная загрузка файлов по http" и ссылка, по которой я нашел эту утилиту, находилась на первом месте в списке. А вы как искали? И искали ли вообще?
P. P. S. Не всякий сервер сообщает точный размер скачиваемого файла, что может сделать распределенную закачку невозможной.
-
zenitur
- Сообщения: 594
- Статус: Одмин
- ОС: openSuSE 10.2
Re: распределенное скачивание файла
Я пробовал gftp, когда мне надо было скачать мегабайтов 50 файлов, я туда залил ссылки. Интернет не работал, так что я поставил кол-во попыток соединиться 99999. Проснулся, посмотрел лог: через 20 минут Интернет объявился, началась HTTP-транзакция, или как её... В ответ сервер прислал 302 file found, gftp остался доволен и отрубил закачки. Не стал качать! Насколько я видел это в ReGet, он должен был перейти по ссылке сервера на файл и скачать! Но он всё же это не сделал.
gftp не юзай. Может, для Firefox есть такой плагин?
gftp не юзай. Может, для Firefox есть такой плагин?
А йа Ктулху! А йа - Медве-ед! А где Путин? Путина не-ет! Если встретишь - зохавай моск! А вернёшься - скажи ПРЕВЕД! Превед, Ктулху! Превед, Медвед!
-
finist
- Сообщения: 9
Re: распределенное скачивание файла
А вы как искали? И искали ли вообще?
искал так же и сейчас ищу. и утилитку эту находил, изучение оставил на потом, думаю все таки поискать подобное под nix*, если есть еще у кого предложения - прошу
-
sash-kan
- Администратор
- Сообщения: 13939
- Статус: oel ngati kameie
- ОС: GNU
Re: распределенное скачивание файла
эй, ребята, вы что, серьезно все это понаписали? точно, не прикалываетесь?
да самый тупой и неприспособленный wget подойдет.
получите размер файла:
$ wget -S --spider http://bla-bla-bla 2>&1 |grep Content-Length
разделите этот размер на количество задействованных машин, рассчитайте стартовые позиции.
перед началом закачки создайте пустой файл нужного размера:
$ dd if=/dev/zero of=имя bs=1 count=1 seek=размер_минус_один_байт
и запускайте wget с опцией -c.
ах да, чтобы ограничить количество скачиваемого, можно квоту установить (опция -Q).
а чтобы квота сработала с одним-единственным скачиваемым файлом, ссылку на него запишите в файлик и передайте его имя опцией -i.
ну, уж как выдрать нужное и собрать все воедино я расписывать не буду
надеюсь, кому действительно надо, скриптики-то накатает
да самый тупой и неприспособленный wget подойдет.
получите размер файла:
$ wget -S --spider http://bla-bla-bla 2>&1 |grep Content-Length
разделите этот размер на количество задействованных машин, рассчитайте стартовые позиции.
перед началом закачки создайте пустой файл нужного размера:
$ dd if=/dev/zero of=имя bs=1 count=1 seek=размер_минус_один_байт
и запускайте wget с опцией -c.
ах да, чтобы ограничить количество скачиваемого, можно квоту установить (опция -Q).
а чтобы квота сработала с одним-единственным скачиваемым файлом, ссылку на него запишите в файлик и передайте его имя опцией -i.
ну, уж как выдрать нужное и собрать все воедино я расписывать не буду
надеюсь, кому действительно надо, скриптики-то накатает
Писать безграмотно - значит посягать на время людей, к которым мы адресуемся, а потому совершенно недопустимо в правильно организованном обществе. © Щерба Л. В., 1957
при сбоях форума см.блог
при сбоях форума см.блог