Синхронизация каталогов

Обсуждение настройки и работы сервисов, резервирования, сетевых настроек и вопросов безопасности ОС.

Модераторы: SLEDopit, Модераторы разделов

zkrvova
Сообщения: 280

Синхронизация каталогов

Сообщение zkrvova »

Есть такая задача, нужно с http сервера забирать файлы и ложить к себе в локальный каталог. Какие файлы заранее не известно, т.е. нужно синхронизировать свой каталог с удалённым.

Как этого добиться?
Спасибо сказали:
Аватара пользователя
INF[SZ]
Сообщения: 395
ОС: Centos

Re: Синхронизация каталогов

Сообщение INF[SZ] »

wget, rsync
Я не понял Вашего вопроса, но я Вам на него отвечу.
Спасибо сказали:
Аватара пользователя
Хрюндель
Сообщения: 304
ОС: Сам не знаю

Re: Синхронизация каталогов

Сообщение Хрюндель »

rsync однозначно. Если хочишь всё это дело в cron засунуть то придётся ssh ключик без pass phrase генерировать, иначе оно само не будет логиниться.
Спасибо сказали:
zkrvova
Сообщения: 280

Re: Синхронизация каталогов

Сообщение zkrvova »

а зачем ключик? на сервер доступ без парольный, обычный.
Спасибо сказали:
Аватара пользователя
Хрюндель
Сообщения: 304
ОС: Сам не знаю

Re: Синхронизация каталогов

Сообщение Хрюндель »

А обычный это какой? Я думал обычный это Юзер+Пароль..
Спасибо сказали:
zkrvova
Сообщения: 280

Re: Синхронизация каталогов

Сообщение zkrvova »

Вот попробовал так:
wget -r -l10 -k http://www.nogliki.com/updates/nod/ -np
но скачивает список файлов в index.html. А сами файлы качать не хочет.

Как заставить качать сами файлы?
Спасибо сказали:
Аватара пользователя
elide
Бывший модератор
Сообщения: 2421
Статус: Übermensch
ОС: лялих

Re: Синхронизация каталогов

Сообщение elide »

ну ты умен.... тебе в robots.txt серым по белому написано "Disallow: /updates/"
низзя, значит, качать...
слава роботам!
Спасибо сказали:
Аватара пользователя
xnu!l
Сообщения: 632
Статус: Linux Gangster 4 Life
ОС: openSUSE 11

Re: Синхронизация каталогов

Сообщение xnu!l »

elide писал(а):
01.05.2007 00:55
ну ты умен.... тебе в robots.txt серым по белому написано "Disallow: /updates/"
низзя, значит, качать...



3.0 How can I make Wget ignore the robots.txt file?

wget -erobots=off http://your.site.here
EVOLVE OR DIE
Спасибо сказали:
Demonas666
Сообщения: 25
ОС: Debian GNU/Linux

Re: Синхронизация каталогов

Сообщение Demonas666 »

А как можно синхронизировать две папки в пределах одного компьютера? Задача состоит в создании бэкапа нескольких папок на втором винчестере. Папки довольно объемные, поэтому хотелось бы копировать только те файлы, которые изменились. Вобщен, нужен аналог
lftp mirror
но для двух локальных папок.
Спасибо сказали:
Аватара пользователя
Goodvin
Ведущий рубрики
Сообщения: 4333
Статус: ⚝⚠⚒⚑⚖☭☞☣☤&

Re: Синхронизация каталогов

Сообщение Goodvin »

Demonas666 писал(а):
18.02.2010 13:23
А как можно синхронизировать две папки в пределах одного компьютера? Задача состоит в создании бэкапа нескольких папок на втором винчестере. Папки довольно объемные, поэтому хотелось бы копировать только те файлы, которые изменились. Вобщен, нужен аналог
lftp mirror
но для двух локальных папок.
man rsync
Спасибо сказали:
Demonas666
Сообщения: 25
ОС: Debian GNU/Linux

Re: Синхронизация каталогов

Сообщение Demonas666 »

Goodvin писал(а):
18.02.2010 13:48
man rsync

А его можно запускать без демона? Не хочется, чтобы крутился всё время, или каждый раз стартовать/останавливать. Считаю, что в пределах одного компьютера rsync - это костыль. Разве нет чего попроще?
Спасибо сказали:
Аватара пользователя
Goodvin
Ведущий рубрики
Сообщения: 4333
Статус: ⚝⚠⚒⚑⚖☭☞☣☤&

Re: Синхронизация каталогов

Сообщение Goodvin »

Demonas666 писал(а):
18.02.2010 18:09
Goodvin писал(а):
18.02.2010 13:48
man rsync

А его можно запускать без демона? Не хочется, чтобы крутился всё время, или каждый раз стартовать/останавливать.
Вы хотите чтобы

Код: Выделить всё

man rsync
читал Вам я?
Это можно.
100$ в час, вслух и с выражением, дикция поставлена.
Возможно чтение по телефону, тариф поминутный.

Demonas666 писал(а):
18.02.2010 18:09
Считаю, что в пределах одного компьютера rsync - это костыль. Разве нет чего попроще?
Считайте. Чем rsync сложен?
Тем, что Вы не желаете читать man?
Спасибо сказали:
Flaming
Сообщения: 2579

Re: Синхронизация каталогов

Сообщение Flaming »

Demonas666 писал(а):
18.02.2010 18:09
Считаю, что в пределах одного компьютера rsync - это костыль. Разве нет чего попроще?

А что может быть проще? =)
Ну, разве rm, потом cp. Но согласитесь, что это медленнее. :) И менее надёжно.

rsync именно и придуман, что для вашей задачи.
Спасибо сказали:
Аватара пользователя
yurkats
Сообщения: 70
ОС: Fedora

Re: Синхронизация каталогов

Сообщение yurkats »

Использование rsync в варианте на одном компе:
rsync -avpo --progress --no-p --no-g --no-o --log-file='/var/log/rsyncd.log' /var/source-dir/ /var/dst-dir/


Использование rsync в варианте сервер-клиент:

на сервере создется файл

/etc/rsyncd.conf
***************
log file = /var/log/rsyncd.log
transfer logging = /var/log/rsync-transfer.log

[source_dir_xxx]
comment = Source Dir
path = /var/source
list = yes
host allow = 192.168.1.2
uid = root
gid = root

[source_dir_yyy]
comment = Source Dir 2
path = /var/source-hard-xxx/
list = yes
host allow = 192.168.1.2
uid = root
gid = root
***************

Серверная часть запускается тока в процессе запроса синхронизации, через xinetd
для этого /etc/xinetd.d/rsync установить "disable" в "no"

На клиенте

rsync -avpoz --progress --no-p --no-g --no-o --log-file='/var/log/rsyncd.log' root@192.168.1.1::source_dir_xxx /var/dst-dir-xxx/
или
rsync -avpoz --progress --no-p --no-g --no-o --log-file='/var/log/rsyncd.log' root@192.168.1.1::source_dir_yyy/hard/ /var/dst-dir-yyy/

В Fedore 12 всё работает
Спасибо сказали: