Поиск продукта (архивирование+шифрование и быстрое извлечение)

Обсуждение настройки и работы сервисов, резервирования, сетевых настроек и вопросов безопасности ОС.

Модераторы: SLEDopit, Модераторы разделов

sptica
Сообщения: 126
ОС: Ubuntu

Поиск продукта

Сообщение sptica »

Здравствуйте!

Уважаемые коллеги, подскажите пожалуйста, существует ли нечто готовое под линукс, умеющее сжимать и шифровать достаточно большие объёмы информации (~30 Гб) с помощью цифрового конветра, но при этом имеющие возможность быстрого извлечения из шифрованного архива 1-2 файлов? Т.е. без расшифровки всех 30 Гб.

Заранее спасибо за наводки :).
Спасибо сказали:
Аватара пользователя
Bizdelnick
Модератор
Сообщения: 21519
Статус: nulla salus bello
ОС: Debian GNU/Linux

Re: Поиск продукта

Сообщение Bizdelnick »

sptica писал(а):
15.01.2013 13:08
цифрового конветра

???

p7zip не? Ещё dar есть.
Пишите правильно:
в консоли
вку́пе (с чем-либо)
в общем
вообще
в течение (часа)
новичок
нюанс
по умолчанию
приемлемо
проблема
пробовать
трафик
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

Можно losetup с шифрованием, а там уже tar архивы держать, из которых легко достаются 1-2 файла
Спасибо сказали:
Аватара пользователя
Bizdelnick
Модератор
Сообщения: 21519
Статус: nulla salus bello
ОС: Debian GNU/Linux

Re: Поиск продукта

Сообщение Bizdelnick »

pelmen писал(а):
15.01.2013 14:24
tar архивы держать, из которых легко достаются 1-2 файла

tar'у нужно для этого именно распаковать весь архив.
Пишите правильно:
в консоли
вку́пе (с чем-либо)
в общем
вообще
в течение (часа)
новичок
нюанс
по умолчанию
приемлемо
проблема
пробовать
трафик
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

Bizdelnick писал(а):
15.01.2013 15:16
pelmen писал(а):
15.01.2013 14:24
tar архивы держать, из которых легко достаются 1-2 файла
tar'у нужно для этого именно распаковать весь архив.
точно? Временно в /tmp/?
Спасибо сказали:
Аватара пользователя
Bizdelnick
Модератор
Сообщения: 21519
Статус: nulla salus bello
ОС: Debian GNU/Linux

Re: Поиск продукта

Сообщение Bizdelnick »

pelmen писал(а):
15.01.2013 15:33
точно? Временно в /tmp/?

Нет, в ОЗУ+своп. Под "распаковать" я подразумевал декомпрессию (не нашёл более подходящего русского слова).
Пишите правильно:
в консоли
вку́пе (с чем-либо)
в общем
вообще
в течение (часа)
новичок
нюанс
по умолчанию
приемлемо
проблема
пробовать
трафик
Спасибо сказали:
sptica
Сообщения: 126
ОС: Ubuntu

Re: Поиск продукта

Сообщение sptica »

Bizdelnick писал(а):
15.01.2013 13:36
sptica писал(а):
15.01.2013 13:08
цифрового конветра

???

p7zip не? Ещё dar есть.


Цифровой конверт это шифрование открытым ключом сеансового ключа, с помощью которого шифруются сами данные. Чтобы расшифровать данные, сначала с помощью закрытого ключа расшифровывается сеансовый ключ, а потом сеансовым ключом расшифровываются данные. Нужна такая схема, потому что используя ассиметричное шифрование, нельзя шифровать большие объёмы данных, а симметричное шифрование подразумевает либо ввод пароля вручную (что тяжело сделать с кронтабом), либо наличие одного и того-же файла-ключа и для зашифрования, и для расшифрования, что плохо с точки зрения безопасности - файл-ключ должен лежать в открытом доступе на сервере.

Почитал man'ы к p7zip и dar - не умеют они цифровой конверт, если конечно я ничего не упустил.
Спасибо сказали:
sptica
Сообщения: 126
ОС: Ubuntu

Re: Поиск продукта

Сообщение sptica »

pelmen писал(а):
15.01.2013 14:24
Можно losetup с шифрованием, а там уже tar архивы держать, из которых легко достаются 1-2 файла


Почитал про losetup. И у меня возникли сомнения в возможности достать из такого виртуального блочного устройства несколько файлов, не расшифровывая его все. Или существуют варианты расшифровки "на лету"?
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

sptica писал(а):
15.01.2013 17:28
pelmen писал(а):
15.01.2013 14:24
Можно losetup с шифрованием, а там уже tar архивы держать, из которых легко достаются 1-2 файла


Почитал про losetup. И у меня возникли сомнения в возможности достать из такого виртуального блочного устройства несколько файлов, не расшифровывая его все. Или существуют варианты расшифровки "на лету"?
У меня сложилось твёрдое мнение на основании собственного опыта, что в случае использования losetup расшифровывание происходит "налету" причем только тех данных, к которым вы пытаетесь получить доступ. Соответственно, то, что вам нужно. Останется только либо файловую систему с сжатием выбрать, либо на обычной хранить сжатый архив, техника сжатия которого поддерживает разархивирование определенного файла без необходимости разжимать и разархивировывать в ОЗУ весь сжатый архив (если я правильно понял задачу). Можете подробнее рассказать о вашей системе? Мне эта тема интересна
Спасибо сказали:
Аватара пользователя
Bizdelnick
Модератор
Сообщения: 21519
Статус: nulla salus bello
ОС: Debian GNU/Linux

Re: Поиск продукта

Сообщение Bizdelnick »

А обязательно нужен архив? Если критично быстрое извлечение отдельных файлов, может и хранить их по отдельности? Тогда всё, что Вам нужно, - это gpg.
Пишите правильно:
в консоли
вку́пе (с чем-либо)
в общем
вообще
в течение (часа)
новичок
нюанс
по умолчанию
приемлемо
проблема
пробовать
трафик
Спасибо сказали:
sptica
Сообщения: 126
ОС: Ubuntu

Re: Поиск продукта

Сообщение sptica »

Bizdelnick писал(а):
15.01.2013 19:54
А обязательно нужен архив? Если критично быстрое извлечение отдельных файлов, может и хранить их по отдельности? Тогда всё, что Вам нужно, - это gpg.


Да в том то и дело, что сейчас есть собственный скрипт, который шифрует каждый отдельный файл, по указанной технологии. Меня как раз интересует, существуют ли более стандартные решения, чем самописный скрипт. Ну или хотя бы более автоматизированные.

Если делать один большой архив, а потом его шифровать, то для того, чтобы достать 1 файл, нужно будет расшифровать весь архив, а этого очень не хочется, потому что потери времени огромные.

Спасибо за ответы, буду разбираться с losetup+шифрование.
Спасибо сказали:
sptica
Сообщения: 126
ОС: Ubuntu

Re: Поиск продукта

Сообщение sptica »

pelmen писал(а):
15.01.2013 17:51
У меня сложилось твёрдое мнение на основании собственного опыта, что в случае использования losetup расшифровывание происходит "налету" причем только тех данных, к которым вы пытаетесь получить доступ. Соответственно, то, что вам нужно. Останется только либо файловую систему с сжатием выбрать, либо на обычной хранить сжатый архив, техника сжатия которого поддерживает разархивирование определенного файла без необходимости разжимать и разархивировывать в ОЗУ весь сжатый архив (если я правильно понял задачу). Можете подробнее рассказать о вашей системе? Мне эта тема интересна


Почитал про losetup с шифрованием. Действительно всё он умеет. Только я свою задачу не до конца сформулировал, поэтому такой вариант мне не подходит. Изначально мне нужен такой вот цифровой конверт для бэкапов. Чтобы надёжно, без ручного ввода пароля (потому что запускается из кронтаба), без хранения ключа для расшифровки на сервере, который архивирует и шифрует и с быстрым извлеченим 1 файла из большого архива. Вот такая у меня система :). Сейчас этим занимается рукописный скрипт. Решил поискать ещё варианты для решений своей задачи :). Пока ничего лучшего не нашёл.

Спасибо Вам за ответы :).
Спасибо сказали:
Аватара пользователя
drBatty
Сообщения: 8735
Статус: GPG ID: 4DFBD1D6 дом горит, козёл не видит...
ОС: Slackware-current

Re: Поиск продукта

Сообщение drBatty »

sptica писал(а):
15.01.2013 13:08
Уважаемые коллеги, подскажите пожалуйста, существует ли нечто готовое под линукс, умеющее сжимать и шифровать достаточно большие объёмы информации (~30 Гб) с помощью цифрового конветра, но при этом имеющие возможность быстрого извлечения из шифрованного архива 1-2 файлов? Т.е. без расшифровки всех 30 Гб.

сначала шифруем, потом упаковываем. gpg + tar.
Bizdelnick писал(а):
15.01.2013 15:16
tar'у нужно для этого именно распаковать весь архив.

не нужно. Т.е. файл читается, но не распаковывается, и даже не декомпресируется (компрессия не нужна, ибо должна быть ПЕРЕД шифрованием, а не после. После уже нет смысла)

sptica писал(а):
15.01.2013 17:08
Почитал man'ы к p7zip и dar - не умеют они цифровой конверт, если конечно я ничего не упустил.

man gpg. p7zip & dar и не должны уметь - UNIX Way.
http://emulek.blogspot.ru/ Windows Must Die
Учебник по sed зеркало в github

Скоро придёт
Осень
Спасибо сказали:
Аватара пользователя
drBatty
Сообщения: 8735
Статус: GPG ID: 4DFBD1D6 дом горит, козёл не видит...
ОС: Slackware-current

Re: Поиск продукта

Сообщение drBatty »

sptica писал(а):
17.01.2013 17:04
Пока ничего лучшего не нашёл.

ИМХО каждая утилита должна свою задачу выполнять. Сжатие, архивирование, и шифрование - три разные задачи. gpg использует системное сжатие ZIP, ZLIB или BZIP2 (см. --compress-algo). Естественно сжатие в tar (или что там у вас) необходимо отключать(архивы несжимаемы).
http://emulek.blogspot.ru/ Windows Must Die
Учебник по sed зеркало в github

Скоро придёт
Осень
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

sptica писал(а):
17.01.2013 17:04
мне нужен такой вот цифровой конверт для бэкапов. Чтобы надёжно, без ручного ввода пароля (потому что запускается из кронтаба), без хранения ключа для расшифровки на сервере, который архивирует и шифрует и с быстрым извлеченим 1 файла из большого архива.
без ручного ввода пароля, без хранения ключа на сервере. Как это сейчас у вас реализуется?
Спасибо сказали:
Аватара пользователя
drBatty
Сообщения: 8735
Статус: GPG ID: 4DFBD1D6 дом горит, козёл не видит...
ОС: Slackware-current

Re: Поиск продукта

Сообщение drBatty »

pelmen писал(а):
17.01.2013 17:19
sptica писал(а):
17.01.2013 17:04
мне нужен такой вот цифровой конверт для бэкапов. Чтобы надёжно, без ручного ввода пароля (потому что запускается из кронтаба), без хранения ключа для расшифровки на сервере, который архивирует и шифрует и с быстрым извлеченим 1 файла из большого архива.
без ручного ввода пароля, без хранения ключа на сервере. Как это сейчас у вас реализуется?

man gpg. Для шифровки не нужен секретный ключ.
http://emulek.blogspot.ru/ Windows Must Die
Учебник по sed зеркало в github

Скоро придёт
Осень
Спасибо сказали:
Аватара пользователя
Bizdelnick
Модератор
Сообщения: 21519
Статус: nulla salus bello
ОС: Debian GNU/Linux

Re: Поиск продукта

Сообщение Bizdelnick »

sptica писал(а):
17.01.2013 16:54
Меня как раз интересует, существуют ли более стандартные решения, чем самописный скрипт. Ну или хотя бы более автоматизированные.

Вряд ли.
Пишите правильно:
в консоли
вку́пе (с чем-либо)
в общем
вообще
в течение (часа)
новичок
нюанс
по умолчанию
приемлемо
проблема
пробовать
трафик
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

drBatty писал(а):
17.01.2013 17:39
pelmen писал(а):
17.01.2013 17:19
sptica писал(а):
17.01.2013 17:04
мне нужен такой вот цифровой конверт для бэкапов. Чтобы надёжно, без ручного ввода пароля (потому что запускается из кронтаба), без хранения ключа для расшифровки на сервере, который архивирует и шифрует и с быстрым извлеченим 1 файла из большого архива.
без ручного ввода пароля, без хранения ключа на сервере. Как это сейчас у вас реализуется?

man gpg. Для шифровки не нужен секретный ключ.
пардон, я думал, что ему нужно расшифровывать бэкап без хранения ключа на сервере. Просто ТС сформулировал так, что я, читая, ввёл себя в заблуждение :)
Спасибо сказали:
sptica
Сообщения: 126
ОС: Ubuntu

Re: Поиск продукта

Сообщение sptica »

pelmen писал(а):
17.01.2013 17:19
без ручного ввода пароля, без хранения ключа на сервере. Как это сейчас у вас реализуется?


Ассиметричное шифрование :).

drBatty писал(а):
17.01.2013 17:19
sptica писал(а):
17.01.2013 17:04
Пока ничего лучшего не нашёл.

ИМХО каждая утилита должна свою задачу выполнять. Сжатие, архивирование, и шифрование - три разные задачи. gpg использует системное сжатие ZIP, ZLIB или BZIP2 (см. --compress-algo). Естественно сжатие в tar (или что там у вас) необходимо отключать(архивы несжимаемы).


Спасибо!
Спасибо сказали:
Аватара пользователя
drBatty
Сообщения: 8735
Статус: GPG ID: 4DFBD1D6 дом горит, козёл не видит...
ОС: Slackware-current

Re: Поиск продукта

Сообщение drBatty »

pelmen писал(а):
18.01.2013 10:37
ему нужно расшифровывать бэкап без хранения ключа на сервере.

просто по логике, бекап должен создаваться на сервере, и по той-же логике, нужно автоматизировать именно _создание_ бекапа. А уж его разворачивание - это внештатная ситуация, которой лучше-бы и не было. Потому для бекапа нужно именно автоматическое шифрование.
http://emulek.blogspot.ru/ Windows Must Die
Учебник по sed зеркало в github

Скоро придёт
Осень
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

Я сначала из текста понял, что необходимо автоматически кроном из созданных зашифрованных архивов в 30Гб доставать один маленький файл (для каких-то целей) не имея при этом на сервере ключа и не вводя пароль. Вот и запутался.
Да знаю про асимметричное шифрование, перестаньте :)
Спасибо сказали:
Аватара пользователя
drBatty
Сообщения: 8735
Статус: GPG ID: 4DFBD1D6 дом горит, козёл не видит...
ОС: Slackware-current

Re: Поиск продукта

Сообщение drBatty »

pelmen писал(а):
18.01.2013 16:41
Да знаю про асимметричное шифрование, перестаньте

если знаете, то почему не юзаете в повседневной жизни? (если б юзали, то таких вопросов не было-бы)
http://emulek.blogspot.ru/ Windows Must Die
Учебник по sed зеркало в github

Скоро придёт
Осень
Спасибо сказали:
pelmen
Сообщения: 1268
ОС: debian

Re: Поиск продукта

Сообщение pelmen »

drBatty писал(а):
18.01.2013 18:36
pelmen писал(а):
18.01.2013 16:41
Да знаю про асимметричное шифрование, перестаньте

если знаете, то почему не юзаете в повседневной жизни? (если б юзали, то таких вопросов не было-бы)
каких вопросов, простите?
Спасибо сказали:
Аватара пользователя
Ленивая Бестолочь
Бывший модератор
Сообщения: 2760
ОС: Debian; gentoo

Re: Поиск продукта

Сообщение Ленивая Бестолочь »

drBatty, pelmen, господа, выясняйте отношения в личке, пожалуйста. ну, или, если хотите, могу ваш разговор куда-нибудь отрезать :-)
Солнце садилось в море, а люди с неоконченным высшим образованием выбегали оттуда, думая, что море закипит.
Спасибо сказали: