unixforum.org

Озадачен я тут одним вопросом, NAS сервер - это хорошо или плохо?
Решено: 1. Мне не понятна скорость передачи данных. Допустим, сетевые на 1gd в секунду, нас сервер + компьютер на убунту. Обычное сетевое подключение через гигабитный свитч. Правильно ли я понимаю, что скорости такого порта хватит только только на 1 hdd (или допустим в раид 1). То есть скорость отдачи данных hdd - 100 mB в секунду иногда выше. 100 * 8 = 800 mb + какой то процент (наверное 30) на контроль четности и дополнительную информацию - и всё нет даже такой скорости.
Таким образом, верно ли я понимаю, что при использовании 1 gb сетки физически не имеет смысла ставить на nas сервере raid 10 на hdd или делать nas сервер из ssd? Или я что то считаю не так?
значит мои 30% это не верно, а скорость я считаю правильно

2. Если мои расчеты верны, кажется очень логичным сжимать трафик перед передачей и распаковывать его при приеме. Бывает ли такое и как это называется?
3. Сколько процессора забирает запись на винчестеры в раид и работа с сетевой картой? То есть есть мнение, что любой arm процессор от 600 гц, одноядерный - для нас уже будет более чем хорошим. Атом - вообще сказка. А также на нем же запустят как минимум торрент (и дальше у многих по списку всё подряд). Верно ли это или всё таки процессор нужен от определенных показателей?
4. Производительность sata контролеров на материнской плате подразумевает их работу на 100% или есть четкие ограничения? Например, материнская плата имеет 4 * sata 3 и 2 sata 6 gB в секунду. Это значит, что к материнской плате можно одновременно подключить 6 дисков и писать на них с максимальной скоростью этих дисков или некоторые чипсеты не потянут одновременной записи?

Решено: 5. человек купил:
Synology_DS214se_2x http://www.nix.ru/autocatalog/nas_synology...2.0_176298.html
HDD 4 Tb SATA 6Gb WD40EZRX http://www.nix.ru/autocatalog/hdd_western_...3.5_172913.html
сделал на nas raid 1, ext4 и при записи получил скорость 38 мБайт в секунду по сети в 1 gb. Это нормально или это очень мало? Может ли быть тормозом процессор в данном случае?
понятно почему так
Может у кого то есть нас серверы и вы сами проводили с ними какие нибудь тесты?

У меня основная домашняя файлопомойка живёт на роутере (писюк, дебиан, чахлый селерон). Доступаюсь до ней через SSHFS. Гигабитная сеть, до свичь (какой-то пятипортовый неуправляемый 3-Com) уже старый и начал чудить, или сетевухи чудят. Сейчас проверил, скорость чтения ниже сотни мегабит, раньше вроде было ближе к гигабиту. SSHFS — тварь удобная, но прожорливая.
Как говорится «брат жив», дискомфорта не испытываю. Хотя образы виртуалок и тому бодобное, держу только на локальных хардах.

MrClon отмечу, если я не правильно понял, напишите пожалуйста. Ваш роутер - это полноценный компьютер celeron. Как минимум - это значительно круче arm!

1Gb сеть это хорошо, но всё упрётся в скорость дисков. Дома по сети файлы бегают ~38-39 mb/s с SATA'шного диска, и ~30-31 mb/s с внешних USB'шных.

NFS.

chitatel то есть мой расчет скоростей (первый пункт) не верен в принципе? Так как по моему мнению если поставить раид 10 или ssd - то сетевого подключения в 1 г бит уже не хватит. вот не могу рассчитать.
зы
у вас также 38 мбайт, а ведь скорость сата диска 100-150 мбайт в секунду.

azsx писал(а): ↑

29.11.2014 18:38

chitatel то есть мой расчет скоростей (первый пункт) не верен в принципе?

Тут я не компетентен, raid не использовал никогда.

Тест сети по iperf:

0.0-10.0 sec 1.09 GBytes 933 Mbits/sec

Синтетический тест. :-/

chitatel писал(а): ↑

29.11.2014 18:26

1Gb сеть это хорошо, но всё упрётся в скорость дисков. Дома по сети файлы бегают ~38-39 mb/s с SATA'шного диска, и ~30-31 mb/s с внешних USB'шных.

NFS.

У меня synology D412+ (raid 10 (4 диска) и ноут SSD) . На больших файлах (больше 200-300 Мбайт) бывало и до 107 Mбайт доходило на 1Gbit'е через 1 свич (что практически предел). На мелких файлах скорость намного меньше. Но при желании, если на ПК 2 сетевые поддерживающие нужный стандарт объединения + свичи должны это уметь (если не напрямую), можно и до 2х гигабит ускорится (NASы подобные моему имеют 2 порта). Но главный вопрос - как часто вы по сети гоняете большие файлы или одновременно несколько пользователей гоняют файлы поменьше (особенно в домашних условиях)? Как часто у вас 100% загрузка сетки?

при этом хотя я тестирую винт на который нет нагрузки, но другой винт воет и лоад аверадже 6 из 4 реальных.
То есть скорость sata винчестера 100% больше, чем 38 м байт!
GalakhovR спасибо большое за информацию. Вот я по скорости не понимаю, неужели 107 м байт в секунду - это максимум раид 10 контролеров? зы я еще не понимаю, почему на мелких файлах намного медленее, но хоть в чем то разобраться.

Как часто у вас 100% загрузка сетки?

практически не загружена, но причина в том, что я просто всё делаю на локальном компе. а так винты бывает работают.
зы
кстати нагрузка спала, без нагрузки 1 винт показал 80,3 MB в секунду, второй 102 MB в секунду. То есть в моем понимании 107 м байт в секунду - это скорость нормального не фрагментированного sata'шного hdd. А не раид 10!
зызы
еще кстати, где 102 у меня 2 торрента пишется; где 84 у меня две виртуалки (почти без нагрузки, наверное). Нагрузка у меня тупо на процессоре спала.

Однако в реальных условиях скорость сети будет серьёзно ограничиваться жёсткими дисками. В синтетическом сценарии память-память наша гигабитная сеть дала производительность, очень близкую к теоретическому пределу 125 Мбайт/с. Обычные же скорости в сети с учётом производительности жёстких дисков будут ограничиваться уровнем от 20 до 85 Мбайт/с, в зависимости от используемых винчестеров.

Старая статья, читал перед тем, как домашнюю сеть на гигабит перевёл. Поэтому не был разочарован результатом. :)

http://www.thg.ru/network/gigabit_ethernet/print.html

chitatel огромное спасибо за статью.
1. То есть не смотря на то, что dd мне дает вполне хорошие результаты, на самом деле при реальных копированиях с винчестера на винчестер результат будет намного хуже. Очень удивлен.
2. Далее, как я понял при hdd винчестерах на nas, raid 10 (даже софтовый) будет как раз кстати, чтобы винчестеры иногда работали быстрее, чем гигабитная сетка. В основном всё равно тормоза будут от hdd винчестеров. В то же время ssd на nas сервере будут всегда работать быстрее, чем сетевая карта сможет передавать с них данные. Интересно.
3. Теперь помимо второго, третьего и четвертого не решенного вопроса из старт поста появился еще один вопрос. А как определить на какой шине сидит встроенный контролер ethernet на материнской плате? И если на материнской плате есть два ethernet контролера - они сидят априори на разных шинах или шина одна?
------------------------
насчет первого пункта и моего удивления. Сделал файл на (приблизительно) 11 гб, покопировал его туда сюда. Тесты не совсем точны, так как у меня много оперативной + я юзал date в качестве таймера, а значит только секуны, но...
1. Результаты моих тестов
с первого хдд копирую на второй хдд = 41,6 м байта в секунду
с первого хдд копирую на ssd винчестер = 85,9 м байт в секунду
логично, что сперва с первого винчестера надо прочитать данные (меньше 100 мбайт в секунду) а затем записать файл на другой винт (снова меньше 100 мбайт). Винчестеры (вангую) по любак сидят на sata 3. Значит, наверное, контролер sata для банок расположенных рядом работает последовательно и потому скорость копирования меньше в два раза.
ssd точно сидит на sata 6 гбайт в секунду. При копировании с hdd на ssd, я получаю почти 86 мбайт в секунду.
При этом команда dd на hdd = 97,1 мбайт в секунду; на ssd = 451 м байт в секунду.
2. Тесты на скорость копирования не совсем правильны в данном случае, так как рассматривают только один вариант использования nas севера - архив данных. В то же время, например, я скопирую на нас файл на 50 гб и буду делать выборку, но только по сети обращаться, а не на локальный винт Решено: обработка большого текстового файла - тогда логично, что скорость отдачи от винчестеров будет максимальна. Новые винты hdd реально отдают на чтение > 125 мбайт в секунду. Также для нас будут тормоза для виртуалок, наверное...
----------------
вот теперь буду думать, правильно я понимаю, что контролер sata работает последовательно с разными банками; или контролер работает одновременно, а потери скорости связаны с дополнительной обработкой данных процессором и прочего. Вот только как думать - хз...

chitatel писал(а): ↑

29.11.2014 18:26

1Gb сеть это хорошо, но всё упрётся в скорость дисков. Дома по сети файлы бегают ~38-39 mb/s с SATA'шного диска, и ~30-31 mb/s с внешних USB'шных.

NFS.

Это какие-то неправильные диски. Уж сотню-то мегабайт/с при линейном чтении современный хард давать должен. Может конкуренция за диск высокая, или ещё что?

azsx писал(а): ↑

29.11.2014 16:57

MrClon отмечу, если я не правильно понял, напишите пожалуйста. Ваш роутер - это полноценный компьютер celeron. Как минимум - это значительно круче arm!

Да, обычный PC, весьма чахлый (специально выбирал самых холодный селерон).
То что у меня скорость не упирается в номинал сети ни о чём не говорит, вполне возможно что припадочный свич перестал тянуть гигабит например. Да и SSHFS жаден до проца (по идее он шифрует весь трафик), для NASa это явно не основной протокол.

Да, обычный PC, весьма чахлый (специально выбирал самых холодный селерон).

вот после того как я попробовал поработать на процессоре NVIDIA T30L Quad-core Cortex-A9 1.3 ГГц я понял, что значит фраза чахлый комп. Он, субъективно, в 2-5 раз медленее моего одноядерного атома, причем в 5 раз он медленее на реальных программах. И греется он при архивировании афигенно.
А один из вопросов, как бы - хватает ли любого дохлого арм для всех функций nas сервера + некоторого дополнительного запущенного ПО в фоне. Может мне кажется, что не хватит низачо, а в реальности людям хватает.

Читать с диска и писать в сеть, это довольно дёшево про процессору. А вот если добавить всякую там компрессию, шифрование и прочее то сразу становится дорого.

попробуйте передавать файлы через торрент клиенты
там размер блока в 5мБ независим от размеров файлов, которые передаются внутри блоков, это - очень важно для того, чтобы получить максимум throughput
плюс получите ACID и проверку чексумм по настроению, в любой момент
у вас у всех очень хорошие результаты для доступного бытового оборудования
если go extreme, то видел как коммутатор cisco (3750, вроде) не справлялся с нагрузкой, которую ему предоставил NetApp =)
если go home, то получил такие же результаты и хныкал в несколько тредов тут, с тех пор ненавижу армы, ембед девайсы, насы, и прочую хрень
потому что, самое быстрое по io - купить еще один винт и поставить его в комп, строить сети дома из говна и палок (я хотел сказать, из маршрутизаторов 1Гб/c за 4000 рублей) - потратит много Вашего времени, когда проблему можно было решить проще и быстрее

у вас у всех очень хорошие результаты для доступного бытового оборудования

потому что перед тем как купить железку домой, я 7 раз все характеристики прочитаю и дома всё сделаю правильно (как путин).

если go extreme, то видел как коммутатор cisco (3750, вроде) не справлялся с нагрузкой, которую ему предоставил NetApp

это также интересный вопрос, вполне допускаю, что недорогие маршрутизаторы и коммутаторы просто не потянут сильный трафик. Но не знаю.
зы
так то всё ясно из поста следует, что нас сервер хоме едитион (кроме функций архивации) - это способ занять время по ночам "вместо этого". Но вот сейчас у меня на компе с убунтой стоит 4 hdd диска и 1 ssd диск. Как проверить работу контролера sata одновременно? Чтобы узнать обеспечивают ли они максимум производительности при одновременной работе?