Производительность mdadm при работе с kvm (Производительность mdadm при работе с kvm)

Модератор: Модераторы разделов

Ответить
jecaaaa
Сообщения: 8

Производительность mdadm при работе с kvm

Сообщение jecaaaa »

Здравствуйте.

Установил kvm на Ubuntu server 11.10, пробросил внутрь раздел на диске и софтовый raid10(пробовал и raid1,raid0).

В kvm установил windows 2008, провел тестирование скорости проброшенных устройств и получилось, что скорость записи/чтения на проброшенном разделе соответствует скорости в хостовой системе, а скорость проброшенного raid 10 ровно в 2 раза ниже хостовой. Пробовал ставить virtio драйверы, итог тот же. Различные варианты эмуляции(ide, virtio,scsi)ничего не изменили(wtireback помогает но хотелось бы без него). Может есть какие твики или настройки или это бага? В общем ситуация странная, если кто-нибудь может подсказать в чем может быть дело был бы благодарен.
Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: Производительность mdadm при работе с kvm

Сообщение Bluetooth »

Что имеется ввиду под "пробросом" в данном случае?
Спасибо сказали:
Аватара пользователя
rm_
Сообщения: 3340
Статус: It's the GNU Age
ОС: Debian
Контактная информация:

Re: Производительность mdadm при работе с kvm

Сообщение rm_ »

jecaaaa писал(а):
15.11.2011 21:56
Здравствуйте.

Установил kvm на Ubuntu server 11.10, пробросил внутрь раздел на диске и софтовый raid10(пробовал и raid1,raid0).

В kvm установил windows 2008, провел тестирование скорости проброшенных устройств и получилось, что скорость записи/чтения на проброшенном разделе соответствует скорости в хостовой системе, а скорость проброшенного raid 10 ровно в 2 раза ниже хостовой.

Сколько на хостовой и сколько в гостевой, в цифрах?
Если к примеру на хосте одно устройство даёт 100 МБ/сек, а RAID10 даёт 200 МБ/сек,
а при этом в гостевой системе они оба дают 100 МБ/сек, то такое положение вещей соответствовало бы вашему описанию.
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.
Спасибо сказали:
alex_suse
Сообщения: 204
ОС: Debian, openSUSE, Gentoo

Re: Производительность mdadm при работе с kvm

Сообщение alex_suse »

rm_ писал(а):
16.11.2011 08:35
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.

Вроде не должно быть, может из-за софт рейд
______1.png

RAID5 аппаратный на SAS, хост debian kvm, гость w2k3
Спасибо сказали:
jecaaaa
Сообщения: 8

Re: Производительность mdadm при работе с kvm

Сообщение jecaaaa »

Bluetooth писал(а):
16.11.2011 01:22
Что имеется ввиду под "пробросом" в данном случае?


В качестве виртуальных жестких дисков используется не файл на диске, а блочное устройство хостовой системы( в данном случае софт raid).

rm_ писал(а):
16.11.2011 08:35
Сколько на хостовой и сколько в гостевой, в цифрах?
Если к примеру на хосте одно устройство даёт 100 МБ/сек, а RAID10 даёт 200 МБ/сек,
а при этом в гостевой системе они оба дают 100 МБ/сек, то такое положение вещей соответствовало бы вашему описанию.
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.


Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150

alex_suse писал(а):
16.11.2011 09:34
rm_ писал(а):
16.11.2011 08:35
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.

Вроде не должно быть, может из-за софт рейд

RAID5 аппаратный на SAS, хост debian kvm, гость w2k3

А в хосте такая же скорость?

Больше всего интересует скорость записи, она странным образом даже для raid0 упала, хотя чтение почти как на хосте.
Может где действительно есть лимиты какие-нибудь настраиваемые, приоритезация или параметры ядра, в общем я не сильно разбираюсь во внутреннем устройстве kvm и mdadm, поэтому прошу совета.

Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: Производительность mdadm при работе с kvm

Сообщение Bluetooth »

jecaaaa писал(а):
16.11.2011 10:47
Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150

Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?
Спасибо сказали:
jecaaaa
Сообщения: 8

Re: Производительность mdadm при работе с kvm

Сообщение jecaaaa »

Bluetooth писал(а):
16.11.2011 13:51
jecaaaa писал(а):
16.11.2011 10:47
Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150

Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?


С виртио цифры примерно те же, местами даже меньше. Это scsi. На ide еще меньше.
Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: Производительность mdadm при работе с kvm

Сообщение Bluetooth »

jecaaaa писал(а):
16.11.2011 15:08
Bluetooth писал(а):
16.11.2011 13:51
jecaaaa писал(а):
16.11.2011 10:47
Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150

Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?


С виртио цифры примерно те же, местами даже меньше. Это scsi. На ide еще меньше.

вы все же опубликуйте цифры со всех трех режимов - вдруг что-то видно будет.
Спасибо сказали:
alex_suse
Сообщения: 204
ОС: Debian, openSUSE, Gentoo

Re: Производительность mdadm при работе с kvm

Сообщение alex_suse »

Померил, скорость записи действительно не сильно выше 100МБ на госте, тогда как на хосте 500
проверял обычным dd.
Интересно будет посмотреть на ESXi, уже освобождаю железо. :)
Спасибо сказали:
jecaaaa
Сообщения: 8

Re: Производительность mdadm при работе с kvm

Сообщение jecaaaa »

Проверил на железном raid10 скорость в хосте 300/300, прокинул в виртуалку столько же. Делаю вывод что виноват mdadm. Может у кого есть мысли как оптимизировать работу mdadm?
Спасибо сказали:
Аватара пользователя
vr13
Сообщения: 876
ОС: gentoo

Re: Производительность mdadm при работе с kvm

Сообщение vr13 »

jecaaaa писал(а):
18.11.2011 19:32
Проверил на железном raid10 скорость в хосте 300/300, прокинул в виртуалку столько же. Делаю вывод что виноват mdadm. Может у кого есть мысли как оптимизировать работу mdadm?

если быть точным, то mdadm - это утилита конфигурация и мониторинга, а реализация softraid делается модулями ядра хоста. наверное самое простое - попробовать в вашей инсталляции поставить поновей ядро и посмотреть что из этого получится
Спасибо сказали:
jecaaaa
Сообщения: 8

Re: Производительность mdadm при работе с kvm

Сообщение jecaaaa »

vr13 писал(а):
18.11.2011 22:06
jecaaaa писал(а):
18.11.2011 19:32
Проверил на железном raid10 скорость в хосте 300/300, прокинул в виртуалку столько же. Делаю вывод что виноват mdadm. Может у кого есть мысли как оптимизировать работу mdadm?

если быть точным, то mdadm - это утилита конфигурация и мониторинга, а реализация softraid делается модулями ядра хоста. наверное самое простое - попробовать в вашей инсталляции поставить поновей ядро и посмотреть что из этого получится


В ubuntu 11.10 ядро 3.0, вроде относительно свежее. Блин а куда копать тогда, ведь проблема с производительностью в хосте отсутствует. Проблема появляется при использовании программного raid и kvm.
Спасибо сказали:
jecaaaa
Сообщения: 8

Re: Производительность mdadm при работе с kvm

Сообщение jecaaaa »

Обновил ядро до 3.1 результаты прежние!
Спасибо сказали:
Аватара пользователя
vr13
Сообщения: 876
ОС: gentoo

Re: Производительность mdadm при работе с kvm

Сообщение vr13 »

jecaaaa писал(а):
21.11.2011 17:47
Обновил ядро до 3.1 результаты прежние!

http://www.spinics.net/lists/kvm/msg62091.html - кажется, ваш случай
Спасибо сказали:
Ответить