Производительность mdadm при работе с kvm (Производительность mdadm при работе с kvm)
Модератор: Модераторы разделов
Производительность mdadm при работе с kvm
Здравствуйте.
Установил kvm на Ubuntu server 11.10, пробросил внутрь раздел на диске и софтовый raid10(пробовал и raid1,raid0).
В kvm установил windows 2008, провел тестирование скорости проброшенных устройств и получилось, что скорость записи/чтения на проброшенном разделе соответствует скорости в хостовой системе, а скорость проброшенного raid 10 ровно в 2 раза ниже хостовой. Пробовал ставить virtio драйверы, итог тот же. Различные варианты эмуляции(ide, virtio,scsi)ничего не изменили(wtireback помогает но хотелось бы без него). Может есть какие твики или настройки или это бага? В общем ситуация странная, если кто-нибудь может подсказать в чем может быть дело был бы благодарен.
Установил kvm на Ubuntu server 11.10, пробросил внутрь раздел на диске и софтовый raid10(пробовал и raid1,raid0).
В kvm установил windows 2008, провел тестирование скорости проброшенных устройств и получилось, что скорость записи/чтения на проброшенном разделе соответствует скорости в хостовой системе, а скорость проброшенного raid 10 ровно в 2 раза ниже хостовой. Пробовал ставить virtio драйверы, итог тот же. Различные варианты эмуляции(ide, virtio,scsi)ничего не изменили(wtireback помогает но хотелось бы без него). Может есть какие твики или настройки или это бага? В общем ситуация странная, если кто-нибудь может подсказать в чем может быть дело был бы благодарен.
Re: Производительность mdadm при работе с kvm
Что имеется ввиду под "пробросом" в данном случае?
Re: Производительность mdadm при работе с kvm
jecaaaa писал(а): ↑15.11.2011 21:56Здравствуйте.
Установил kvm на Ubuntu server 11.10, пробросил внутрь раздел на диске и софтовый raid10(пробовал и raid1,raid0).
В kvm установил windows 2008, провел тестирование скорости проброшенных устройств и получилось, что скорость записи/чтения на проброшенном разделе соответствует скорости в хостовой системе, а скорость проброшенного raid 10 ровно в 2 раза ниже хостовой.
Сколько на хостовой и сколько в гостевой, в цифрах?
Если к примеру на хосте одно устройство даёт 100 МБ/сек, а RAID10 даёт 200 МБ/сек,
а при этом в гостевой системе они оба дают 100 МБ/сек, то такое положение вещей соответствовало бы вашему описанию.
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.
Re: Производительность mdadm при работе с kvm
В качестве виртуальных жестких дисков используется не файл на диске, а блочное устройство хостовой системы( в данном случае софт raid).
rm_ писал(а): ↑16.11.2011 08:35Сколько на хостовой и сколько в гостевой, в цифрах?
Если к примеру на хосте одно устройство даёт 100 МБ/сек, а RAID10 даёт 200 МБ/сек,
а при этом в гостевой системе они оба дают 100 МБ/сек, то такое положение вещей соответствовало бы вашему описанию.
И позволяло бы предположить наличие "потолка" для I/O используемой системы виртуализации в сочетании с установленной там ОС в 100 МБ/сек.
Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150
А в хосте такая же скорость?
Больше всего интересует скорость записи, она странным образом даже для raid0 упала, хотя чтение почти как на хосте.
Может где действительно есть лимиты какие-нибудь настраиваемые, приоритезация или параметры ядра, в общем я не сильно разбираюсь во внутреннем устройстве kvm и mdadm, поэтому прошу совета.
Re: Производительность mdadm при работе с kvm
jecaaaa писал(а): ↑16.11.2011 10:47Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150
Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?
Re: Производительность mdadm при работе с kvm
Bluetooth писал(а): ↑16.11.2011 13:51jecaaaa писал(а): ↑16.11.2011 10:47Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150
Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?
С виртио цифры примерно те же, местами даже меньше. Это scsi. На ide еще меньше.
Re: Производительность mdadm при работе с kvm
jecaaaa писал(а): ↑16.11.2011 15:08Bluetooth писал(а): ↑16.11.2011 13:51jecaaaa писал(а): ↑16.11.2011 10:47Цифры которые у меня получились последовательное чтение/запись
Устройсво.......Хост(r/w)........Виртуалка(r/w)
раздел...........140/140..........130/130
raid1...............130/130..........120/120
raid10.............220/220...........100/120
raid0...............250/250...........240/150
Да, на raid10, по ожиданиям, должно быть больше. Это цифры с virtio?
С виртио цифры примерно те же, местами даже меньше. Это scsi. На ide еще меньше.
вы все же опубликуйте цифры со всех трех режимов - вдруг что-то видно будет.
Re: Производительность mdadm при работе с kvm
Померил, скорость записи действительно не сильно выше 100МБ на госте, тогда как на хосте 500
проверял обычным dd.
Интересно будет посмотреть на ESXi, уже освобождаю железо.
проверял обычным dd.
Интересно будет посмотреть на ESXi, уже освобождаю железо.
Re: Производительность mdadm при работе с kvm
Проверил на железном raid10 скорость в хосте 300/300, прокинул в виртуалку столько же. Делаю вывод что виноват mdadm. Может у кого есть мысли как оптимизировать работу mdadm?
Re: Производительность mdadm при работе с kvm
если быть точным, то mdadm - это утилита конфигурация и мониторинга, а реализация softraid делается модулями ядра хоста. наверное самое простое - попробовать в вашей инсталляции поставить поновей ядро и посмотреть что из этого получится
Re: Производительность mdadm при работе с kvm
В ubuntu 11.10 ядро 3.0, вроде относительно свежее. Блин а куда копать тогда, ведь проблема с производительностью в хосте отсутствует. Проблема появляется при использовании программного raid и kvm.
Re: Производительность mdadm при работе с kvm
Обновил ядро до 3.1 результаты прежние!