mdadm очень долго пересобирает raid (скорость 100к-200к)

Обсуждение настройки и работы сервисов, резервирования, сетевых настроек и вопросов безопасности ОС.

Модераторы: SLEDopit, Модераторы разделов

NeverM
Сообщения: 248
ОС: gentoo

mdadm очень долго пересобирает raid

Сообщение NeverM »

Здравствуйте, сегодня по какимто не понятным причинам вылетел диск из рейда и стал removed, добавил его назад и от начал ребилдиться, но с очень низкой скоростью, при этом даже простое копирование файла 2ГБ стало занимать около 30минут

cat /proc/mdstat
Personalities : [linear] [raid0] [raid1] [multipath] [faulty]

Код: Выделить всё

md127 : active raid1 sdc1[3](S) sdb1[4] sda1[0]
      712892288 blocks [3/1] [U__]
      [=>...................]  recovery =  7.8% (55814208/712892288) finish=28254.1min speed=387K/sec

unused devices: <none>


mdadm --detail /dev/md127

Код: Выделить всё

/dev/md127:
        Version : 0.90
  Creation Time : Sat Oct 31 02:15:55 2009
     Raid Level : raid1
     Array Size : 712892288 (679.87 GiB 730.00 GB)
  Used Dev Size : 712892288 (679.87 GiB 730.00 GB)
   Raid Devices : 3
  Total Devices : 3
Preferred Minor : 127
    Persistence : Superblock is persistent

    Update Time : Thu Apr 11 12:23:42 2013
          State : active, degraded, recovering
 Active Devices : 1
Working Devices : 3
 Failed Devices : 0
  Spare Devices : 2

 Rebuild Status : 7% complete

           UUID : c940c5cb:19d2c20b:740af6e2:81234a19
         Events : 0.1239735

    Number   Major   Minor   RaidDevice State
       0       8        1        0      active sync   /dev/sda1
       4       8       17        1      spare rebuilding   /dev/sdb1
       2       0        0        2      removed

       3       8       33        -      spare   /dev/sdc1
Спасибо сказали:
Аватара пользователя
broom
Бывший модератор
Сообщения: 1629
Статус: мизантроп.ка
ОС: Gentoo

Re: mdadm очень долго пересобирает raid

Сообщение broom »

Можно попробовать увеличить скорость ребилда (что написано в /sys/block/md0/md/sync_speed_max?), но, видимо, диск вылетел не просто так.
Нет ли про него каких-нибудь ошибок в dmesg?
but in the darkness, behind your smile, you scream... © Dio
Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: mdadm очень долго пересобирает raid

Сообщение Bluetooth »

broom писал(а):
11.04.2013 18:13
Можно попробовать увеличить скорость ребилда (что написано в /sys/block/md0/md/sync_speed_max?), но, видимо, диск вылетел не просто так.
Нет ли про него каких-нибудь ошибок в dmesg?

Увеличивать надо не MAX, которая и так 100000, а MIN, т.е. /sys/block/md0/md/sync_speed_min

Просто mdadm, заметив большую нагрузку на диск со стороны приложений, уменьшил скорость синка, дабы не замедлять актуальный IO. Снизил вплодь до sync_speed_min, который по дефолту очень маленький. Если его увеличить до тех же 100000, то он будет ресинкать с максимально возможной скоростью (не забывая про актуальный IO).

Но это про случай, когда с дисками все ок, здесь же, вполне возможно, не все ок - нужно проверить SMART, dmesg для начала. Ну и, впрочем, скорость ресинка все равно поднять надо.
Спасибо сказали:
NeverM
Сообщения: 248
ОС: gentoo

Re: mdadm очень долго пересобирает raid

Сообщение NeverM »

/sys/block/md127/md/sync_speed_min выставил в 100000 помогло, но очень незначительно, по smart'у все хорошо, в dmesg тоже вроде все ок.
Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: mdadm очень долго пересобирает raid

Сообщение Bluetooth »

NeverM писал(а):
12.04.2013 10:41
/sys/block/md127/md/sync_speed_min выставил в 100000 помогло, но очень незначительно, по smart'у все хорошо, в dmesg тоже вроде все ок.

Значит, скорее всего, диск запросился на помойку. Меняйте.
Спасибо сказали:
NeverM
Сообщения: 248
ОС: gentoo

Re: mdadm очень долго пересобирает raid

Сообщение NeverM »

в dmesg касательно вылетевшего харда следующее:

Код: Выделить всё

aa: sdc: sdc1 sdc2
aa:sd 3:0:0:0: [sdc] Attached SCSI disk
aa:md: considering sdc1 ...
aa:md:  adding sdc1 ...
aa:md: bind<sdc1>
aa:md: running: <sdc1><sdb1><sda1>
aa:md: kicking non-fresh sdc1 from array!
aa:md: unbind<sdc1>
aa:md: export_rdev(sdc1)
aa:md: export_rdev(sdc1)
aa:md: bind<sdc1>
Спасибо сказали:
Аватара пользователя
Bluetooth
Сообщения: 4395
Статус: Блюзовый
ОС: Debian Squeeze amd64

Re: mdadm очень долго пересобирает raid

Сообщение Bluetooth »

Какой информации, кроме того, что его выкинули из массива, что не всегда признак проблемы.

А вот то, что IO на него тормозит - это проблема, причем серьезная. Скорее всего подыхает контроллер, надо его менять.
Меняйте диск, если скорость после этого вернется к нормальной величине, значит, диск на помойку. Если нет - то это странно и надо будет искать проблему где-то еще.
Спасибо сказали: