При интенсивной работе HDD все тормозит (Вопрос о повышении отзывчивости Linux при записи/чтении больших файлов)

IDE, SATA, SCSI, внешние USB-HDD, SSD, USB-Flash накопители

Модератор: Модераторы разделов

lordzero
Сообщения: 8
ОС: Linux

При интенсивной работе HDD все тормозит

Сообщение lordzero »

Привет! Я большой любитель HD Video и постоянно работаю с файлами ёмкостью >4GB.
В Linux меня постоянно напрягает то, что при копировании/записи таких файлов отзывчивость системы сводится к минимуму. Такое ощущение, что абсолютно все ресурсы компьютера уходят на дисковые операции.

Вопрос:
Можно ли каким-нибудь способом этого избежать? В винде такого никогда не было!


Данные:
Моё железо: Q6600 @ 3.30Ghz/MB Gigabyte GA-P35-DS4/2GB RAM/2xWD5000AAKS @ SoftRAID 0

Я пробовал: Менять режимы SATA и BIOS
Менять ядра Linux 2.6.20-2.6.25 - все версии
Менять I/O планировщики - все пробовал
Включать/Выключать SLUB

Результатов данные действия не принесли ни каких.

Это точно не железячная трабла - такой же эффект видел на других системах.
Жесткие диски точно стоят не в режиме PIO

Скорость работы жестких дисков - оч. большая

Нагрузка на процессор при дисковых операциях не превышает 10-15%

Не понятно, баг это или фича? В любом случае, мне это ужасно не нравится!
Спасибо сказали:
Аватара пользователя
SLEDopit
Модератор
Сообщения: 4823
Статус: фанат консоли (=
ОС: GNU/Debian, RHEL

Re: При интенсивной работе HDD все тормозит

Сообщение SLEDopit »

фс какая?
UNIX is basically a simple operating system, but you have to be a genius to understand the simplicity. © Dennis Ritchie
The more you believe you don't do mistakes, the more bugs are in your code.
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

ext3 и reiserfs - ведут себя одинаково.
Спасибо сказали:
Аватара пользователя
Alexxx
Сообщения: 892
Статус: --==XXX==--
ОС: Archlinux current

Re: При интенсивной работе HDD все тормозит

Сообщение Alexxx »

Код: Выделить всё

[alex@almhs ~]$  zcat /proc/config.gz | grep -i preempt
# CONFIG_PREEMPT_NONE is not set
# CONFIG_PREEMPT_VOLUNTARY is not set
CONFIG_PREEMPT=y
CONFIG_PREEMPT_RCU=y
??
Спасибо сказали:
Аватара пользователя
GMar
Сообщения: 237
Статус: Будущий математик
ОС: Kubuntu,Ubuntu(UNR) 10.04

Re: При интенсивной работе HDD все тормозит

Сообщение GMar »

Я бы настроил работу с кешем. Возможно проблема в оперативке. У меня в мандриве есть опции для экономии рам и т.п. если не катит - файловая система. Тут тока перебор ФСок поможет...
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

Код: Выделить всё

zero@ubuntu:~$ cat /boot/config-2.6.24-17-generic | grep PREEM
# CONFIG_PREEMPT is not set
CONFIG_PREEMPT_BKL=y
# CONFIG_PREEMPT_NONE is not set
CONFIG_PREEMPT_NOTIFIERS=y
CONFIG_PREEMPT_VOLUNTARY=y


Так во всех ядрах. Что в убунте, что в генте.

GMar писал(а):
18.05.2008 10:51
Я бы настроил работу с кешем. Возможно проблема в оперативке. У меня в мандриве есть опции для экономии рам и т.п. если не катит - файловая система. Тут тока перебор ФСок поможет...


1) А как настроить эту самую работу с кэшем?
2) Не факт, что ФС виновата. У меня и с FAT32 были те же грабли. Даже при записи на флэшку заметно падение отзывчивости системы.
Спасибо сказали:
Аватара пользователя
GMar
Сообщения: 237
Статус: Будущий математик
ОС: Kubuntu,Ubuntu(UNR) 10.04

Re: При интенсивной работе HDD все тормозит

Сообщение GMar »

ОС какая щас? Ubuntu что-ли? пока до ней руки не доходят, но скоро гляну. Кстати, я в мандриве данные неплохо гоняю, там нормально всё пашет. попробуй. у них и лайвсиди есть.
Спасибо сказали:
Аватара пользователя
romuil
Сообщения: 2095
Статус: Ромунцель
ОС: ALTLinux Sisyphus

Re: При интенсивной работе HDD все тормозит

Сообщение romuil »

Файловая система для работы с большими файлами называется XFS.
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

romuil писал(а):
18.05.2008 16:07
Файловая система для работы с большими файлами называется XFS.

Во первых, у меня не только большие файлы, но и куча мелких.
Во вторых, XFS мне не нравится - в прошлом имел большие проблемы с её надежностью. С reiserfs и ext# такого нет.

Мандриву попробую, но уже не надеюсь на хороший результат.
Да и убунта мне нравится больше.

___

Кстати, совсем забыл указать, что описанная мною проблема проявляется не только при работе с большими файлами. Дело в нагрузке на HDD. Т.е. если в генте нажать emerge --metadata то пока кэш не обновится - всё погрязнет в тормозах.
Спасибо сказали:
Eraser
Сообщения: 224
ОС: Gentoo Linux

Re: При интенсивной работе HDD все тормозит

Сообщение Eraser »

Если это при действиях от рута и ядро >=2.6.24(3), то отключите CONFIG_FAIR_GROUP_SCHED
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

Eraser писал(а):
19.05.2008 12:53
Если это при действиях от рута и ядро >=2.6.24(3), то отключите CONFIG_FAIR_GROUP_SCHED

Нет, я под рутом не сижу, но от пользователя это не зависит.
На ядрах серии 2.6.21 эффект 100% идентичен эффекту на ядрах 2.6.24 и выше.

Друзья! Попробуйте сами у себя создать/скопировать большой файл и проследите за отзывчивостью системы?
Спасибо сказали:
necr0mant
Сообщения: 77
ОС: Slackware X.X

Re: При интенсивной работе HDD все тормозит

Сообщение necr0mant »

lordzero писал(а):
20.05.2008 11:00
Eraser писал(а):
19.05.2008 12:53
Если это при действиях от рута и ядро >=2.6.24(3), то отключите CONFIG_FAIR_GROUP_SCHED

Нет, я под рутом не сижу, но от пользователя это не зависит.
На ядрах серии 2.6.21 эффект 100% идентичен эффекту на ядрах 2.6.24 и выше.

Друзья! Попробуйте сами у себя создать/скопировать большой файл и проследите за отзывчивостью системы?


хм. ось - Слакварь 12.0, ядро 2.6.24.2 - полет нормальный. Читаю пару pdf-ок, одним глазом поглядываю кино и копирую большой файл, загрузка камня конечно 100%, но система отзывается прекрасно
Спасибо сказали:
Аватара пользователя
vbPadre
Сообщения: 270
Статус: Синеглазый линуксоид
ОС: Archlinux current
Контактная информация:

Re: При интенсивной работе HDD все тормозит

Сообщение vbPadre »

Dell latitude X1 + Toshiba A45-S150 + Toshiba L300-110 + NoName PC = ArchLinux
free-torrents.org банит пользователей
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

vbPadre писал(а):
20.05.2008 14:45
в недрах этой темы не таже проблема описана? проблемы с быстродействием, замедление работы системы в операциях с диском...

Не совсем. Я бы не сказал, что у меня скорость дисковых операций ниже, чем нужно.
И процессор у меня не загружается на 100%, но тормоза есть!
Спасибо сказали:
Аватара пользователя
vbPadre
Сообщения: 270
Статус: Синеглазый линуксоид
ОС: Archlinux current
Контактная информация:

Re: При интенсивной работе HDD все тормозит

Сообщение vbPadre »

ЕМНИП, там говориться о кривых дровах на определённый вид чипсетов. Почитай до конца.
Возможно это таже проблема, и , если есть возможность, стоит попробовать на принципиально другом железе проделать операции копривания больших файлов.
Dell latitude X1 + Toshiba A45-S150 + Toshiba L300-110 + NoName PC = ArchLinux
free-torrents.org банит пользователей
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

vbPadre писал(а):
20.05.2008 15:16
ЕМНИП, там говориться о кривых дровах на определённый вид чипсетов. Почитай до конца.
Возможно это таже проблема, и , если есть возможность, стоит попробовать на принципиально другом железе проделать операции копривания больших файлов.


У меня десктоп - мать Gigabyte GA-P35-DS4 - Чипсет Intel P35. Процессор Core2 Quad Q6600 - Ubuntu 8.04 32-Bit

Проверил также на ноуте Fujitsu-Siemens AMILO 2510 - Чипсет AMD RS690. Процессор Turion X2 TL-56 - Ubuntu 8.04 64-Bit

Эффект одинаковый. На ноуте сильнее тормозит, потому как винт медленный. На десктопе вообще RAID0
Спасибо сказали:
Аватара пользователя
Arceny
Сообщения: 378
ОС: Debian Lenny/Sid
Контактная информация:

Re: При интенсивной работе HDD все тормозит

Сообщение Arceny »

Да, подтверждаю. Дисковые операции в Линуксе в отличии от винды, особенно с болоьшими файлами, сильно нагинают систему. Меня это БЕСИТ. И на проблему господа линуксоиды как-то закрывают глаза. Или они ничего никуда не копируют, или смиряются. Короче грустно всё это, товарищи.
Спасибо сказали:
konki
Сообщения: 216

Re: При интенсивной работе HDD все тормозит

Сообщение konki »

я испытывал напряги с загрузкой системы, когда deluge, после каждой перезагрузки, начинал проверять кеш у торрент-раздач, коих было у меня более 50. в принципе постоянная перепроверка - это баг делюги, но система в целом тормозила сильно. в остальном все работает как надо.
Спасибо сказали:
lordzero
Сообщения: 8
ОС: Linux

Re: При интенсивной работе HDD все тормозит

Сообщение lordzero »

Arceny писал(а):
28.05.2008 09:51
Да, подтверждаю. Дисковые операции в Линуксе в отличии от винды, особенно с болоьшими файлами, сильно нагинают систему. Меня это БЕСИТ. И на проблему господа линуксоиды как-то закрывают глаза. Или они ничего никуда не копируют, или смиряются. Короче грустно всё это, товарищи.


Информация на эту тему очень неоднозначна. Кто-то утверждает, что это особенность ядер 2.6, кто-то пишет, что это особенность драйверов на чипсеты...
Лично я сталкивался с подобными глюками на двух совершенно различных машинах (Правда - современных).
Пользуюсь линуксом уже более 1,5 года и замечать подобные тормоза я начал осенью 2007 года. Тогда я сменил две материнские платы. Сначала у меня была старенькая машина - Athlon 1800+ @ VIA KT400, потом Pentium Dual-Core @ Intel 945P. теперь Core2 Quad @ Intel P35. Когда точно начались тормоза - к сожалению не помню.

konki писал(а):
28.05.2008 10:47
я испытывал напряги с загрузкой системы, когда deluge, после каждой перезагрузки, начинал проверять кеш у торрент-раздач, коих было у меня более 50. в принципе постоянная перепроверка - это баг делюги, но система в целом тормозила сильно. в остальном все работает как надо.

Из-за подобного глюка Deluge мне пришлось поменять его на Azureus. К сожалению, ничего из более легкого мне не подходит - отсутствует функционал. Жду, когда Transmission в Ubuntu 8.04 обновят до новой версии.
Спасибо сказали:
Torvinson
Сообщения: 425
ОС: Gentoo ~amd64

Re: При интенсивной работе HDD все тормозит

Сообщение Torvinson »

У меня JFS под хоум и на другом диске данных, / и компания в ext3. Тормозов нет. Только если в ktorrent включить одновременную проверку нескольких раздач и одновременно он выделяет место под новый торрент. Или если копировать через несколько потоков туда-сюда. В КДЕ тормоза несравнимо большие, чем в Гноме. У меня 2 НЖМД, /home находится не там, где система. Но скорость дисковых операций в Мандриве 2008.1 стала ниже, чем была в Мандриве 2008.0, но это может быть фича Мандривы.

Быть может, проблема в неправильно выбранной ФС?
Спасибо сказали:
Аватара пользователя
Full Null
Сообщения: 555
Статус: Продвинутый ламер
ОС: ArchLinux

Re: При интенсивной работе HDD все тормозит

Сообщение Full Null »

И у меня такая проблека имеется.. Только что попробовал, загрузка ЦП<=15%, но тормозит конкретно
Jabber: reiser_@jabber.ru
Я на LastFM: http://www.lastfm.ru/user/ReiserRUS
Спасибо сказали:
Аватара пользователя
MadiG
Сообщения: 59
ОС: openSuSE 11.3

Re: При интенсивной работе HDD все тормозит

Сообщение MadiG »

У меня home на xfs и ни разу ничего подобного не замечал! В большинстве случаев пользуюсь консолью - может в этом напрвлении стоит рыть?!
Have a nice day!!!
Спасибо сказали:
kreator
Сообщения: 384
ОС: LFS

Re: При интенсивной работе HDD все тормозит

Сообщение kreator »

Сам стал замечать подобное, когда стал пользоваться торрентом. Если проверка хеша происходит во время просмотра фильма, то наблюдаются сильные тормоза. Помогает ionice -c3, но полностью восстановить отзывчивость системы не удаётся. Такое чувство, что планировщик cpu выделяет на дисковые операции немного больше процессорного времени, чем реально свободно. Для mplayer'а помогает включение кеша. Вот простой тестовый скрипт:

Код: Выделить всё

md5sum -b /dev/sda1 &
md5sum -b /dev/sda5 &
md5sum -b /dev/sda10 &

mplayer -endpos 60 -benchmark -framedrop "$1"
killall md5sum

Вместо sda1/5/10 - подставьте свои, желательно в начале, середине и конце винта - это даст наибольшую нагрузку. Проигрывать лучше mpeg2 с большим битрейтом - с ним самые большие проблемы.
Спасибо сказали:
Аватара пользователя
Aviator
Сообщения: 65
ОС: Debian GNU/Linux amd64

Re: При интенсивной работе HDD все тормозит

Сообщение Aviator »

Может быть стоит поэкспериментировать с опциями CONFIG_PREEMPT* ядра? Это как раз влияет на задержки в зависимости от загрузки системы.
С уважением, Сергей.
Спасибо сказали:
Den001
Сообщения: 666
ОС: Suse 11

Re: При интенсивной работе HDD все тормозит

Сообщение Den001 »

Такая же проблема всплывает, когда у меня качают фильмы, расшареные в самбе :-( Если сильно насядут, то для просмотря фильма приходится всех отлючать, иначе лагает невозможно :-(
Спасибо сказали:
Аватара пользователя
Ben Aceler
Сообщения: 185
ОС: Various Linux
Контактная информация:

Re: При интенсивной работе HDD все тормозит

Сообщение Ben Aceler »

У меня была такая проблема на чипсете Intel 915 в ноутбуке, сейчас на nForce 5 - такой проблемы нет. Причём нагрузка на процессор при интенсивном копировании не определяется в top, ps или какими-то другими средствами, т.е. эта проблема на уровне ядра, а не прикладных приложений.
Участник NNLUG и KDE, директор ООО "Элсис".
Спасибо сказали:
kreator
Сообщения: 384
ОС: LFS

Re: При интенсивной работе HDD все тормозит

Сообщение kreator »

BenВ Aceler
В top idle = 85%-95%?
Спасибо сказали:
Аватара пользователя
Ben Aceler
Сообщения: 185
ОС: Various Linux
Контактная информация:

Re: При интенсивной работе HDD все тормозит

Сообщение Ben Aceler »

kreator писал(а):
12.06.2008 01:25
BenВ Aceler
В top idle = 85%-95%?

Угу. А винчестер страшно скрипит и система страшно тормозит. Сейчас, повторюсь, на nForce 5 такого эффекта нет.
Участник NNLUG и KDE, директор ООО "Элсис".
Спасибо сказали:
konki
Сообщения: 216

Re: При интенсивной работе HDD все тормозит

Сообщение konki »

еще приведу пример тормозов - распаковка архивов большой величены. загрузка проца в норме, но тормаза все равно жуткие. мать asus m2n-mx на nforce4 чипсете. жесткие пробовал разные, и PATA, и SATA, и с разным количеством блинов - разницы никакой.
может всем у кого такие проблемы писать сюда свои данные о чипсетах? для статистики, так сказать.
Спасибо сказали:
kreator
Сообщения: 384
ОС: LFS

Re: При интенсивной работе HDD все тормозит

Сообщение kreator »

Ben Aceler писал(а):
12.06.2008 10:32
kreator писал(а):
12.06.2008 01:25
BenВ Aceler
В top idle = 85%-95%?

Угу. А винчестер страшно скрипит и система страшно тормозит. Сейчас, повторюсь, на nForce 5 такого эффекта нет.

Не может быть :) У меня (nforce2 sata) при копировании:
Cpu(s): 8.7%us, 22.3%sy, 0.3%ni, 0.0%id, 65.3%wa, 0.3%hi, 3.0%si, 0.0%st
Спасибо сказали:
Ответить