GMIRROR degraded write performance

Проблемы установки, настройки и работы Правильной Операционной Системы

Модератор: terminus

Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

GMIRROR degraded write performance

Непрочитанное сообщение dm07 » 2010-03-05 18:52:34

Всем привет!
Имеется RAID 1 из 2х идентичных HDD на Gmirror, ОС FreeBSD 7.1. Давно мучает такая вот проблема:

Код: Выделить всё

dd if=/dev/zero of=/var/testfile bs=64k count=100000
100000+0 records in
100000+0 records out
6553600000 bytes transferred in 502.684217 secs (13037211 bytes/sec)
Т.е. на запись 13 Мб/с.
Тогда как на чтение приемлемо:

Код: Выделить всё

dd if=/var/testfile of=/dev/null bs=64k count=100000
100000+0 records in
100000+0 records out
6553600000 bytes transferred in 129.789657 secs (50494008 bytes/sec)
Есть патч http://www.freebsd.org/cgi/query-pr.cgi?pr=113885, однако он касается алгоритма чтения, а не записи.
Подскажите, кто решал эту проблему.

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

FiL
ст. лейтенант
Сообщения: 1375
Зарегистрирован: 2010-02-05 0:21:40

Re: GMIRROR degraded write performance

Непрочитанное сообщение FiL » 2010-03-05 22:19:55

а сколько голые диски дают?

dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение dm07 » 2010-03-05 22:32:00

FiL писал(а):а сколько голые диски дают?
Не тестировал, сами винты:

Код: Выделить всё

ad0: 305245MB <WDC WD3200AAKS-00B3A0 01.03A01> at ata0-master SATA150
ad2: 305245MB <WDC WD3200AAKS-00L9A0 01.03E01> at ata1-master SATA150

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35477
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение Alex Keda » 2010-03-05 22:40:25

потестируйте
Убей их всех! Бог потом рассортирует...

Аватара пользователя
terminus
майор
Сообщения: 2305
Зарегистрирован: 2007-10-29 11:27:35
Откуда: Рига

Re: GMIRROR degraded write performance

Непрочитанное сообщение terminus » 2010-03-05 22:48:00

лучше пусть для начала

Код: Выделить всё

smartctl -a /dev/ad0
smartctl -a /dev/ad2
и посмотрит на статистику смарта - может один из дисков в зеркале дохнет и из-за него все зеркало тормозит.
Модель: AST-PM-105/0044; Тип: Универсальный, ремонтный; Название: Терминус; Род повреждения: Распад функций; Выводы: Сдать на слом.

dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение dm07 » 2010-03-05 22:52:43

terminus писал(а):лучше пусть для начала

Код: Выделить всё

smartctl -a /dev/ad0
smartctl -a /dev/ad2
и посмотрит на статистику смарта - может один из дисков в зеркале дохнет и из-за него все зеркало тормозит.
Ошибок нет (PASSED).

dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение dm07 » 2010-03-05 22:55:06

lissyara писал(а):потестируйте
Можно потестировать без разрушения зеркала (gmirror remove)?

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35477
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение Alex Keda » 2010-03-05 22:59:35

Код: Выделить всё

man diskinfo
Убей их всех! Бог потом рассортирует...

FiL
ст. лейтенант
Сообщения: 1375
Зарегистрирован: 2010-02-05 0:21:40

Re: GMIRROR degraded write performance

Непрочитанное сообщение FiL » 2010-03-05 23:48:43

саташная 300-ка? Я-бы сказал, что и читать оно должно пошустрее.

dm07
сержант
Сообщения: 222
Зарегистрирован: 2008-07-27 19:58:25
Откуда: Уфа
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение dm07 » 2010-03-05 23:58:56

lissyara писал(а):

Код: Выделить всё

man diskinfo

Код: Выделить всё

diskinfo -c /dev/ad0
/dev/ad0
I/O command overhead:
        time to read 10MB block      0.126743 sec       =    0.006 msec/sector
        time to read 20480 sectors   2.342625 sec       =    0.114 msec/sector
        calculated command overhead                     =    0.108 msec/sector

diskinfo -c /dev/ad2
I/O command overhead:
        time to read 10MB block      0.132535 sec       =    0.006 msec/sector
        time to read 20480 sectors   2.395102 sec       =    0.117 msec/sector
        calculated command overhead                     =    0.110 msec/sector

Код: Выделить всё

diskinfo -t /dev/ad0
Seek times:
        Full stroke:      250 iter in   7.002828 sec =   28.011 msec
        Half stroke:      250 iter in   4.680347 sec =   18.721 msec
        Quarter stroke:   500 iter in   7.230445 sec =   14.461 msec
        Short forward:    400 iter in   2.759476 sec =    6.899 msec
        Short backward:   400 iter in   1.070995 sec =    2.677 msec
        Seq outer:       2048 iter in   0.368623 sec =    0.180 msec
        Seq inner:       2048 iter in   0.319685 sec =    0.156 msec
Transfer rates:
        outside:       102400 kbytes in   1.367978 sec =    74855 kbytes/sec
        middle:        102400 kbytes in   1.789801 sec =    57213 kbytes/sec
        inside:        102400 kbytes in   3.373301 sec =    30356 kbytes/sec

diskinfo -t /dev/ad2
Seek times:
        Full stroke:      250 iter in   7.271940 sec =   29.088 msec
        Half stroke:      250 iter in   4.446576 sec =   17.786 msec
        Quarter stroke:   500 iter in   7.062049 sec =   14.124 msec
        Short forward:    400 iter in   1.645267 sec =    4.113 msec
        Short backward:   400 iter in   1.779296 sec =    4.448 msec
        Seq outer:       2048 iter in   0.356319 sec =    0.174 msec
        Seq inner:       2048 iter in   0.278236 sec =    0.136 msec
Transfer rates:
        outside:       102400 kbytes in   1.274832 sec =    80324 kbytes/sec
        middle:        102400 kbytes in   2.184655 sec =    46872 kbytes/sec
        inside:        102400 kbytes in   3.134613 sec =    32668 kbytes/sec

Судя по скорости обмена, имеем затык в самом GMIRROR. Коллеги, нужна ваша помощь.

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35477
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: GMIRROR degraded write performance

Непрочитанное сообщение Alex Keda » 2010-03-06 11:47:19

забить? =)
=========
вообще, отказоустойчивлости бесплатно не бывает.
либо вы платите за хардверный контроллер, либо на софтверном проигрываете в скорости.
Убей их всех! Бог потом рассортирует...

sch
сержант
Сообщения: 282
Зарегистрирован: 2009-05-28 14:36:50
Откуда: Кишинев

Re: GMIRROR degraded write performance

Непрочитанное сообщение sch » 2010-03-06 15:00:44

на 7.1 решить проблему не получится 100% - никто уже этим релизом заниматься не будет, патчи с оптимизацией кода gmirror появятся в 7.3 - добавлены в 7-Stable и 8-Stable в декабре 2009. Насколько я понял из описания добавленного кода, ускорение работы зеркала предполагается не только на чтение, но и на запись.
Так что ищи возможность проверить производительность на свежих версиях FreeBSD

Роман
проходил мимо

Re: GMIRROR degraded write performance

Непрочитанное сообщение Роман » 2011-05-30 16:37:28

Думаю причина низкой скорости у dm07 - отключенное кэширование дисков, т. е. значение sysctl hw.ata.wc=0
p.s. Прошу прощение за воскрешение некроветки, но может мой ответ кому пригодицца.