производительность iscsi.

VirtualBox, QEMU, ESX/ESXi и прочия
Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
zefir01
рядовой
Сообщения: 30
Зарегистрирован: 2007-02-27 15:47:54

производительность iscsi.

Непрочитанное сообщение zefir01 » 2011-08-16 18:28:14

всем здравствуйте.
делаю iscsi хранилище для виртуализации. 10 дисков 7200 в шестом рэйде. котроллер 3ware 9750, сеть intel 4х головая гигабитная.
на серваке виртуализации сеть такая же.
свичи dgs 3100 на 24 порта стэкируемые.
порты на сетевухах объединены через lacp.
ось opensuse. виртуализация xen.
собрал не много потестил, появилась проблема:
если крутить hvm домен с виндой на СХД , но диски домена подключать через iscsi с самой же СХД то скорость копирования внутри домена примерно 80МБ/с
а вот если крутить этот же домен на серваке виртуализации то скорость копирования 20МБ/с.
т.е. 75% производительности теряется на iscsi и сети.
буферы на хост системах увеличил:

Код: Выделить всё

sysctl -w net.core.rmem_max=16777216
sysctl -w net.core.wmem_max=16777216
sysctl -w net.ipv4.tcp_rmem="4096 87380 16777216"
sysctl -w net.ipv4.tcp_wmem="4096 65536 16777216"
sysctl -w net.core.netdev_max_backlog=12000
sysctl -w net.ipv4.tcp_congestion_control=htcp
sysctl -w net.core.somaxconn = 512
jumbo фрэймы включил по 9000.
никакого результата.
подскажите пожалуйста куда еще смотреть ?

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

opt1k
лейтенант
Сообщения: 966
Зарегистрирован: 2007-12-05 9:45:18
Откуда: Mytischi

Re: производительность iscsi.

Непрочитанное сообщение opt1k » 2011-08-25 22:37:13

курить в сторону того что 1gb ethernet не предназначен для такой задачи. Причина кроется не в мегабитах. Основная причина в скорости выполнения дисковых операций поверх ethernet. Из-за высоких задержке в сетевом стеке получается проседание IO диска.
Джамбо фреймы тут скорее только хуже сделают, т.к. увеличат время необходимое для прохождения пакета. В вашем случае можно попробовать увеличить кеш(за счёт ОЗУ) на СХД, на сколько это действенно - не знаю, хотя думаю что смысла нет.
Сетевухи надо менять на fiber адаптеры, в которых низкие задержки. Рекомендую сразу смотреть на infiniband.