ha storage cluster
Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
ha storage cluster
есть у меня такая задачка: нужно организовать отказоустойчивость стораджа для vmware esx, т.к. в текущей ситуации оно является узким местом, при его падении - падает вся виртуальная инфраструктура (порядка 20 серверов разной важности, для некоторых из них простои неприемлемы). в тоже самое время денег никто на это выделять не желает (недорогое железо правда закупят).
требуемый функционал:
надо esx серверам предоставить отказоустойчивый сторадж на основе iscsi (предпочтительно) либо nfs. падение одного из серверов кластера, должно произойти прозрачно для esx'ов (и vm'ок которые крутятся на них). они должны продолжить работу как ни в чем не бывало.
что пробовал:
а пробовал классический вариант - drbd + heartbeat + iscsi на ubuntu... конфигурация active/passive. отказоустойчивость, мягко говоря, хреновая получилась. при падении активного сервера iscsi отваливается на несколько минут от esx. соответственно vm'ки падают, что не есть гут.
вопрос:
какое может быть решение этой задачи? может стоит еще что-то попробовать? есть ли у кого опыт построения отказоустойчивых хранилищ?
требуемый функционал:
надо esx серверам предоставить отказоустойчивый сторадж на основе iscsi (предпочтительно) либо nfs. падение одного из серверов кластера, должно произойти прозрачно для esx'ов (и vm'ок которые крутятся на них). они должны продолжить работу как ни в чем не бывало.
что пробовал:
а пробовал классический вариант - drbd + heartbeat + iscsi на ubuntu... конфигурация active/passive. отказоустойчивость, мягко говоря, хреновая получилась. при падении активного сервера iscsi отваливается на несколько минут от esx. соответственно vm'ки падают, что не есть гут.
вопрос:
какое может быть решение этой задачи? может стоит еще что-то попробовать? есть ли у кого опыт построения отказоустойчивых хранилищ?
Услуги хостинговой компании Host-Food.ru
Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: ha storage cluster
drbd+hearbeat вроде, я слышал, нормально работают. Может поднастроить, таймаут у iscsi увеличить, например?
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
погуглил и нашел следующее: в конфигурации primary/secondary при падении основного сервера iscsi сессии теряются, соответственно на клиенте (esx) происходит переинициализация сессий, отсюда и выплывает проблема, о которой я писал в первом посте.
я с кластерами (кроме как на vmware) до этого не сталкивался, может ли мне кто-то ответить - поможет ли мне конфигурация drbd primary/primary (с использованием gfs2)?
я с кластерами (кроме как на vmware) до этого не сталкивался, может ли мне кто-то ответить - поможет ли мне конфигурация drbd primary/primary (с использованием gfs2)?
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: ha storage cluster
я сам не делал, но в самаге года два назад читал - там пацаны делали именно так. Тестировали и ничего у них не отваливалось вроде.
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
а номер журнала не подскажешь?princeps писал(а):я сам не делал, но в самаге года два назад читал - там пацаны делали именно так. Тестировали и ничего у них не отваливалось вроде.
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: ha storage cluster
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
нашел еще статью в архиве самага с конфигурацией, аналогичной моей:
Что повлечет для клиентского ПО переход с одного узла
кластера на другой? Соединения клиентского ПО с Oracle
будут потеряны. Пользователям необходимо будет по ис
течении пары минут заново подключиться к Oracle, жела
тельно, чтобы используемое вами клиентское ПО имело та
кую возможность. Время перехода с одного узла кластера
на другой составляет менее минуты.
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
кстати, у opensolaris есть проект Open HA Cluster, только вот нигде не найду толкового описания...
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: ha storage cluster
Да, я не стал её тебе писать, т.к. там как раз такая же проблемаm0ps писал(а):нашел еще статью в архиве самага с конфигурацией, аналогичной моей:

А на фре нет желания попробовать?
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
что-то я нигде не встречал толковых упоминаний о кластерах на freebsd, тем более что б это было готовое решение, а не "приделай ножку стульчику"... это ведь не для экспериментов а для реального внедрения, да еще и для критичных к простоям служб...на фре нет желания попробовать?
не вижу принципиальных отличий между той статьей о которой я писал и той о которой упоминал ты... может я просто что-то упустил, но в них описываются одинаковые вещи (разве что в твоей, еще и OpenVZ прикручивают, который здесь не к месту)Да, я не стал её тебе писать, т.к. там как раз такая же проблема
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: ha storage cluster
я уже не помню, в чём там разница - я их давно читал, а перечитывать и вникать лень
. Но вроде во втором случае у них не падали виртуалки после сбоя ведущего сервера.

Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
- m0ps
- лейтенант
- Сообщения: 986
- Зарегистрирован: 2008-05-08 20:18:06
- Откуда: Chernigov (Ukraine)
- Контактная информация:
Re: ha storage cluster
в общем раскурил... правда пока еще не на физических железка не проверял, но на vm'ках все отлично работает...
общий смысл состоит в том, чтоб использовать drbd в режиме primary/primary и кластерную fs (я использовал gfs2). на обоих серверах одновременно запущены iet, которые экспортируют файл (расположенный на gfs2 разделе) а не блочное устройство. heartbeat2 мониторит сервера, и переключает ip с одного физического сервера на другой в случае краха. hb_gui позволяет удобно настраивать heartbeat2 (не заморачиваясь с xml файликами), а также переключать ip с одного на другой сервер в ручном режиме (к примеру на время меинтанса)
общий смысл состоит в том, чтоб использовать drbd в режиме primary/primary и кластерную fs (я использовал gfs2). на обоих серверах одновременно запущены iet, которые экспортируют файл (расположенный на gfs2 разделе) а не блочное устройство. heartbeat2 мониторит сервера, и переключает ip с одного физического сервера на другой в случае краха. hb_gui позволяет удобно настраивать heartbeat2 (не заморачиваясь с xml файликами), а также переключать ip с одного на другой сервер в ручном режиме (к примеру на время меинтанса)