HAST+CARP+ZFS+UCARP=CLUSTER

Проблемы установки, настройки и работы Правильной Операционной Системы

Модератор: terminus

Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-02-18 19:11:46

Была необходимость сделать, что то вроде этого с громким словом cluster которое режет мне уши!
Посмотрите если кому-то будет интересно… Если есть размышления или идеи как это усовершенствовать, будет интересно послушать…

http://www.lissyara.su/?id=2166
Да пребудет с нами сила!!!
Всех убью, один останусь!

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

princeps
майор
Сообщения: 2684
Зарегистрирован: 2007-09-25 10:20:59
Откуда: Сочи, Москва
Контактная информация:

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение princeps » 2011-02-19 11:37:15

круто. Давно просилось что-то подобное.
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru

6RUN0
проходил мимо
Сообщения: 1
Зарегистрирован: 2011-02-19 13:16:21

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение 6RUN0 » 2011-02-19 13:19:41

хорошая статья :good: , еще б нагрузка автоматически распределялась м/у машинами.

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-02-20 2:35:23

6RUN0 писал(а):хорошая статья :good: , еще б нагрузка автоматически распределялась м/у машинами.
Спасибо.
Для распределения нагрузки можно ganglia + lam использовать… Но руки не доходят скурить и разобраться!
Возможно в будущем разберусь…
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
dvg_lab
сержант
Сообщения: 291
Зарегистрирован: 2007-07-02 22:51:25
Откуда: Москва

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение dvg_lab » 2011-02-20 11:57:54

За очередное исследование CARP + HAST зачет, чем больше юзеров тем стабильнее будет технология.

Один момент - при кластеризации таким образом мускула мне думается нужно периодически флушить таблицы. И не сойдет ли с ума мускул если у него в кеше будет одно а по hast на диски приедет другое? У hybrid-cluster.com я подсмотрел другую технологию кластеризации общего хранилища - через zfs send | zfs receive, там они перед тем как сделать send сначала флушат таблицы а потом сендят. Имхо неплохой стартап, обратить внимание по крайней мере на технологии стоит.
FreeBSD the power to serve.

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-02-20 14:46:01

dvg_lab писал(а):За очередное исследование CARP + HAST зачет, чем больше юзеров тем стабильнее будет технология.

Один момент - при кластеризации таким образом мускула мне думается нужно периодически флушить таблицы. И не сойдет ли с ума мускул если у него в кеше будет одно а по hast на диски приедет другое? У hybrid-cluster.com я подсмотрел другую технологию кластеризации общего хранилища - через zfs send | zfs receive, там они перед тем как сделать send сначала флушат таблицы а потом сендят. Имхо неплохой стартап, обратить внимание по крайней мере на технологии стоит.
MySQL так нельзя ...
У Муськи свои есть встроенные инструменты хотя бы вот как пример но там шире есть возможности:
http://www.lissyara.su/articles/freebsd ... ter_mater/
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
dvg_lab
сержант
Сообщения: 291
Зарегистрирован: 2007-07-02 22:51:25
Откуда: Москва

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение dvg_lab » 2011-02-20 16:59:37

Понял, в принципе с мускулом так наверное даже лучше... На следующей неделе будет у меня 2 железки, надеюсь начну эксперименты.
FreeBSD the power to serve.

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-02-20 17:03:40

dvg_lab писал(а):Понял, в принципе с мускулом так наверное даже лучше... На следующей неделе будет у меня 2 железки, надеюсь начну эксперименты.
У муськи много возможностей внутри себя там если интересно, поинтернете, найдёте решение с прокси муской и два мастер мастера, куча разных вариантов...
Ну можно задействовать муську мастер мастер плюс carp прекрутить... Тоже вариант...
Пешите если будут вопросы.
Да пребудет с нами сила!!!
Всех убью, один останусь!

star0x4b
проходил мимо

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение star0x4b » 2011-03-04 19:58:50

А будет ли работать CARP, если интерфейсам carp назначить внешний ip, который виден из инета? Что-то нигде в примерах настройки не видел такого варианта..

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-04 20:02:14

star0x4b писал(а):А будет ли работать CARP, если интерфейсам carp назначить внешний ip, который виден из инета? Что-то нигде в примерах настройки не видел такого варианта..
А почему нет? Просто не у всех есть лишний внешний ip для избыточности IP! А на хостерах скорей всего и работают...
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
konstantine
ефрейтор
Сообщения: 55
Зарегистрирован: 2009-03-14 11:51:17

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение konstantine » 2011-03-09 7:18:03

Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
@lissyara: Решений "искаропки" под конкретную задачу - катастрофически мало.
Любое боле-мене серьёзное решение - это кручение коробки под себя.

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-09 12:18:06

konstantine писал(а):Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
Уважаемый konstantine!
Я рассмотрел внимательно этот вопрос, и тоже не пойму зачем я 2 carp использовал…
Но потом вспомнил был у меня перекос когда вернувшись первая машина с перезагрузки вместо режима BACKUP становилась MASTER! Потом вроде как это решение помогло, перечитав оригинальную документацию по второму кругу, проведя пару испытаний я обнаружил свою ошибку! В первый раз познакомившись с оф. манном carp я испытывал все режимы которые он мог поддерживать, и запарился в настройках sysctl, вот по той же причине я и сбился с курса. Опечатку исправлю! Но самое занятное то, что и в таком состояние всё работает как надо…
Спасибо за внимание!
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
konstantine
ефрейтор
Сообщения: 55
Зарегистрирован: 2009-03-14 11:51:17

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение konstantine » 2011-03-10 17:18:48

Рад помочь.
@lissyara: Решений "искаропки" под конкретную задачу - катастрофически мало.
Любое боле-мене серьёзное решение - это кручение коробки под себя.

IOpiyc
рядовой
Сообщения: 16
Зарегистрирован: 2007-07-19 14:36:34

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение IOpiyc » 2011-03-10 19:24:55

fox писал(а):
konstantine писал(а):Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
Уважаемый konstantine!
Я рассмотрел внимательно этот вопрос, и тоже не пойму зачем я 2 carp использовал…
Но потом вспомнил был у меня перекос когда вернувшись первая машина с перезагрузки вместо режима BACKUP становилась MASTER! Потом вроде как это решение помогло, перечитав оригинальную документацию по второму кругу, проведя пару испытаний я обнаружил свою ошибку! В первый раз познакомившись с оф. манном carp я испытывал все режимы которые он мог поддерживать, и запарился в настройках sysctl, вот по той же причине я и сбился с курса. Опечатку исправлю! Но самое занятное то, что и в таком состояние всё работает как надо…
Спасибо за внимание!
Привет компании!

На сколько помню, два CARP интерфейса поднимается для балансировки, тут без этого можно обойтись. (Но нужно уточнить)

А я вот что хочу спросить:
1. Зачем использовать оба carp и ucarp? (только выполнение скриптов?)
2. Возможна ли такая ситуация:
Сервер А - мастер для карп и хаст.
Сервер B - резерв для карп и хаст.
Севрер A отвалился (например, перезагрузка)
Сервер В стал мастером для карп и хаст.
Сервер А снова появился.
Сервер А стал резервом карп
Сервер А стал мастером хаста. -> split-brain - очень желательное поведение

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-10 20:05:53

Немного не пойму смысл вашего вопроса?
Вы беспокоитесь, что слейв станет вдруг мастером? Я это описал такое возможно… Но нужно помнить золотое правело очерёдности включения, либо скрипт дописать!
Да пребудет с нами сила!!!
Всех убью, один останусь!

IOpiyc
рядовой
Сообщения: 16
Зарегистрирован: 2007-07-19 14:36:34

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение IOpiyc » 2011-03-11 10:33:40

fox писал(а):Немного не пойму смысл вашего вопроса?
Вы беспокоитесь, что слейв станет вдруг мастером? Я это описал такое возможно… Но нужно помнить золотое правело очерёдности включения, либо скрипт дописать!
Ок, посмотрю внимательнее.

Аватара пользователя
dekloper
ст. лейтенант
Сообщения: 1331
Зарегистрирован: 2008-02-24 15:43:19
Откуда: давно здесь сидим..
Контактная информация:

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение dekloper » 2011-03-12 18:53:11

не плохая статья, но я рассматриваю ее лишь как продолжение более глобальной мысли, предложенной товарисчем zefir01

хотелось бы реализовать нечто подобное, т.е. виртуализовать\абстрагировать некое хранилище от "физики", прозрачно аккумулируя имеющуюся "физику"..
ТОВАгИЩИ! БгАТЬЯ И СЕСТгЫ! ДОЛОЙ гАВНОДУШИЕ!

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-12 19:02:57

dekloper писал(а):не плохая статья, но я рассматриваю ее лишь как продолжение более глобальной мысли, предложенной товарисчем zefir01
Я писал в статье, что параллельно была у меня полемика именно с тем товарищем…
dekloper писал(а): хотелось бы реализовать нечто подобное, т.е. виртуализовать\абстрагировать некое хранилище от "физики", прозрачно аккумулируя имеющуюся "физику"..
Вы хоть поняли что спросили?
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
dekloper
ст. лейтенант
Сообщения: 1331
Зарегистрирован: 2008-02-24 15:43:19
Откуда: давно здесь сидим..
Контактная информация:

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение dekloper » 2011-03-12 19:21:31

потому и говорю -подобное, некое.. ибо не делал на практике..
но смысл, по-моему, гдето тут зарыт
фряха является чем то вроде контроллера хранилища. также с физических хостов системы хранения экспортируются другие жесткие через iscsi.
на фряхе эти жесткие через iscsi импортирутся. и из них, средствами zfs, строятся зеркала
ТОВАгИЩИ! БгАТЬЯ И СЕСТгЫ! ДОЛОЙ гАВНОДУШИЕ!

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-12 19:24:57

Чистая теория это безконечное блуждание в догадках!
Да пребудет с нами сила!!!
Всех убью, один останусь!

Аватара пользователя
dekloper
ст. лейтенант
Сообщения: 1331
Зарегистрирован: 2008-02-24 15:43:19
Откуда: давно здесь сидим..
Контактная информация:

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение dekloper » 2011-03-12 20:58:07

вот, на косопузом..
ТОВАгИЩИ! БгАТЬЯ И СЕСТгЫ! ДОЛОЙ гАВНОДУШИЕ!

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-12 21:02:46

Ещё один геморой...
Да пребудет с нами сила!!!
Всех убью, один останусь!

1826680
проходил мимо

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение 1826680 » 2011-03-17 20:37:16

вот, что еще сделали для hast:
http://www.freshports.org/net-mgmt/hastmon/

Аватара пользователя
fox
ст. лейтенант
Сообщения: 1154
Зарегистрирован: 2008-07-24 0:25:31
Откуда: Ukraine, Donetsk

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение fox » 2011-03-17 21:24:27

1826680 писал(а):вот, что еще сделали для hast:
http://www.freshports.org/net-mgmt/hastmon/
Занятно... Надобудет посмотреть!
Спасибо...
Да пребудет с нами сила!!!
Всех убью, один останусь!

paxil
рядовой
Сообщения: 17
Зарегистрирован: 2009-04-03 13:58:14
Откуда: Москва

Re: HAST+CARP+ZFS+UCARP=CLUSTER

Непрочитанное сообщение paxil » 2011-08-24 17:05:03

Всем доброго времени суток.

Два сервера:

Код: Выделить всё

uname -a
FreeBSD 8.2-STABLE FreeBSD 8.2-STABLE #1: Tue Aug 23 18:20:16 MSD 2011
на них поднята самба расшарены папки с пула который управляется HASTD.
В винде раздаются права на папки. Потом мастер(хост) перезагружается. Второй хост подхватывает и шара остается доступной, но все права превращаются в кашу.
То есть вместо групп могут быть пользователи или вообще другие группы, короче полный ACL хаус.

Если есть люди решившие данную проблему или знающие на что обратить внимание буду очень признателен.