HAST+CARP+ZFS+UCARP=CLUSTER
Модератор: terminus
Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
HAST+CARP+ZFS+UCARP=CLUSTER
Была необходимость сделать, что то вроде этого с громким словом cluster которое режет мне уши!
Посмотрите если кому-то будет интересно… Если есть размышления или идеи как это усовершенствовать, будет интересно послушать…
http://www.lissyara.su/?id=2166
Посмотрите если кому-то будет интересно… Если есть размышления или идеи как это усовершенствовать, будет интересно послушать…
http://www.lissyara.su/?id=2166
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
Услуги хостинговой компании Host-Food.ru
Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/
-
- майор
- Сообщения: 2684
- Зарегистрирован: 2007-09-25 10:20:59
- Откуда: Сочи, Москва
- Контактная информация:
Re: HAST+CARP+ZFS+UCARP=CLUSTER
круто. Давно просилось что-то подобное.
Deus quos vult perdere dementat prius
http://www.itforum-sochi.ru
http://www.itforum-sochi.ru
-
- проходил мимо
- Сообщения: 1
- Зарегистрирован: 2011-02-19 13:16:21
Re: HAST+CARP+ZFS+UCARP=CLUSTER
хорошая статья
, еще б нагрузка автоматически распределялась м/у машинами.

- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Спасибо.6RUN0 писал(а):хорошая статья, еще б нагрузка автоматически распределялась м/у машинами.
Для распределения нагрузки можно ganglia + lam использовать… Но руки не доходят скурить и разобраться!
Возможно в будущем разберусь…
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- dvg_lab
- сержант
- Сообщения: 291
- Зарегистрирован: 2007-07-02 22:51:25
- Откуда: Москва
Re: HAST+CARP+ZFS+UCARP=CLUSTER
За очередное исследование CARP + HAST зачет, чем больше юзеров тем стабильнее будет технология.
Один момент - при кластеризации таким образом мускула мне думается нужно периодически флушить таблицы. И не сойдет ли с ума мускул если у него в кеше будет одно а по hast на диски приедет другое? У hybrid-cluster.com я подсмотрел другую технологию кластеризации общего хранилища - через zfs send | zfs receive, там они перед тем как сделать send сначала флушат таблицы а потом сендят. Имхо неплохой стартап, обратить внимание по крайней мере на технологии стоит.
Один момент - при кластеризации таким образом мускула мне думается нужно периодически флушить таблицы. И не сойдет ли с ума мускул если у него в кеше будет одно а по hast на диски приедет другое? У hybrid-cluster.com я подсмотрел другую технологию кластеризации общего хранилища - через zfs send | zfs receive, там они перед тем как сделать send сначала флушат таблицы а потом сендят. Имхо неплохой стартап, обратить внимание по крайней мере на технологии стоит.
FreeBSD the power to serve.
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
MySQL так нельзя ...dvg_lab писал(а):За очередное исследование CARP + HAST зачет, чем больше юзеров тем стабильнее будет технология.
Один момент - при кластеризации таким образом мускула мне думается нужно периодически флушить таблицы. И не сойдет ли с ума мускул если у него в кеше будет одно а по hast на диски приедет другое? У hybrid-cluster.com я подсмотрел другую технологию кластеризации общего хранилища - через zfs send | zfs receive, там они перед тем как сделать send сначала флушат таблицы а потом сендят. Имхо неплохой стартап, обратить внимание по крайней мере на технологии стоит.
У Муськи свои есть встроенные инструменты хотя бы вот как пример но там шире есть возможности:
http://www.lissyara.su/articles/freebsd ... ter_mater/
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- dvg_lab
- сержант
- Сообщения: 291
- Зарегистрирован: 2007-07-02 22:51:25
- Откуда: Москва
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Понял, в принципе с мускулом так наверное даже лучше... На следующей неделе будет у меня 2 железки, надеюсь начну эксперименты.
FreeBSD the power to serve.
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
У муськи много возможностей внутри себя там если интересно, поинтернете, найдёте решение с прокси муской и два мастер мастера, куча разных вариантов...dvg_lab писал(а):Понял, в принципе с мускулом так наверное даже лучше... На следующей неделе будет у меня 2 железки, надеюсь начну эксперименты.
Ну можно задействовать муську мастер мастер плюс carp прекрутить... Тоже вариант...
Пешите если будут вопросы.
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
-
- проходил мимо
Re: HAST+CARP+ZFS+UCARP=CLUSTER
А будет ли работать CARP, если интерфейсам carp назначить внешний ip, который виден из инета? Что-то нигде в примерах настройки не видел такого варианта..
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
А почему нет? Просто не у всех есть лишний внешний ip для избыточности IP! А на хостерах скорей всего и работают...star0x4b писал(а):А будет ли работать CARP, если интерфейсам carp назначить внешний ip, который виден из инета? Что-то нигде в примерах настройки не видел такого варианта..
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- konstantine
- ефрейтор
- Сообщения: 55
- Зарегистрирован: 2009-03-14 11:51:17
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
@lissyara: Решений "искаропки" под конкретную задачу - катастрофически мало.
Любое боле-мене серьёзное решение - это кручение коробки под себя.
Любое боле-мене серьёзное решение - это кручение коробки под себя.
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Уважаемый konstantine!konstantine писал(а):Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
Я рассмотрел внимательно этот вопрос, и тоже не пойму зачем я 2 carp использовал…
Но потом вспомнил был у меня перекос когда вернувшись первая машина с перезагрузки вместо режима BACKUP становилась MASTER! Потом вроде как это решение помогло, перечитав оригинальную документацию по второму кругу, проведя пару испытаний я обнаружил свою ошибку! В первый раз познакомившись с оф. манном carp я испытывал все режимы которые он мог поддерживать, и запарился в настройках sysctl, вот по той же причине я и сбился с курса. Опечатку исправлю! Но самое занятное то, что и в таком состояние всё работает как надо…
Спасибо за внимание!
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- konstantine
- ефрейтор
- Сообщения: 55
- Зарегистрирован: 2009-03-14 11:51:17
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Рад помочь.
@lissyara: Решений "искаропки" под конкретную задачу - катастрофически мало.
Любое боле-мене серьёзное решение - это кручение коробки под себя.
Любое боле-мене серьёзное решение - это кручение коробки под себя.
-
- рядовой
- Сообщения: 16
- Зарегистрирован: 2007-07-19 14:36:34
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Привет компании!fox писал(а):Уважаемый konstantine!konstantine писал(а):Вопрос уважаемому fox. Скажите, а зачем на каждой машине подымать два CARP ифа с одинаковыи IPами и с разными advskew ???? Мож моя фантазия скудна, но я понять никак не могу этого и тем более не додумался бы до токого....
Я рассмотрел внимательно этот вопрос, и тоже не пойму зачем я 2 carp использовал…
Но потом вспомнил был у меня перекос когда вернувшись первая машина с перезагрузки вместо режима BACKUP становилась MASTER! Потом вроде как это решение помогло, перечитав оригинальную документацию по второму кругу, проведя пару испытаний я обнаружил свою ошибку! В первый раз познакомившись с оф. манном carp я испытывал все режимы которые он мог поддерживать, и запарился в настройках sysctl, вот по той же причине я и сбился с курса. Опечатку исправлю! Но самое занятное то, что и в таком состояние всё работает как надо…
Спасибо за внимание!
На сколько помню, два CARP интерфейса поднимается для балансировки, тут без этого можно обойтись. (Но нужно уточнить)
А я вот что хочу спросить:
1. Зачем использовать оба carp и ucarp? (только выполнение скриптов?)
2. Возможна ли такая ситуация:
Сервер А - мастер для карп и хаст.
Сервер B - резерв для карп и хаст.
Севрер A отвалился (например, перезагрузка)
Сервер В стал мастером для карп и хаст.
Сервер А снова появился.
Сервер А стал резервом карп
Сервер А стал мастером хаста. -> split-brain - очень желательное поведение
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Немного не пойму смысл вашего вопроса?
Вы беспокоитесь, что слейв станет вдруг мастером? Я это описал такое возможно… Но нужно помнить золотое правело очерёдности включения, либо скрипт дописать!
Вы беспокоитесь, что слейв станет вдруг мастером? Я это описал такое возможно… Но нужно помнить золотое правело очерёдности включения, либо скрипт дописать!
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
-
- рядовой
- Сообщения: 16
- Зарегистрирован: 2007-07-19 14:36:34
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Ок, посмотрю внимательнее.fox писал(а):Немного не пойму смысл вашего вопроса?
Вы беспокоитесь, что слейв станет вдруг мастером? Я это описал такое возможно… Но нужно помнить золотое правело очерёдности включения, либо скрипт дописать!
- dekloper
- ст. лейтенант
- Сообщения: 1331
- Зарегистрирован: 2008-02-24 15:43:19
- Откуда: давно здесь сидим..
- Контактная информация:
Re: HAST+CARP+ZFS+UCARP=CLUSTER
не плохая статья, но я рассматриваю ее лишь как продолжение более глобальной мысли, предложенной товарисчем zefir01
хотелось бы реализовать нечто подобное, т.е. виртуализовать\абстрагировать некое хранилище от "физики", прозрачно аккумулируя имеющуюся "физику"..
хотелось бы реализовать нечто подобное, т.е. виртуализовать\абстрагировать некое хранилище от "физики", прозрачно аккумулируя имеющуюся "физику"..
ТОВАгИЩИ! БгАТЬЯ И СЕСТгЫ! ДОЛОЙ гАВНОДУШИЕ!
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Я писал в статье, что параллельно была у меня полемика именно с тем товарищем…dekloper писал(а):не плохая статья, но я рассматриваю ее лишь как продолжение более глобальной мысли, предложенной товарисчем zefir01
Вы хоть поняли что спросили?dekloper писал(а): хотелось бы реализовать нечто подобное, т.е. виртуализовать\абстрагировать некое хранилище от "физики", прозрачно аккумулируя имеющуюся "физику"..
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- dekloper
- ст. лейтенант
- Сообщения: 1331
- Зарегистрирован: 2008-02-24 15:43:19
- Откуда: давно здесь сидим..
- Контактная информация:
Re: HAST+CARP+ZFS+UCARP=CLUSTER
потому и говорю -подобное, некое.. ибо не делал на практике..
но смысл, по-моему, гдето тут зарыт
но смысл, по-моему, гдето тут зарыт
фряха является чем то вроде контроллера хранилища. также с физических хостов системы хранения экспортируются другие жесткие через iscsi.
на фряхе эти жесткие через iscsi импортирутся. и из них, средствами zfs, строятся зеркала
ТОВАгИЩИ! БгАТЬЯ И СЕСТгЫ! ДОЛОЙ гАВНОДУШИЕ!
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Чистая теория это безконечное блуждание в догадках!
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
- dekloper
- ст. лейтенант
- Сообщения: 1331
- Зарегистрирован: 2008-02-24 15:43:19
- Откуда: давно здесь сидим..
- Контактная информация:
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Ещё один геморой...
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
-
- проходил мимо
Re: HAST+CARP+ZFS+UCARP=CLUSTER
вот, что еще сделали для hast:
http://www.freshports.org/net-mgmt/hastmon/
http://www.freshports.org/net-mgmt/hastmon/
- fox
- ст. лейтенант
- Сообщения: 1154
- Зарегистрирован: 2008-07-24 0:25:31
- Откуда: Ukraine, Donetsk
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Занятно... Надобудет посмотреть!1826680 писал(а):вот, что еще сделали для hast:
http://www.freshports.org/net-mgmt/hastmon/
Спасибо...
Да пребудет с нами сила!!!
Всех убью, один останусь!
Всех убью, один останусь!
-
- рядовой
- Сообщения: 17
- Зарегистрирован: 2009-04-03 13:58:14
- Откуда: Москва
Re: HAST+CARP+ZFS+UCARP=CLUSTER
Всем доброго времени суток.
Два сервера:
на них поднята самба расшарены папки с пула который управляется HASTD.
В винде раздаются права на папки. Потом мастер(хост) перезагружается. Второй хост подхватывает и шара остается доступной, но все права превращаются в кашу.
То есть вместо групп могут быть пользователи или вообще другие группы, короче полный ACL хаус.
Если есть люди решившие данную проблему или знающие на что обратить внимание буду очень признателен.
Два сервера:
Код: Выделить всё
uname -a
FreeBSD 8.2-STABLE FreeBSD 8.2-STABLE #1: Tue Aug 23 18:20:16 MSD 2011
В винде раздаются права на папки. Потом мастер(хост) перезагружается. Второй хост подхватывает и шара остается доступной, но все права превращаются в кашу.
То есть вместо групп могут быть пользователи или вообще другие группы, короче полный ACL хаус.
Если есть люди решившие данную проблему или знающие на что обратить внимание буду очень признателен.