GlusterFS&ruby

Есть и такой ОС.

Модератор: weec

Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
100matolog
ст. сержант
Сообщения: 309
Зарегистрирован: 2008-05-30 12:11:16
Откуда: kiev
Контактная информация:

GlusterFS&ruby

Непрочитанное сообщение 100matolog » 2010-08-24 19:25:32

Достался в наследство кластер из 4-х серверов обьединенные через GlusterFS.
Вообщем и целом. Идет перестройка. И вместо двух продакшенов серверов отвечает только один.
И на этом продакшене одновременно живет и клиент и сервер гластера(так надо, если надо обьясню позже).
Живет себе, живет, и вдруг начинает гластер жрать память и проц.
На серваке, забыл сказать живет связка nginx+passenger(портал написан на Ruby)
И теперь смотря топ вижу такую картинку

Код: Выделить всё

op - 19:20:56 up 7 days, 16:33,  2 users,  load average: 5.48, 5.77, 5.71
Tasks: 235 total,   1 running, 234 sleeping,   0 stopped,   0 zombie
Cpu(s):  5.9%us,  3.2%sy,  0.0%ni, 77.2%id, 13.2%wa,  0.1%hi,  0.5%si,  0.0%st
Mem:  12299168k total, 12233260k used,    65908k free,   377752k buffers
Swap:  6094840k total,  1498404k used,  4596436k free,    45104k cached

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND                                                                                         
 4005 root      15   0 1549m 1.3g 1072 S 21.3 11.3   2376:40 glusterfsd                                                                                      
17688 212adm    15   0  458m 161m 6172 S 20.9  1.3  71:04.07 ruby   
nmon показывает почти 100 процентную нагрузку на рейд.Как чтение так и запись

Код: Выделить всё

+nmon-12c------[H for help]---Hostname=srv-4-1------Refresh= 2secs ---19:22.45------------------------------------------------------------------------------+
| Disk I/O -----(/proc/diskstats)--------all data is Kbytes per second---------------------------------------------------------------------------------     |
|DiskName Busy  Read WriteKB|0          |25         |50          |75       100|                                                                             |
|sda       99%  896.7    0.0|RRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRR|>                                                                            |
|sda1       0%    0.0    0.0|>                                                |                                                                             |
|sda2      99%  896.7    0.0|RRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRR|>                                                                            |
|dm-0      99%  898.7    0.0|RRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRR|>                                                                            |
|dm-1       0%    0.0    0.0|>                                                | 
 
В логах гластера

Код: Выделить всё

[admr@srv-4-1 glusterfs]$ tail -f mnt-glusterfs.log                
[2010-08-24 19:19:49] W [fuse-bridge.c:521:fuse_entry_cbk] glusterfs-fuse: 147800310: MKDIR() /123.ua/cache/var/www/123.ua/releases/20100820071916/partial_cache/views/filters/123.ua/flora-and-fauna/ru/animals/all.amphibia.ukraina.pigs.media-no.currency-USD => -1 (Too many links)
[2010-08-24 19:19:49] W [fuse-bridge.c:521:fuse_entry_cbk] glusterfs-fuse: 147800343: MKDIR() /123.ua/cache/var/www/123.ua/releases/20100820071916/partial_cache/views/filters/123.ua/flora-and-fauna/ru/animals/all.amphibia.ukraina.pigs.media-no.currency-USD => -1 (Too many links)

Код: Выделить всё

[admr@srv-4-1 glusterfs]$ tail -f etc-glusterfs-glusterfsd.vol.log 
[2010-08-24 19:21:06] E [posix.c:1560:posix_mkdir] posix1: mkdir of /123.ua/cache/var/www/123.ua/releases/20100820071916/partial_cache/views/filters/123.ua/flora-and-fauna/ru/animals/ukraina.dogs.poodle.galgo-espanol-spanish-greyhound.sell failed: Too many links
[2010-08-24 19:21:06] E [posix.c:1560:posix_mkdir] posix1: mkdir of /123.ua/cache/var/www/123.ua/releases/20100820071916/partial_cache/views/filters/123.ua/flora-and-fauna/ru/animals/ukraina.dogs.poodle.galgo-espanol-spanish-greyhound.sell failed: Too many links
Что происходит?..Места на рейде еще навалом.

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

Burner
лейтенант
Сообщения: 693
Зарегистрирован: 2009-06-14 7:02:26

Re: GlusterFS&ruby

Непрочитанное сообщение Burner » 2010-08-25 6:29:56

c фс не знаком, но похоже у вас просто иноды кончились

100matolog
ст. сержант
Сообщения: 309
Зарегистрирован: 2008-05-30 12:11:16
Откуда: kiev
Контактная информация:

Re: GlusterFS&ruby

Непрочитанное сообщение 100matolog » 2010-08-25 7:32:54

Burner писал(а):c фс не знаком, но похоже у вас просто иноды кончились
и чо делать?

Burner
лейтенант
Сообщения: 693
Зарегистрирован: 2009-06-14 7:02:26

Re: GlusterFS&ruby

Непрочитанное сообщение Burner » 2010-08-26 7:57:36

проверить предположение?