forum.lissyara.su

Добавлено: **2012-09-19 15:16:54**

День добрый.

Ситуация следующая.
Есть сервер Freebsd9.0 Amd64. Как FS используется ZFS. Сервер собран под файлопомойку (samba) и бекапы.
6 дисков по 2Тб в raidz. ОЗУ 16 Гб, проц i5.
На сервере поднято samba34, NFSv3, iSCSI (istgt).
В разделах для NFS и samba на zfs включен dedup.

Все вроде хорошо и работает, но с недавнего времени начал замечать следующее.
Некоторые ночные бекапы некорректно завершаются.

В часности с Esxi5 на freebsd по NFS льются бекапы виртуалок и в конце скрипт высылает письмо.
Письма перестали приходить, полез в бекапы на freebsd, часть виртуалок(бекапов) есть, а части нет.
В логе ESXi5 видно что freebsd разорвал коннект, примонтированный NFS отвалился, а потом опять подсоеденился.
Но для скрипта это критично и он завершил работу (перестал бекапить оставшееся, не отмонтировал раздел и не выслал письмо).
Данных с Esxi5 бекапится около 400Гб по гигабитному каналу.

Почему грешу именно на Freebsd, потому что если сервер freebsd перегрузить, то какое-то время (5-6 дней) все работает нормально.
А потом опять такая же ситуация.
Если сервер freebsd не перегрузить то ситуация с бекапами повторяется все следующие дни.
Точно такая же картина и с samba, по samba льются ночные бекапы в виндовых ПК.

Для решения проблемы предполагаю что необходимо сделать тюнинг системных переменных, но пока даже не знаю куда можно копать и что смотреть.
В логах вроде ни чего критичного не нашел.

Поскажите куда можно копнуть и что посмотреть.
Спасибо ...

Добавлено: **2012-09-20 12:31:14**

Мне кажется тоже проблемы с сетью, если вы говорите, что начинают глючить все сетевые приложения. Первым делом советовал бы немного подтюнить через sysctl:

Код: Выделить всё

kern.ipc.somaxconn=3276
net.inet.tcp.sendspace=64395
net.inet.tcp.recvspace=64395
net.inet.tcp.sendbuf_max=16777216
net.inet.tcp.recvbuf_max=16777216

Далее, посмотрите в messages, dmesg, kernel.log, console.log если там какие-то ошибки, которые относятся к сети.
Ещё как вариант, провести такой тест: не перегружать сервер, а к примеру делать down, up сетевухе непосредственно перед бэкапом. У меня на плохих сетевухах часто валились сообщения "No buffer space available". Помогало down,up сетевой карте. Периодичность - раз в неделю. Причина - раз в 2 минуты скрипт пускал пару пингов.
Напишите какие сетевые стоят.
Может у вас проблемы не с сеткой, а с дисками? Может винты залипают на пару секунд?

Добавлено: **2012-09-20 16:37:24**

Спасибо за ответ.

Переменные уже поправил, теперь нужно понаблюдать поможет или нет.
С дисками проблемы точно нет, т.к. "залипание" (паркование головок) отключил утилитой от WD (все диски WD Green 2Тб.).

Сетевуха стоит модная ... intel 2х портовая (модель сейчас не скажу).
Я вот правда на эти 2 порта агрегацию сделал. Но не думаю что это может мешать ...
Скорее всего переполняется какой то буфер и сетевая система падает ...

Добавлено: **2012-09-22 11:24:02**

Пока полет нормальный.

Вопрос на засыпку.
А как можно "online" посмотреть текущее значание системных переменных

Т.е. скажем я выставил kern.ipc.somaxconn=3276, вот теперь хочется узнать какое значение этой переменной на текущий момент.
Вопрос не конкретно по этой переменной а вообще ...

Добавлено: **2012-09-22 12:10:48**

sysctl -a || sysctl <param>
ну а так же man sysctl

Добавлено: **2012-09-22 14:20:07**

Возможно вы меня не правильно поняли или я не верно сформулировал вопрос.

К примеру переменная kern.maxfiles=65536 определяет максимальное число дескрипторов файлов.
Так вот как узнать какое кол-во дескрипторов файлов система использует на конкретный момент времени.

А sysctl -a отображает не текущее значение, а установленное значение (максимальное)...

Добавлено: **2012-10-02 12:37:54**

Продолжаем разговор.

Вообщем привел сисемные переменные к такому виду:

Код: Выделить всё

vfs.vmiodirenable=1
net.inet.tcp.delayed_ack=0

net.inet.tcp.sendspace=65536
net.inet.tcp.recvspace=65536
kern.maxfiles=65536
kern.maxfilesperproc=65536
kern.ipc.maxsockets=204800

net.inet.tcp.sendbuf_max=16777216
net.inet.tcp.recvbuf_max=16777216

kern.ipc.nmbclusters=65536

После этого проблем с бекапами по NFS вроде как нету, но есть проблема с бекапами по samba.

Конфиг samba касательно tcp:

Код: Выделить всё

        max xmit = 65536
        socket options = IPTOS_LOWDELAY TCP_NODELAY SO_SNDBUF=65536 SO_RCVBUF=65536 SO_KEEPALIVE
        read raw = yes
        write raw = yes

Т.е. через несколько дней после перезапуска samba комп начинает лить бекапы на сервер, но потом подключение благополучно разрывается сервером.
Если Samba перегрузить, то потом несколько дней все нормально бекапится, если не перегружать то дальнейшие дни, бекапов не будет.
При чем если в течении дня заходить на сервер по samba - все работает в обе стороны ...

Что можно еще протюнить касательно Samba ?

Добавлено: **2012-10-02 13:17:56**

Попробуйте вообще отключить socket options, иногда лучше работает, чем с ней. Либо не все опции сразу, а к примеру только SO_SNDBUF=65536 SO_RCVBUF=65536 или попробовать другие скомбинировать.

forum.lissyara.su

Freebsd9, сервер рвет подключения. Прошу помощи.

Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.

Re: Freebsd9, сервер рвет подключения. Прошу помощи.