Страница 1 из 2

Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 13:25:17
firefly
Поставило руководство задачу : сбросить всю нашу информацию, что храниться на оптических дисках, на сервер и раздавать это все по самбе (места много занимает(с)). Посчитав количество дисков получилось что-то около 20 Тб :smile: .
Бюджет выделили под это в 8000$.
Так как я приверженец FreeBSD, то сразу же посмотрел в сторону ZFS, посидел в инете почитал, что о ней пишут. Вроде как все должно быть в шоколаде, подводных камней особо нет. Думаю собрать RAID-Z двойной четности.
Только остается определиться с железом. Что лучше купить? Думал взять что нибудь на базе шасси Supermicro SC836E2-R80? Но встают вопросы сколько оперативки ставить на борт(решил что хватит 4 Gb), какие(какой) процессоры (думаю взять два Xeon DP 5504),в качестве материнской платы выбрал SuperMicro X8DTL-iF, контроллер SuperMicro AOC-SASLP-H8iR и 12 HDD 2Tb 7200rpm 64MB SATA Baracuda XT Seagate. Но раз ZFS, то RAID контроллер не нужен, но как тогда подключить все эти винты...
Помогите пожалуйста с выбором конфигурации, никогда не сталкивался с такими задачами.

P.S. А может вообще не заморачиваться и просить деньги на брендовый NAS?

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 15:32:06
Alex Keda
берите уже чёнить =)
смотрите тока чтоб железо поддерживаемое было

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 16:09:30
firefly
Хитрый та какой, берите а потом рассказывайте как с бубном танцевали :))).
Подсказал, рассказал бы лучше... Например как сильно грузиться процессор при активном использовании (Хотя мое скромное мнение, что проца и одного хватит с головой и памяти можно поменьше (все-таки это там файлы будут только лежать и раздаваться по сети, никакой обработки...)).
Расскажи, пожалуйста, кто на каком железе собирал свои файловые серверы (хотя бы на 5-7 Тб)?
P.S. Закупка будет в середине лета, так что надо все взвесить, мне ведь потом с этим сервером работать и с меня спрос...

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 16:22:15
Alex Keda
HP пролиант
два двухядрёных оптерона, 4 гига рамы
дисковай полка по SAS подрублена с 12 SAS дисками.
вообще полок три - две SAS и одна SATA - под бэкапы...
всё летает =))

Код: Выделить всё

filez1# df -h
Filesystem             Size    Used   Avail Capacity  Mounted on
/dev/label/tmpROOT      19G     12G    5.7G    68%    /
devfs                  1.0K    1.0K      0B   100%    /dev
/dev/label/dataFS      1.6T    1.3T    333G    80%    /shares/data
/dev/label/backupFS    6.6T    1.0T    5.5T    16%    /shares/backup
/dev/label/dataTMP     2.6T    940G    1.7T    35%    /shares/second
filez1# mount
/dev/label/tmpROOT on / (ufs, local, soft-updates)
devfs on /dev (devfs, local)
/dev/label/dataFS on /shares/data (ufs, local, soft-updates, acls)
/dev/label/backupFS on /shares/backup (ufs, local, soft-updates, acls)
/dev/label/dataTMP on /shares/second (ufs, local, soft-updates, acls)
filez1#   
и никаких zfs не надо =)

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 16:34:12
firefly
Хочется все-таки потестить ZFS :)))
Лис, а какой пролиант у вас стоит(поподробнее пожалуйста конфигурацию, особенно контроллер интересует)?

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 16:46:44
hizel
Лис меня обошёл :(

http://forum.lissyara.su/viewtopic.php? ... =0#p241943

обычный контроллер и 6-ть жестяков под БД

Код: Выделить всё

CPU: Intel(R) Core(TM)2 Quad CPU    Q9505  @ 2.83GHz (2826.27-MHz K8-class CPU)
atapci1: <Intel ICH9 SATA300 controller> port 0x2408-0x240f,0x2414-0x2417,0x2400-0x2407,0x2410-0x2413,0x2020-0x203f mem 0xe1a21000-0xe1a217ff irq 21 at device 31.2 on pci0
не жалуемся

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-19 19:08:50
Alex Keda
firefly писал(а):Хочется все-таки потестить ZFS :)))
Лис, а какой пролиант у вас стоит(поподробнее пожалуйста конфигурацию, особенно контроллер интересует)?
380 какойто
контроллер - p800

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-05-31 8:22:07
umik
firefly писал(а):P.S. А может вообще не заморачиваться и просить деньги на брендовый NAS?
Тогда - лучше на NexentaStor. Там тот же ZFS.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-01 19:48:13
FiL
Памяти много не бывает :)
Вообще софтовый рейд вещь приятная в плане цены, но все-таки несколько более требовательная к админу в плане работы, чем железный рейд.
Но с другой стороны, если вдруг контроллер учудит, то софтовый рейд разгребать проще, чем остатки после сдохшего железного контроллера :)

В общем, если решение строить именно софтовое решение уже принято, то единственное, на что имеет смысла обратить внимание - это на то, чтобы контроллер (а их все равно покупать, ибо к маме 12 дисков не подключишь) понимал NCQ. Что-то вроде RocketRAID 2320. Исходя из цены вопроса, диски кроме как SATA обычные не поставишь, так хоть их возможности надо использовать на полную. Хотя если в бюджет влезет, то я-бы всетаки советовал WD RE4 (ну или если хочется Seagate, то Constellation ES). Реально разницы мало, но душа будет спокойнее.

20Тб массивы мне пока строить не приходилось, но 10+ несколько штук у меня крутится. В том числе и под софтовым рейдом. Работает себе и работает. Скорость не ахти, но мне вроде и спешить некуда.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-02 5:34:24
umik
FiL писал(а):Памяти много не бывает :)
Вообще софтовый рейд вещь приятная в плане цены, но все-таки несколько более требовательная к админу в плане работы, чем железный рейд.
Но с другой стороны, если вдруг контроллер учудит, то софтовый рейд разгребать проще, чем остатки после сдохшего железного контроллера :)
Смотря чего использовать как софтовый RAID
Если RAID-Z, то требовательный он только на этапе первоначального конфигурирования.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-03 0:32:24
FiL
umik писал(а): Смотря чего использовать как софтовый RAID
Если RAID-Z, то требовательный он только на этапе первоначального конфигурирования.
wishful thinking.
При сбое диска в железном рейде надо подойти, выдернуть дохлый диск, вставить новый и идти дальше пить пиво.
При сбое диска в софтовом рейде надо подойти к консоли или терминалу, вывести диск в оффлайн, пойти поменять диск, вернуться к терминалу и вывести диск онлайн, дать команду на замену. И только тогда идти пить пиво. Несколько сложнее :)

В 9 случаях из 10 пофик. Но в одном из 10 таки рядом с серваком оказывается только человек, которого пускать в консоль никак нельзя. Диск заменить физически он может, а вот кнопки давить некому.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-03 12:55:56
umik
FiL писал(а):
umik писал(а): Смотря чего использовать как софтовый RAID
Если RAID-Z, то требовательный он только на этапе первоначального конфигурирования.
wishful thinking.
При сбое диска в железном рейде надо подойти, выдернуть дохлый диск, вставить новый и идти дальше пить пиво.
При сбое диска в софтовом рейде надо подойти к консоли или терминалу, вывести диск в оффлайн, пойти поменять диск, вернуться к терминалу и вывести диск онлайн, дать команду на замену. И только тогда идти пить пиво. Несколько сложнее :)

В 9 случаях из 10 пофик. Но в одном из 10 таки рядом с серваком оказывается только человек, которого пускать в консоль никак нельзя. Диск заменить физически он может, а вот кнопки давить некому.
Э, нет.
Если железо, к которому подключены диски RAID-Z, допускает горячую замену, то процедура не отличается от железного RAID

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-03 22:09:59
FiL
ну я спорить не буду, сам с raid-z не игрался. Но вроде все мануалы настоятельно утверждают, что ни в коем случае нельзя выдергивать сдохший диск, пока не вывел его в оффлайн. Возможно, что они не рассматривают вариант горячей замены по какой-то причине. не знаю.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-09 5:09:47
arkan
Я на бывшей работе не стал заморачиваться и купил обыкновенное железо десктопное где побольше PCI слотов
и повтыкал туда уже RAID контроллеров (на каждом по 4 винта висит попарно в зеркале)
жесткие диски террабайтники
оперативки 2 гига тогда ставил - потом вроде как еще столько же добавили
процц обыкновенный 2 ядерник на 2.0
и очень даже хорошая файлопомойка получилась
Общаюсь с тамошними системщиками кто там до сих пор работает и говорят ниразу проблемм и небыло за 4 года
и ненадо 8 килобаксов на это выкладывать

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-14 21:29:22
manefesto
терабайтники уже были 4 года назад ???

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-14 23:32:59
FiL
manefesto писал(а):терабайтники уже были 4 года назад ???
В 2007-м появились.

С десктопным железом проблема в том, что в него много дисков не напихаешь. штук 8 обычно предел.
Ну и PCI для RAID-a - это очень хреново. У PCI-шины пропускная способность всего 1 гигабит. (33 мегагерца на 32 бита).
А это для массива из 8-и дисков уже маловато.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-18 19:10:48
n00b
ну можна поставить в pci-e и будет тебе пропускная способность....

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-18 21:45:36
Gendos
Что вы так за пролиантами гоняетесь, чем фуджики хуже?

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-19 19:51:32
Alex Keda
Gendos писал(а):Что вы так за пролиантами гоняетесь, чем фуджики хуже?
не счупал даже...
выложи

Код: Выделить всё

pciconf -lv
да собственные впечаления...

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-19 21:04:32
Gendos
Alex Keda писал(а):
Gendos писал(а):Что вы так за пролиантами гоняетесь, чем фуджики хуже?
не счупал даже...
выложи

Код: Выделить всё

pciconf -lv
да собственные впечаления...
Как всегда ниже пояса. Я про альтернативу.
У меня то как раз нет, сам посчупать желаю, но долбанные "корпоративные правила" HP HP HP.
У...пробовал я с региональным FS общался на тест железку предлагали, но с условие если ты докажешь, что железка кал, тады можешь отказаться - это субъективно.
Короче воевал я за FS одно время в одной конторе, мол пацаны MTBF будьте добры (думал хрен) паралельно запрос в HP на тоже самое примерно по классу уровню комплектации. Короче от hp красивая бумажка с грифом конфидециально на стандартную комплектуху с сайта - отмазка. FS на третий день от запроса звонит гер. хрен знает как, просит меня к телефону уточнить параметры железа и условия размещения :shock: , говорит жди 4-ре дня, присылаюь офицальное письмо где конкретно была расчитанна моя конфигурация. Отношение к потенциальному покупателю радует. Ну да ладно дело прошлого. Потом как то разговорились с приятелем о FS грит железяка аскетична, но надежна, главное его удовлетворяло какчество -грамотно подобранное железо.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-20 10:11:13
Alex Keda
ну, тоесть как на них фря будет жить - ы не знаешь...
про пролианты точно извесно - что жить будет хорошо.
поэтому - выбор очевиден
=========
через месячишко 380 G6 должен приехать почти в максимальной комплектухе.
эти ещё не счупал...

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-20 14:00:41
Dorlas
Пример небольшого домашнего файлового сервера (tower):

Код: Выделить всё

samba# zpool list
NAME   SIZE   USED  AVAIL    CAP  HEALTH  ALTROOT
tank  10.2T  4.00T  6.23T    39%  ONLINE  -

Код: Выделить всё

samba# zpool status
  pool: tank
 state: ONLINE
 scrub: none requested
config:

        NAME        STATE     READ WRITE CKSUM
        tank        ONLINE       0     0     0
          raidz1    ONLINE       0     0     0
            ad1     ONLINE       0     0     0
            ad2     ONLINE       0     0     0
            ad3     ONLINE       0     0     0
            ad22    ONLINE       0     0     0
            ad24    ONLINE       0     0     0
          raidz1    ONLINE       0     0     0
            ad4     ONLINE       0     0     0
            ad8     ONLINE       0     0     0
            ad10    ONLINE       0     0     0
            ad14    ONLINE       0     0     0
            ad16    ONLINE       0     0     0

errors: No known data errors
dmesg.txt
(10.51 КБ) 24 скачивания
Корпус:
http://market.yandex.ru/model.xml?model ... &suggest=1

Боксы для винтов:
http://www.klamas.ru/catalog/default.as ... id=8338220

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-20 21:52:52
Gendos
Ктонибудь вывалите dmesg PRIMERGY RX330 S1 - интерестно, что там.

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-06-20 22:04:46
Gendos
Ммммм покапался немного расстроен...если верить что енто там впихнуто
Мать чипсет Broadcom HT1000
Дисковая подсистема LSI 1068
Сеть Broadcom BCM5715
БП 625вт
-----------------------------------------
Хрен знат dmesg нужен

Re: Помогите выбрать железо для файлового сервера

Добавлено: 2010-09-06 12:59:55
Den
Уважаемые спецы, проконсультируйте пожалуйста, на счёт следующей конфигурации файлового сервера:
Корпус - Supermicro SC835TQ-R800B
Материнка - Supermicro X8STi-F
Процессор - CPU Intel Xeon E5620 2400/5.8GT/12M S1366
Кулер на проц - Supermicro SNK-P0035AP4
Рэйд-контроллер - 3ware SAS 9750-8e
Винты - HDD 2 Tb SAS 2.0 Seagate Constellation ES
Как оно всё в плане совместимости? Заведётся ли под Фрёй?
Может кто-то обладает такими железками? Буду благодарен за любую информацию :drinks: