gconcat/jbod на freebsd

Проблемы установки, настройки и работы Правильной Операционной Системы

Модератор: terminus

Правила форума
Убедительная просьба юзать теги [cоde] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
kisliy2000
проходил мимо
Сообщения: 2
Зарегистрирован: 2008-03-03 18:52:25

gconcat/jbod на freebsd

Непрочитанное сообщение kisliy2000 » 2008-03-03 19:05:42

День добрый.
Подскажите плиз, каким образом можно под фрей реализовать следующее:
есть 3x1Tb hdd, стоят на файлопомойке.Каким образом их можно слить в один виртуальный?
Хочется:
1) Чтобы запись шла на первый hdd, до тех пор пока он не забит, дальше второй и т.д.
2) Чтобы при вылете одно диска - он автоматически убирался из массива с последующим его уменьшением (3Tb > 2Tb).

gconcat - вроде как пишет на все харды по очереди, т.е. 1 файл на первый, второй файл на второй и т.п.

Есть ли способ реализовать то, что хочется? ;) без извратов с union/null fs, т.к. юзерам неудобно будет.
Или придется извращаться?

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2460 рублей (8 CPU, 8Gb RAM, 2x500Gb HDD, RAID 3ware 9750):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35071
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Alex Keda » 2008-03-04 9:21:10

2) Чтобы при вылете одно диска - он автоматически убирался из массива с последующим его уменьшением (3Tb > 2Tb).
никак
========
лучше объясни цель сего действа.
особенно как ты видишь процитированный кусок...
Убей их всех! Бог потом рассортирует...

kisliy2000
проходил мимо
Сообщения: 2
Зарегистрирован: 2008-03-03 18:52:25

Re: gconcat/jbod на freebsd

Непрочитанное сообщение kisliy2000 » 2008-03-04 10:44:23

ok, а если убрать 2 пункт? :)

paix
лейтенант
Сообщения: 863
Зарегистрирован: 2007-09-24 12:41:05
Откуда: dn.ua
Контактная информация:

Re: gconcat/jbod на freebsd

Непрочитанное сообщение paix » 2008-03-04 19:48:37

gconcat наоборот благо, что пишет данные с разбросом по разным хардам..сохраняется целостность файлов, причем они записуются равномерными блоками - увеличиывается скорость записи и скорость чтения. Как записуются данные на переполненном харде думаю обяснять не нужно?

Если данные не критичные, то ничего не сливать и юзать как есть.
Если критичные то делать рейд1 (1 хард прийдется перепрофилировтаь) или докупить еще хард и делать рейд10

Делать рейд0 в виде gstripe\gconcat крайне не рекомендую
With best wishes, Sergej Kandyla

Phanthom
рядовой
Сообщения: 22
Зарегистрирован: 2010-10-20 12:29:01

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Phanthom » 2013-04-15 20:51:32

Есть несколько не совсем нужных дисков. Есть файлопомойка.
Диски объединены в один массив и по самбе расшарены. Плюсом на сервере стоит трансмишн, который качает торренты в этот же каталог.
в общем то вылет одного диска не критичен. просто уменьшаем массив на емкость этого диска, по возможности наращиваем массив новыми ненужными дисками.
теперь вопрос.
Есть один диск - он еще не помер, помрёт возможно не скоро. емкость 160 гигов. Но на нем ufs этого массива.
Есть другой диск - не нужный. 500 гигов. нужно сделать замену одного на другой.
Перестраивать массив не хочу. Только как крайний случай. (под перестроением я понимаю составление нового массива с форматированием в новую ФС если я не прав - поправьте). Дампить все - слишком долго и не целесообразно, да и не куда.
dd хой клонировать диск - так на выходе получим 160 - кастрат от питика.
Подскажите как лучше сделать.

Phanthom
рядовой
Сообщения: 22
Зарегистрирован: 2010-10-20 12:29:01

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Phanthom » 2013-04-15 21:06:32

А вообще, я давно не мониторю что происходит в мире. Может давно изобрели что то, с помощью чего можно реализовать то что я сделал, не заморачиваясь с файловыми системами.
В идеале цель - есть носители в виде свободных и разных винтов. На них можно размещать файло. информация о файлах, то бишь файловая система должна быть распределённой. Имею в виду - допустим на винт наносится метка что де тут такая-то файловая система, а дальше размещение файлов - идёт в локальной для этого диска файловой системе. и так для каждого диска массива. при вылете одного диска - теряется только то, что было на этом диске, весь остальной массив продолжает работать с минимальными вмешательствами. Файлы в основном - фильмы. т.е. большой фрагментации быть не должно, хотя в общем то не принципиально.
хотелось бы добавлять в этот массив новые диски и убирать старые без перестроения массива.
В принципе gconcat решает вопрос с добавлением и удалением дисков на лету. Остаётся вопрос с файловой системой.
И еще вопрос, возможно ли вытащить данные с живого диска, выдранного из массива. Т.е. предположим можно ли взять один винт из этого массива и выдрать только то, что лежит именно на нём.
Сразу оговорюсь. что то, что лежит в переходах между винтами (т.е. имеем фрагмент файла) - этим пренебрегаем.

Аватара пользователя
Alex Keda
стреляли...
Сообщения: 35071
Зарегистрирован: 2004-10-18 14:25:19
Откуда: Made in USSR
Контактная информация:

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Alex Keda » 2013-04-15 22:42:54

portalfs называется, чтоле...
непомню точно, но в манах на какой-то mount_* видел такое, правда, с ограниченями, типа пишется всегда на последний диск, или около того...
решаемо скритапми, думаю...
Убей их всех! Бог потом рассортирует...

Phanthom
рядовой
Сообщения: 22
Зарегистрирован: 2010-10-20 12:29:01

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Phanthom » 2013-04-16 8:58:42

в топку эти костыли.
Прочитал тут про mhddfs - тема.
Можно вообще заюзать несколько сетевых дисков типа дропбокса или хернЯ-дисков и выкинуть на помойку винты в привычном понимании.
Ясен-красен без инета - не будет ничего работать, но по большому счёту у меня инет отпадывал 1 раз в год, и то для апгрейда оборудования прова.
А по теме - штука сама выбирает диск на который записывать файл, если ёмкости не хватает - перекидывает на лету. падение производительности незначительное. Файлы не режет - один минус. Т.е. если есть свободного места 10 гигов на одном и 2 на другом винте а надо записать файл 11 гигов - то скажет фигушки.
Как я понял вроде бы при отключении одного из дисков из массива - файло на диске остаётся так же как и файло на оставшемся массиве. Т.е. при падении одного из винтов массива - получаем массив меньшей ёмкостью и теряется только то, что было на павшем винте, что в общем то для файлопомойки и торренто-помойки практически идеально. Щас солью 9-ку, попробую погонять тестами на флэшках. Но штука мне уже нравится. Думаю дома такую поставлю если всё ок.

Phanthom
рядовой
Сообщения: 22
Зарегистрирован: 2010-10-20 12:29:01

Re: gconcat/jbod на freebsd

Непрочитанное сообщение Phanthom » 2013-04-16 9:29:51

Было бы еще более шикарным функционалом - помечать винт как предсмертный. Т.е. было бы круто, если бы можно было при знании того, что винт скоро скончается, или например хочется просто освободить старый винт меньшей ёмкости для того чтобы поставить вместо него новый с большей ёмкостью - просто поставить метку на старом и перераспределить данные с него на остальные винты и безболезненно удалить мелкий/дохлый винт, возможно даже на лету.
Может и такое придумали? Или это пока моя фантазия?

serzh
рядовой
Сообщения: 10
Зарегистрирован: 2014-08-05 14:20:30

Re: gconcat/jbod на freebsd

Непрочитанное сообщение serzh » 2014-08-05 14:47:11

Phanthom писал(а):Было бы еще более шикарным функционалом - помечать винт как предсмертный. Т.е. было бы круто, если бы можно было при знании того, что винт скоро скончается, или например хочется просто освободить старый винт меньшей ёмкости для того чтобы поставить вместо него новый с большей ёмкостью - просто поставить метку на старом и перераспределить данные с него на остальные винты и безболезненно удалить мелкий/дохлый винт, возможно даже на лету.
Может и такое придумали? Или это пока моя фантазия?
Наконец-то я нашёл единомышленника. Та же задача - необходимо хранить кучу больших файлов в одной точке входа без избыточности, если часть потеряется - нестрашно, желательно только знать что именно потерялось :-)