восстановление RAIDZ

Проблемы с установкой, настройкой и работой системных и сетевых программ.

Модераторы: GRooVE, alexco

Правила форума
Убедительная просьба юзать теги [code] при оформлении листингов.
Сообщения не оформленные должным образом имеют все шансы быть незамеченными.
Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-01-31 14:21:53

Народ помогитеее!!!!
на фаловом сервере был RAIDZ pool data
по неосторожности (тупости, перепутал консоли продакшн и тест серверов) был удален zpool:
zpool destroy data
ругнулся на то что busy
umount -f /data
zpool destroy data
zpool уничтожен!
zpool create raidz /dev/gpt/disc{1,2,3}
создан zpool и смонтирован в /data
И тут до меня доходит что это продакшн сервер с полтора терабайтами данных!!! :shock: :cry:
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Хостинговая компания Host-Food.ru
Хостинг HostFood.ru
 

Услуги хостинговой компании Host-Food.ru

Хостинг HostFood.ru

Тарифы на хостинг в России, от 12 рублей: https://www.host-food.ru/tariffs/hosting/
Тарифы на виртуальные сервера (VPS/VDS/KVM) в РФ, от 189 руб.: https://www.host-food.ru/tariffs/virtualny-server-vps/
Выделенные сервера, Россия, Москва, от 2000 рублей (HP Proliant G5, Intel Xeon E5430 (2.66GHz, Quad-Core, 12Mb), 8Gb RAM, 2x300Gb SAS HDD, P400i, 512Mb, BBU):
https://www.host-food.ru/tariffs/vydelennyi-server-ds/
Недорогие домены в популярных зонах: https://www.host-food.ru/domains/

FiL
ст. лейтенант
Сообщения: 1375
Зарегистрирован: 2010-02-05 0:21:40

Re: восстановление RAIDZ

Непрочитанное сообщение FiL » 2012-01-31 21:23:04

бакап, надеюсь, есть.

Аватара пользователя
iZEN
ст. лейтенант
Сообщения: 1095
Зарегистрирован: 2007-09-15 16:45:26
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение iZEN » 2012-02-01 2:07:17

Нехер давать пулам ничего незначащие имена. Воспользуйтесь последним бэкапом.
GNU/Linux — это не Unix и даже никогда им не был, и, что самое смешное, никогда им не станет — GNU's Not Unix

d.kalinin
рядовой
Сообщения: 20
Зарегистрирован: 2010-07-03 10:02:47

Re: восстановление RAIDZ

Непрочитанное сообщение d.kalinin » 2012-02-01 5:23:17

Если бы нового пула не создавали - то шансы остались.

А так - смотретие http://hub.opensolaris.org/bin/download ... at0822.pdf
Возможно от старого пула остались живые уберблоки

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-01 8:27:13

При помощи скрипта от BlackCat http://www.lissyara.su/articles/freebsd ... _recovery/ вытащил список Uberblock
Но в номерах транзакций везде нули (((

Бекап 2-х месячной давности есть, пока люди на нем! Под конец года (в декабре) были составлены бюджеты и планы, всем нужны они... (((
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: восстановление RAIDZ

Непрочитанное сообщение BlackCat » 2012-02-01 9:33:55

Во-первых, не паникуйте - данные должны по прежнему находиться на ваших дисках (ZFS, судя по всему, не затирает полностью данные при создании ФС, сносится только часть служебных структур, являющихся началом иерархии).
Во-вторых, если вы всё сделали правильно и в метках ничего нет (а так и должно быть), то стандартными средствами пул уже не подключить.
В-третьих, исходя из предыдущего пункта, работу с дисками лучше свести к минимуму или вообще ими не пользоваться т.к. каждая запись на диск снижает шанс успешного восстановления.
Итого: вам или самому нужно разобраться с внутренним устройством ФС и вручную восстановить удалённые структуры или найти человека/организацию, которая это сделает за вас. В любом случае на это потребуется время и, вероятно, материальные затраты. Таким образом вам необходимо определиться соизмеримы ли затраты времени и денег на восстановление файлов с созданием этих файлов заново.

Если кратко, то часть данных достать возможно, но это займёт некоторое время и потребуется финансирование данного процесса. Не проще ли признать тот факт, что данные потеряны и составить "бюджеты и планы" ещё раз?

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-01 10:23:31

В нашем офисе работает порядка 70 человек, и получается пропал труд этих людей за 2 месяца...
Думаю повод, для работы над восстановлением, веский.
В нашем городе (ИМХО) наверняка нет людей способных произвести восстановление с RAIDZ. Один из сертифицированных инженеров (по Solaris) сказал, что шансы равны нулю, а он работает в Казахтелеком (который не жалеет денег на обучение своих специалистов).
Я в тупике.
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: восстановление RAIDZ

Непрочитанное сообщение BlackCat » 2012-02-01 11:01:01

Если найдёте спеца с набитой рукой и уже готовым инструментом для восстановления, то он сделает быстрее чем за два месяца, но цена данной работы будет существенной. Если спец будет разбираться с нуля, то времени у него уйдёт как-раз около 2-х месяцев. И никто не может гарантировать полного восстановления всех данных.
А 70 человек работающих в вашей организации ещё помнят что они делали и зачем, так же должны остаться на флешках, в почтовых ящиках и на локальных дисках какие-то черновики документов, или даже их распечатки в ящиках стола и на полках.

Да труд (а точнее, его конечный результат) пропал, это необходимо признать и двигаться дальше, сделав соответствующие выводы.
Если вы находите, что можете сами восстановить данные, то вам уже дали ссылку на документ, с которого возможно хорошо начать. Если ищите организацию, которая это сделает за вас, то добро пожаловать в Гугл.
Объяснить, как восстанавливать данные в подобной ситуации - задача не тривиальная и займёт она слишком много времени. С форума то-же вряд-ли кто-то возьмётся за работу по восстановлению.

P.S. Пока мы с вами дискутируем, вы теряете один из ценнейших ресурсов - время. Примите уже решение или пусть это сделает руководитель вашей организации.

FiL
ст. лейтенант
Сообщения: 1375
Зарегистрирован: 2010-02-05 0:21:40

Re: восстановление RAIDZ

Непрочитанное сообщение FiL » 2012-02-01 22:22:44

1. я не знаю что там происходило с момента факапа до сего дня, но если диски были под нагрузкой, то всё очень плохо. Дальше читать смысла нет. Если нет - достать из сервера и положить на полочку.

2. купить еще комплект дисков и накатить туда полные копии (и на них потом заниматься восстановлением).

3. Так, как организации надо работать, пока идет процесс, то таки надо поставить что-то под текущие нужды. И залить туда существующий бакап. Хоть старый, но все-таки.

4. Так как опыт факапов уже есть, то вполне пора настроить более частый бакап.

5. Посмотреть на проделанную работу и затраченные средства и еще раз подумать о необходимости восстановления утерянных данных. Хотя, если свободно время есть, то это очень полезно по-любому. Можно стать единственным в Казахтане специалистом по восстановлению ZFS. Полезный скилл.

6. Еще раз внимательнее читайте статью BlackCat. Статью надо не просто прочитать, а понять. Понять как и почему именно так оно всё работает. А потом вперед, с дебаггером в руках, искать что там и где на диске. Данные-то где-то должны быть. Осталось их найти.

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-02 7:45:21

Нашел специалиста в ABS Training Centre, Юрий Воинов. Пока не удалось с ним связаться. Хочу проконсультироваться у него о возможности восстановления.
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-02 8:39:02

Zhan писал(а):Нашел специалиста в ABS Training Centre, Юрий Воинов. Пока не удалось с ним связаться. Хочу проконсультироваться у него о возможности восстановления.
В общем дозвонился до Юрия Воинова. Результат неутешительный :( . Он сказал, что все! ничего уже не восстановишь и везти в Сервис Центр Алси (они занимаются восстановлением данных) эти диски бесполезно. В общем полный пи**ец... На этом считаю тему закрытой и разводить дальнейший холивар думаю бессмысленно.
Знания, которые не пополняются ежедневно, убывают с каждым днем.

GhOsT_MZ
лейтенант
Сообщения: 662
Зарегистрирован: 2011-04-25 11:40:35
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение GhOsT_MZ » 2012-02-02 8:50:55

Zhan писал(а):В общем полный пи**ец... На этом считаю тему закрытой и разводить дальнейший холивар думаю бессмысленно.
Я не специалист по ZFS, но могу сказать одно, какой бы сложной не была файловая система, восстановить данные с нее теоритически возможно почти всегда, если данные физически не затерты. Но тут, как уже говорили выше, все зависит от важности данных и возможности потратить большое количество времени, ну и актуальность восстановленных данных на момент восстановления тоже нужно учитывать, ибо, к примеру, через год они в принципе будут не нужны и время будет потрачено зря.
На самом деле примерно представляю почему этот специалист так сказал. Дело в том, что нету какой-то определенной методики восстановления, а следовательно, узкопрофильный специалист не подтвердит возможность чего-то, что официально не делается или чего еще не делали, ведь если он скажет, что можно, то поидее он должен будет привести какие результаты восстановлений или показать кому удалось, а это видимо проблематично в его случае.

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-02 8:58:12

Он сказал, что вся проблема в том что это был RAIDZ. если бы зеркальный пул - то возможность была бы.
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Аватара пользователя
Zhan
рядовой
Сообщения: 47
Зарегистрирован: 2008-04-14 13:42:09
Откуда: Almaty
Контактная информация:

Re: восстановление RAIDZ

Непрочитанное сообщение Zhan » 2012-02-02 9:07:37

кстати сейчас сижу и эксперементирую:
Накатил freeBSd 9.0 с версией ZFS 28? в которой якобы присутствует функция

Код: Выделить всё

zpool import -F
позволяющая импортировать пул после zpool destroy
НИФИГА скажу я вам!

Код: Выделить всё

smb# cd /
smb# mkfile 300m /disk1 /disk2 /disk3
smb# zpool create test raidz /disk{1,2,3}
smb# mkfile 100m /test/file1
smb# ls /test
file1
smb# zpool destroy test
smb# zpool list
NAME    SIZE  ALLOC   FREE    CAP  DEDUP  HEALTH  ALTROOT
zroot  72.5G  3.11G  69.4G     4%  1.00x  ONLINE  -
smb# zpool import -D
smb# zpool list
NAME    SIZE  ALLOC   FREE    CAP  DEDUP  HEALTH  ALTROOT
zroot  72.5G  3.11G  69.4G     4%  1.00x  ONLINE  -
smb# zpool import -F
smb# zpool list
NAME    SIZE  ALLOC   FREE    CAP  DEDUP  HEALTH  ALTROOT
zroot  72.5G  3.10G  69.4G     4%  1.00x  ONLINE  -
smb# zpool import -F test
cannot import 'test': no such pool available
попробовал без raidz проделать, то же самое не импортируется...
Знания, которые не пополняются ежедневно, убывают с каждым днем.

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: восстановление RAIDZ

Непрочитанное сообщение BlackCat » 2012-02-02 11:05:53

Zhan писал(а):Накатил freeBSd 9.0 с версией ZFS 28? в которой якобы присутствует функция

Код: Выделить всё

zpool import -F
позволяющая импортировать пул после zpool destroy
Ключ -F позволяет не импортировать убитый пул, а откатиться на несколько транзакций назад на ещё живом пуле. Так что ваш результат вполне закономерен.

Аватара пользователя
BlackCat
прапорщик
Сообщения: 469
Зарегистрирован: 2007-10-16 22:40:42

Re: восстановление RAIDZ

Непрочитанное сообщение BlackCat » 2012-02-02 11:12:52

FiL писал(а):6. Еще раз внимательнее читайте статью BlackCat. Статью надо не просто прочитать, а понять. Понять как и почему именно так оно всё работает.
Не скрою, что такое внимание к скромному труду мне льстит, но статья ни в коем случае не писалась как руководство к действию, это просто антинаучное изложение фактов собранное в небольшой рассказ и не более. Всё, что возможно из неё почерпнуть, так это ссылки на кое-какую документацию.

FiL
ст. лейтенант
Сообщения: 1375
Зарегистрирован: 2010-02-05 0:21:40

Re: восстановление RAIDZ

Непрочитанное сообщение FiL » 2012-02-05 6:48:27

BlackCat,
если-бы это была интрукция или руководство, то можно было-бы тупо следовать. А так придется читать и думать. Статья хороша именно тем, что показывает как при должном терпении и желании можно сделать нечто, что официально считается невозможным.

myst
проходил мимо

Re: восстановление RAIDZ

Непрочитанное сообщение myst » 2013-02-17 16:37:17

Zhan писал(а):Он сказал, что вся проблема в том что это был RAIDZ. если бы зеркальный пул - то возможность была бы.
Интересно. Это как раз мой случай :). Но время идет... Как сейчас обстоят дела в этом направлении? Имею ввиду наличие софта или алгоритма восстановления затертого пула.