1 Тема от 2poison (02-04-2009 10:42:21 отредактировано 2poison)

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Тема: GMirror rebuild

Долго гуглил и читал man gmirror но моей проблеме не помогло.
Есть сервер.  На нем поднят софтовый рейд и в один прекрасный день когда вырубили свет в логах я увидел mirror/gm0  DEGRADED  ad0.
$gmirror list |more
Geom name: gm0
State: DEGRADED
Components: 2
Balance: round-robin
Slice: 4096
Flags: NONE
GenID: 1
SyncID: 1
ID: 3702576076
Providers:
1. Name: mirror/gm0
   Mediasize: 160041885184 (149G)
   Sectorsize: 512
   Mode: r5w5e6
Consumers:
1. Name: ad0
   Mediasize: 160041885696 (149G)
   Sectorsize: 512
   Mode: r1w1e1
   State: ACTIVE
   Priority: 0
   Flags: DIRTY
   GenID: 1
   SyncID: 1
   ID: 1643697433
Как вернуть состояние : COMPLETE ?

2 Ответ от crash

  • crash
  • Administrator
  • Неактивен
  • Зарегистрирован: 19-05-2005
  • Сообщений: 2,110
  • User Karma: 32

Re: GMirror rebuild

попробовать так

One disk failed.  Replace it with a brand new one:
           gmirror forget data
           gmirror insert data da1

data - это gm0. С gmirror не пользовался,  в основном железным RAID. По-моему Alexander пользовался, может что точнее подскажет

3 Ответ от SatanaClause

  • Откуда: Вильнюс (Литва)
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,103
  • User Karma: 11

Re: GMirror rebuild

Внимательно читаем https://www.freebsd.org/doc/ru/books/han … irror.html

По сути надо сделать как сказал crash. Надо отсоединить диск и проверить его, елси все хорошо то прикрепить обратно и ссинхронизировать их.

что показывает gmirror status ???

4 Ответ от Alexander

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

нужно смотреть сначала теперь
#mount
на чем загружена система.

5 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

$mount
/dev/mirror/gm0s1a on / (ufs, local)
devfs on /dev (devfs, local)
/dev/mirror/gm0s1d on /tmp (ufs, local, soft-updates)
/dev/mirror/gm0s1f on /usr (ufs, local, with quotas, soft-updates)
/dev/mirror/gm0s1e on /var (ufs, local, with quotas, soft-updates)
devfs on /var/named/dev (devfs, local)

$gmirror status
      Name    Status  Components
mirror/gm0  DEGRADED  ad0

6 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

SatanaClause пишет:

Внимательно читаем https://www.freebsd.org/doc/ru/books/han … irror.html

По сути надо сделать как сказал crash. Надо отсоединить диск и проверить его, елси все хорошо то прикрепить обратно и ссинхронизировать их.

что показывает gmirror status ???

Сервер физически находится далеко так что доступа я к нему не смогу получить. Винты сами не трогали. Суть в том что после вырубления электричества софтовый рейд почему то не смог поднять зеркало

7 Ответ от 2poison (02-04-2009 10:43:02 отредактировано 2poison)

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

SatanaClause пишет:

Внимательно читаем https://www.freebsd.org/doc/ru/books/han … irror.html

По сути надо сделать как сказал crash. Надо отсоединить диск и проверить его, елси все хорошо то прикрепить обратно и ссинхронизировать их.

что показывает gmirror status ???

#fsck -y /dev/ad0
fsck: Could not determine filesystem type
#swapinfo
Device          1K-blocks     Used    Avail Capacity
/dev/mirror/gm0s1b   3145728        4  3145724     0%

$gmirror insert gm0 /dev/ad0
Not all disks connected.

$gstat
dT: 0.501  flag_I 500000us  sizeof 240  i -1
L(q)  ops/s    r/s   kBps   ms/r    w/s   kBps   ms/w   %busy Name
    0      0      0      0    0.0      0      0    0.0    0.0| ad0
    0      0      0      0    0.0      0      0    0.0    0.0| ad1
    0      0      0      0    0.0      0      0    0.0    0.0| acd0
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1a
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1b
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1c
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1d
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1e
    0      0      0      0    0.0      0      0    0.0    0.0| ad1s1f
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1a
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1b
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1c
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1d
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1e
    0      0      0      0    0.0      0      0    0.0    0.0| mirror/gm0s1f



l$fsck
** /dev/mirror/gm0s1a (NO WRITE)
** Last Mounted on /
** Root file system
** Phase 1 - Check Blocks and Sizes
** Phase 2 - Check Pathnames
** Phase 3 - Check Connectivity
** Phase 4 - Check Reference Counts
** Phase 5 - Check Cyl groups
2056 files, 102849 used, 403638 free (414 frags, 50403 blocks, 0.1% fragmentation)
** /dev/mirror/gm0s1d (NO WRITE)
** Last Mounted on /tmp
** Phase 1 - Check Blocks and Sizes
** Phase 2 - Check Pathnames
** Phase 3 - Check Connectivity
** Phase 4 - Check Reference Counts
** Phase 5 - Check Cyl groups
SUMMARY BLK COUNT(S) WRONG IN SUPERBLK
SALVAGE? no

1871 files, 249361 used, 1273142 free (366 frags, 159097 blocks, 0.0% fragmentation)
** /dev/mirror/gm0s1f (NO WRITE)
** Last Mounted on /usr
** Phase 1 - Check Blocks and Sizes
** Phase 2 - Check Pathnames
** Phase 3 - Check Connectivity
** Phase 4 - Check Reference Counts
** Phase 5 - Check Cyl groups
243924 files, 1944673 used, 4170710 free (31862 frags, 517356 blocks, 0.5% fragmentation)
** /dev/mirror/gm0s1e (NO WRITE)
** Last Mounted on /var
** Phase 1 - Check Blocks and Sizes
INCORRECT BLOCK COUNT I=7749022 (20928 should be 20896)
CORRECT? no

** Phase 2 - Check Pathnames
** Phase 3 - Check Connectivity
** Phase 4 - Check Reference Counts
UNREF FILE I=6900767  OWNER=root MODE=140666
SIZE=0 MTIME=Mar 29 12:25 2009
CLEAR? no

** Phase 5 - Check Cyl groups
FREE BLK COUNT(S) WRONG IN SUPERBLK
SALVAGE? no

SUMMARY INFORMATION BAD
SALVAGE? no

BLK(S) MISSING IN BIT MAPS
SALVAGE? no

$fsck_ffs -b 0 /dev/ad0
Alternate super block location: 0
** /dev/ad0
Cannot find file system superblock
ioctl (GCINFO): Inappropriate ioctl for device
fsck_ffs: /dev/ad0: can't read disk label
root@ns2:/home/unreal$fsck_ffs -b 0 /dev/ad1
Alternate super block location: 0
** /dev/ad1
Cannot find file system superblock
ioctl (GCINFO): Inappropriate ioctl for device
fsck_ffs: /dev/ad1: can't read disk label

8 Ответ от Alexander

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

Зачем Вы трогаете /dev/ad0  ?
Он у Вас в ACTIVE и находится в массиве. Его вообще нельзя трогать.
Скорее всего нужно работать с /dev/ad1

crash ведь в самом верху показал комманды,
#gmirror forget gm0
#gmirror insert gm0 ad1
#gmirror rebuild gm0 ad1
#gmirror status

Вы их пробовали выполнить?

еще флаги -

-v  Be more verbose.

и Вы пробовали читать man gmirror ?

9 Ответ от SatanaClause

  • Откуда: Вильнюс (Литва)
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,103
  • User Karma: 11

Re: GMirror rebuild

Ага, на этот диск даже не дышите...

1. Name: ad0
   Mediasize: 160041885696 (149G)
   Sectorsize: 512
   Mode: r1w1e1
   State: ACTIVE
   Priority: 0
   Flags: DIRTY
   GenID: 1
   SyncID: 1
   ID: 1643697433


Если я не ошибаюсь то так

gmirror remove gm0 /dev/ad1

монтируем его, проверяем, форматируем...... и цепляем обратно. Alexander, правильно? Я давно уже ничего с ними не делал так подзабыл немного, но я бы делал так.

Я бы перед введением его в работу - потестировал.... если он дубу дает то нет смысла его в массив ставить.

10 Ответ от Alexander

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

Да, я бы тоже сначала отключил бы его, потом отформатировал, проверил и только потом подключал к массиву.

Удачи.

11 Ответ от 2poison (02-04-2009 13:14:34 отредактировано 2poison)

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

Да пробовал читать ман...если бы было бы все понятно я бы не обращался к вам.

Я сделал вышеуказанное ..статус стал complete но..прошло около часа и снова ad1 нет и статус стал прежним
d$gmirror status
      Name    Status  Components
mirror/gm0  COMPLETE  ad0
                      ad1
пару часов спустя
$gmirror status
      Name    Status  Components
mirror/gm0  DEGRADED  ad0

в чем может быть проблема?Сейчас попробовал снова сделать
#gmirror forget gm0
#gmirror insert gm0 ad1
#gmirror rebuild gm0 ad1
#gmirror status

пока что $gmirror status
      Name    Status  Components
mirror/gm0  DEGRADED  ad0
                      ad1 (5%)

12 Ответ от Alexander

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

Значит нужно удалять /dev/ad1 из сервера, тестировать , форматировать и вставлять снова. Ехать туда прийдется видимо.

#dmesg | grep gmirror

Попробуйте еще
#cat /var/log/messages | grep gmirror
или
#cat /var/log/messages | grep gm0

13 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

$cat /var/log/messages/messages |grep gm0
Apr  2 10:55:12 ns2 kernel: GEOM_MIRROR: Component ad1 (device gm0) broken, skipping.
Apr  2 10:55:12 ns2 kernel: GEOM_MIRROR: Cannot add disk ad1 to gm0 (error=22).
Apr  2 10:55:24 ns2 kernel: GEOM_MIRROR: Component ad1 (device gm0) broken, skipping.
Apr  2 10:55:24 ns2 kernel: GEOM_MIRROR: Cannot add disk ad1 to gm0 (error=22).
Apr  2 10:55:58 ns2 kernel: GEOM_MIRROR: Component ad1 (device gm0) broken, skipping.
Apr  2 10:55:58 ns2 kernel: GEOM_MIRROR: Cannot add disk ad1 to gm0 (error=22).
Apr  2 12:45:49 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 detected.
Apr  2 12:45:49 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1.
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0 created (id=3702576076).
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad0 detected.
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 detected.
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad0 activated.
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0: provider mirror/gm0 launched.
Apr  2 13:08:37 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1.
Apr  2 13:08:37 ns2 kernel: Trying to mount root from ufs:/dev/mirror/gm0s1a
Apr  2 13:10:35 ns2 fsck: /dev/mirror/gm0s1d: Reclaimed: 0 directories, -1 files, 0 fragments
Apr  2 13:10:35 ns2 fsck: /dev/mirror/gm0s1d: 1874 files, 249361 used, 1273142 free (366 frags, 159097 bloc            ks, 0.0% fragmentation)
Apr  2 13:22:38 ns2 fsck: /dev/mirror/gm0s1f: 243925 files, 1944673 used, 4170710 free (31862 frags, 517356             blocks, 0.5% fragmentation)
Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: INCORRECT BLOCK COUNT I=7749066 (3456 should be 3424) (CORREC            TED)
Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: UNREF FILE I=6900767  OWNER=root MODE=140666
Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: SIZE=0 MTIME=Mar 29 12:25 2009  (CLEARED)
Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: Reclaimed: 0 directories, 2 files, 24 fragments
Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: 85150 files, 35764517 used, 30246853 free (15973 frags, 37788            60 blocks, 0.0% fragmentation)
Apr  2 14:14:32 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1 finished.
Apr  2 14:14:32 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 activated.
Apr  2 14:48:39 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 disconnected.
Apr  2 15:10:27 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 detected.
Apr  2 15:10:27 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1.
Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 disconnected.
Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1 stopped.
Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 detected.
Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1.
пробую вот снова
$gmirror status
      Name    Status  Components
mirror/gm0  DEGRADED  ad0
                      ad1 (49%)

14 Ответ от Alexander (02-04-2009 14:13:52 отредактировано Alexander)

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

Apr  2 13:42:58 ns2 fsck: /dev/mirror/gm0s1e: INCORRECT BLOCK COUNT I=7749066 (3456 should be 3424) (CORRECTED)

Строка говорит, что 2-го Апреля, откорректировался блок(скорее всего после перезагрузки системы) на /var разделе

На диске /dev/ad1 так же видимо, в ФС видимо есть некорректные записи.
Можно попробовать перезагрузиться в Single User Mode,
потом отмонтировать все разделы, и с помощью fsck проверить все диски
/rescue/fsck -y /dev/ad1s1a
/rescue/fsck -y /dev/ad1s1d
/rescue/fsck -y /dev/ad1s1f
/rescue/fsck -y /dev/ad1s1e

и на диске /dev/ad0s1

/rescue/fsck -y /dev/ad0s1a
/rescue/fsck -y /dev/ad0s1d
/rescue/fsck -y /dev/ad0s1f
/rescue/fsck -y /dev/ad0s1e

после чего, снова загружаться , и пробовать повторить попытку пересоздания массива (то же , что Вы делаете сейчас)
Возможно и не нужно будет снова это делать(rebuild), так как gmirror сам попытается подключить винт. Но если и в этот раз ничего не пойдет, значит нужно вытаскивать винт, лечить его.

15 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

а вариант с заменой винта на идентичный не подойдет?

16 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 detected.
Apr  2 15:10:38 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1.
Apr  2 16:17:16 ns2 kernel: GEOM_MIRROR: Device gm0: rebuilding provider ad1 finished.
Apr  2 16:17:16 ns2 kernel: GEOM_MIRROR: Device gm0: provider ad1 activated.

$gmirror status
      Name    Status  Components
mirror/gm0  COMPLETE  ad0
                                      ad1
пока что все хорошо....но я проверю еще через час. Прошлый раз могло повлиять на то что появился статус DEGRADED  еще то что когда был ребилд была перезагрузка сервере (до сех пор не могу понять чем она вызвана)

17 Ответ от 2poison

  • 2poison
  • Зашел на огонек
  • Неактивен
  • Зарегистрирован: 01-04-2009
  • Сообщений: 10

Re: GMirror rebuild

Большое спасибо всем, в особенности Alexander. С утра проверил пока что
  $gmirror status -s
mirror/gm0  COMPLETE  ad0
mirror/gm0  COMPLETE  ad1

18 Ответ от Alexander

  • Откуда: Germany
  • Зарегистрирован: 19-05-2005
  • Сообщений: 1,147
  • User Karma: 8

Re: GMirror rebuild

Отлично. Поздравляю.

Тему на этом я закрыл.
Если будут вопросы, начинайте следующую.