TUTO : Remplacer un disque défectueux sur SERVERware
Si un des disques de votre SERVERware tombe en panne, zpool sera dans l’état : DEGRADED, sur le serveur primaire.
zpool status # zpool status pool: NETSTOR state: DEGRADED status: One or more devices are faulted in response to persistent errors. Sufficient replicas exist for the pool to continue functioning in a degraded state. action: Replace the faulted device, or use 'zpool clear' to mark the device repaired. scan: scrub repaired 0 in 0h0m with 0 errors on Tue Dec 6 15:10:59 2016 config: NAME STATE READ WRITE CKSUM NETSTOR DEGRADED 0 0 0 mirror-0 DEGRADED 0 0 0 SW3-NETSTOR-SRV1-1 ONLINE 0 0 0 SW3-NETSTOR-SRV2-1 FAULTED 3 0 0 too many errors errors: No known data errors Tout d’abord, vous devez vos assurer que le disque endommagé se trouve sur un serveur secondaire et non primaire.
dans ce cas, vous pouvez le découvrir à partir de la ligne ci-dessus :
SW3-NETSTOR-SRV2-1 FAULTED
SRV2 cela signifie que le serveur n°2 a un disque endommagé.
Si c’est le cas, vous pouvez passer à l’étape suivante.
Si le disque endommagé se trouve sur le serveur primaire SRV1, vous devez d’abord effectuer une prise de contrôle manuelle et le basculer sur le serveur secondaire.
Pour le faire manuellement, connectez-vous au serveur secondaire et exécutez la commande suivante :
killall -SIGUSR1 sysmonit Ensuite, vous devrez remplacer physiquement le disque endommagé dans le serveur.
Dans le retour de la commande zpool status, vous pouvez voir que SW3-NETSTOR-SRV2-1 est corrompu, par exemple :
SW3-NETSTOR-SRV2-1 FAULTED 3 0 0 too many errors Si c’est le cas, vous devez remplacer le disque étiqueté SW3-NETSTOR-SRV2-1 par un nouveau et l’ajouter au miroir zpool.
Tout d’abord, retirez physiquement le disque défectueux du serveur et remplacez-le par un nouveau disque.
Après le remplacement, vous devriez voir un nouveau disque dans le répertoire /dev/disk/by-id/ (exemple sur la ligne 15) :
# ls -lah /dev/disk/by-id total 0 drwxr-xr-x 2 root root 480 Srp 27 08:57 . drwxr-xr-x 7 root root 140 Srp 27 08:13 .. lrwxrwxrwx 1 root root 9 Srp 27 08:13 ata-INTEL_SSDSC2CW060A3_CVCV308402M3060AGN -> ../../sde lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-INTEL_SSDSC2CW060A3_CVCV308402M3060AGN-part1 -> ../../sde1 lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-INTEL_SSDSC2CW060A3_CVCV308402M3060AGN-part2 -> ../../sde2 lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-INTEL_SSDSC2CW060A3_CVCV308402M3060AGN-part9 -> ../../sde9 lrwxrwxrwx 1 root root 9 Srp 27 08:13 ata-ST31000520AS_5VX0BZN0 -> ../../sda lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-ST31000520AS_5VX0BZN0-part1 -> ../../sda1 lrwxrwxrwx 1 root root 9 Srp 27 08:13 ata-WDC_WD10JFCX-68N6GN0_WD-WX61A465TH1Y -> ../../sdc lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-WDC_WD10JFCX-68N6GN0_WD-WX61A465TH1Y-part1 -> ../../sdc1 lrwxrwxrwx 1 root root 9 Srp 27 08:13 ata-WDC_WD10JFCX-68N6GN0_WD-WX81EC512Y4H -> ../../sdd lrwxrwxrwx 1 root root 10 Srp 27 08:13 ata-WDC_WD10JFCX-68N6GN0_WD-WX81EC512Y4H-part1 -> ../../sdd1 lrwxrwxrwx 1 root root 9 Srp 27 08:57 ata-WDC_WD10JFCX-68N6GN0_WD-WXK1E6458WKX -> ../../sdb lrwxrwxrwx 1 root root 9 Srp 27 08:13 wwn-0x10076999618641940481x -> ../../sdd lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x10076999618641940481x-part1 -> ../../sdd1 lrwxrwxrwx 1 root root 9 Srp 27 08:13 wwn-0x11689569317835657217x -> ../../sdc lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x11689569317835657217x-part1 -> ../../sdc1 lrwxrwxrwx 1 root root 9 Srp 27 08:57 wwn-0x11769037186453098497x -> ../../sdb lrwxrwxrwx 1 root root 9 Srp 27 08:13 wwn-0x12757853320186451405x -> ../../sde lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x12757853320186451405x-part1 -> ../../sde1 lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x12757853320186451405x-part2 -> ../../sde2 lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x12757853320186451405x-part9 -> ../../sde9 lrwxrwxrwx 1 root root 9 Srp 27 08:13 wwn-0x7847552951345238016x -> ../../sda lrwxrwxrwx 1 root root 10 Srp 27 08:13 wwn-0x7847552951345238016x-part1 -> ../../sda1 Maintenant que vous disposez d’un nom de périphérique en bloc, vous pouvez créer une table, une partition et préparer le lecteur pour son utilisation.
Pour créer une table de partition, utilisez parted :
parted /dev/ --script -- mktable gpt Créez un nouveau libellé :
IMPORTANT : le libellé doit être nommé dans le format suivant : SW3-NETSTOR-SRVx-y.
Où “SRVx” correspond au numéro du serveur et “-y” au numéro du disque.
Ainsi, dans notre exemple (SW3-NETSTOR-SRV2-1) :
- SW3-NETSTOR-SRV2 – c’est le disque virtuel sur le SERVEUR 2
- 1 – est le numéro du disque (disque 1)
Ajoutez maintenant un libellé au nouveau disque.
Créez la partition avec le nom correspondant à notre partition défectueuse sur le serveur. Ce nom nous vient de ce qui précède :
SW3-NETSTOR-SRV2-1 FAULTED 3 0 0 too many errors
La commande dans ce cas sera :
parted /dev/ --script -- mktable ~# parted /dev/ --script -- mkpart "SW3-NETSTOR-SRV2-1" 1 -1 Vous avez maintenant ajouté une nouvelle partition et créé un libellé.
Pour remplacer le disque, vous pouvez utiliser les commandes sw-nvme qui sont énumérées ci-dessous :
| Commande | Description |
|---|---|
| sw-nvme list | Liste tous les dispositifs connectés avec /dev/nvme-fabrics |
| sw-nvme discover | Découvre tous les dispositifs exportés sur l’hôte distant avec l’IP et le port donnés |
| sw-nvme connect | Importe le dispositif distant à partir de l’IP, du port et du nqn donnés |
| sw-nvme disconnect | Supprime le dispositif importé de l’hôte |
| sw-nvme disconnect-all | Supprime tous les dispositifs importés de l’hôte |
| sw-nvme import | Pour le fichier donné au format JSON approprié, importe des dispositifs distants |
| sw-nvme reload-import | Pour le fichier donné au format JSON approprié, importe des dispositifs distants après avoir déconnecté toutes les importations actuelles |
| sw-nvme enable-modules | Cette commande active les modules noyau nécessaires pour NVMe/TCP |
| sw-nvme enable-namespace | Active l’espace de noms avec l’identifiant donné |
| sw-nvme disable-namespace | Désactive l’espace de noms avec l’identifiant donné |
| sw-nvme load | Pour le fichier donné au format JSON approprié, exporte des dispositifs distants |
| sw-nvme store | Si les dispositifs sont exportés manuellement, store sauvegarde la configuration système au format JSON approprié |
| sw-nvme clear | Cette commande supprime le dispositif exporté de la configuration système. Si spécifiée avec ‘all’, elle supprimera toutes les configurations |
| sw-nvme export | Pour le paramètre d’URL donné, exporte le dispositif sur le port avec le nqn |
| sw-nvme export-stop | Supprime le dispositif en cours d’exportation sur le port avec l’identifiant |
| sw-nvme reload-configuration | Pour le fichier donné au format JSON approprié, exporte des dispositifs distants après avoir supprimé toutes les exportations actuelles |
| sw-nvme replace-disk | Cette commande combine ‘clear all’ et reload-configuration pour faciliter la procédure de remplacement de disque sur SERVERware |
| sw-nvme expand-pool | Cette commande met à jour la configuration d’exportation et ajoute un nouvel espace de noms dans le sous-système sw-mirror pour SERVERware |
À présent, vous devrez effectuer le remplacement du disque ancien par le nouveau en utilisant la commande suivante :
sw-nvme replace-disk --old /dev/disk/by-id/old_disk_id --new /dev/disk/by-id/new_disk_id Pour trouver l’identifiant du disque ancien dans, utilisez la commande sw-nvme show.
Exemple (ligne 16) :
~#sw-nvme show { "config": "/sys/kernel/config/nvmet", "hosts": [ "3cc5c2aa47825e608570a938971bcd7c" ], "subsystems": { "sw-mirror": { "acl": [ "3cc5c2aa47825e608570a938971bcd7c" ], "namespaces": [ { "id": 1, "device": "/dev/disk/by-id/ata-KINGSTON_SA400S37120G_50026B73804B902A", "enabled": true } ], "allow_any_host": false } }, "ports": { "1": { "address": "1.1.1.31", "port": 4420, "address_family": "ipv4", "trtype": "tcp", "subsystems": "sw-mirror" } } } Maintenant que vous avez l’identifiant de l’ancien disque et du nouveau disque, votre commande pour le remplacement du disque sera :
~#sw-nvme replace-disk --old /dev/disk/by-id/ata-KINGSTON_SA400S37120G_50026B73804B902A --new /dev/disk/by-id/ata-WDC_WD10JFCX-68N6GN0_WD-WXK1E6458WKX Ceci marque la fin de la procédure sur le serveur secondaire.
Ensuite, sur le serveur principal, ajoutez un disque virtuel nouvellement créé au pool ZFS.
Ensuite, exécutez :
partprobe Vous pouvez voir l’état zpool :
~# zpool status pool: NETSTOR state: DEGRADED status: One or more devices are faulted in response to persistent errors. Sufficient replicas exist for the pool to continue functioning in a degraded state. action: Replace the faulted device, or use 'zpool clear' to mark the device repaired. scan: scrub repaired 0 in 0h0m with 0 errors on Tue Dec 6 15:10:59 2016 config: NAME STATE READ WRITE CKSUM NETSTOR DEGRADED 0 0 0 mirror-0 DEGRADED 0 0 0 SW3-NETSTOR-SRV1-1 ONLINE 0 0 0 SW3-NETSTOR-SRV2-1 FAULTED 3 0 0 too many errors errors: No known data errors Le résultat est le suivant :
SW3-NETSTOR-SRV2-1 présente un état FAULTED, indiquant un problème avec le disque secondaire.
Vous devez à présent procéder au remplacement du GUID de l’ancien disque par celui du nouveau, afin que zpool puisse identifier ce dernier.
Pour effectuer cette modification dans le zpool, vous devez d’abord identifier le nouveau GUID. Vous pouvez utiliser la commande zdb à cette fin (lignes 35 & 36) :
~# zdb NETSTOR: version: 5000 name: 'NETSTOR' state: 0 txg: 15 pool_guid: 14112818788567273316 errata: 0 hostname: 'HydraA-1' vdev_children: 1 vdev_tree: type: 'root' id: 0 guid: 14112818788567273316 children[0]: type: 'mirror' id: 0 guid: 17350955661294397060 metaslab_array: 34 metaslab_shift: 33 ashift: 12 asize: 1000164294656 is_log: 0 create_txg: 4 children[0]: type: 'disk' id: 0 guid: 11541101181530606692 path: '/dev/disk/by-partlabel/SW3-NETSTOR-SRV1-1' whole_disk: 1 create_txg: 4 children[1]: type: 'disk' id: 1 guid: 12365645279327980714 path: '/dev/disk/by-partlabel/SW3-NETSTOR-SRV2-1' whole_disk: 1 create_txg: 4 features_for_read: com.delphix:hole_birth com.delphix:embedded_data Notez la ligne importante pour la sortie de zdb :
guid: 12365645279327980714 path: '/dev/disk/by-partlabel/SW3-NETSTOR-SRV2-1' La partie guid doit être mise à jour dans le zpool.
Vous pouvez mettre à jour le guid avec la commande :
zpool replace NETSTOR -f Par exemple :
zpool replace NETSTOR 12365645279327980714 /dev/disk/by-partlabel/SW3-NETSTOR-SRV2-1 -f Vérifiez maintenant l’état zpool :
~# zpool status pool: NETSTOR state: DEGRADED status: One or more devices is currently being resilvered. The pool will continue to function, possibly in a degraded state. action: Wait for the resilver to complete. scan: resilver in progress since Tue Dec 6 16:12:53 2016 591M scanned out of 728M at 65,6M/s, 0h0m to go 590M resilvered, 81,14% done config: NAME STATE READ WRITE CKSUM NETSTOR DEGRADED 0 0 0 mirror-0 DEGRADED 0 0 0 SW3-NETSTOR-SRV1-1 ONLINE 0 0 0 replacing-1 UNAVAIL 0 0 0 old UNAVAIL 0 0 0 corrupted data SW3-NETSTOR-SRV2-1 ONLINE 0 0 0 (resilvering) errors: No known data errors Vous devez désormais attendre que le zpool ait terminé sa réversibilité et votre remplacement de disque sera opérationnel.
