1 open besluit1414 voorstellen

Onderwerp

Uitval, back-up en herstel van virtuele machines

Hoe de werkervirtualisatie zich gedraagt bij uitval van een server, een rek of een afhankelijke voorziening, hoe een uitgevallen server wordt uitgesloten, en hoe de werkervirtualisatie en virtuele servers worden hersteld.

Nog niet bevestigd door een mens. Eigenaar: vdo89. Bron in de atlas

Domein
Volgt uit
Functies
Producten
Verwant

Wat het is

De werkervirtualisatie verdeelt haar werkerknooppunten over vier rekken en de werkers van ieder cluster gelijkmatig daarover, zodat uitval van een server of een rek alle clusters laat doorwerken. Een uitgevallen server wordt eerst aantoonbaar uitgesloten; pas daarna starten haar machines elders. De werkervirtualisatie zelf is uit code en back-up te herbouwen; werkers ontstaan opnieuw uit hun NodePool, virtuele servers komen terug uit hun momentopnamen.

Waarom zo

Twee draaiende exemplaren van één machine beschadigen haar schijf. Daarom kiest dit voorstel voor uitsluiting door de dienstdoende beheerder boven een automatische herstart, met een norm van 30 minuten. Een back-up van werkers is niet nodig, want zij worden vervangen; de back-up richt zich op de inrichting van de werkervirtualisatie, de volumes van de clusters en de schijven van virtuele servers, met een kopie buiten de cel.

Uitspraken

0 vastgesteld10 voorstellen

Alle 10 voorstellen vaststellen

Foutdomeinen en spreiding

VoorstelOntwerpbesluit#

De vier werkerknooppunten staan elk in een ander rek en de drie besturingsknooppunten in drie rekken; het rek staat als zonekenmerk (topology.kubernetes.io/zone) uit de datacenterregistratie op de knooppunten. De werkers van één applicatiecluster staan gelijkmatig over de werkerknooppunten verdeeld, zodat na uitval van één werkerknooppunt of rek alle machines op de overige passen en een cluster met drie werkers er ten minste twee houdt.

Toelichting

Een rek kost zo één werkerknooppunt. Gelijkmatige spreiding van een NodePool is een acceptatiecriterium; terugvaloptie is herverdeling door live-migratie, bewaakt met de meetwaarde voor spreiding. Een spreidingsrapport en de uitvalproef tonen het aan.

VoorstelWaarde#

Het rek is het foutdomein van de werkervirtualisatie. Het gedrag bij uitval en het herstel staan in de tabel.

OnderdeelExemplaren en plaatsingGedrag bij uitvalHerstel
Werkerknooppunt4, één per rek; één als reserveGepland: de machines verhuizen live. Ongepland: de machines erop liggen stil, en de applicatieclusters vangen het verlies van werkers opUitsluiting via iLO en herstart elders; norm 30 minuten na de melding
Besturing van de werkervirtualisatie3 besturingsknooppunten in 3 rekkenUitval van één: het quorum blijft. Zonder quorum draaien de machines door, maar niets start, verhuist of stoptKnooppunt vervangen; bij verlies van de configuratiedatabase herstel uit de momentopname, ten hoogste 6 uur oud
RekEén werkerknooppunt, ten hoogste één besturingsknooppunt, twee opslagknooppunten en een leaf-paarAls uitval van een werker- en een besturingsknooppunt; de opslag blijft beschikbaarAls bij een werkerknooppunt
Kaart, poort of leafEén kaart, twee poorten in één bundel naar het leaf-paarPoort, kabel of leaf: de bundel vangt het op; een kaartstoring is uitval van de serverAls bij een werkerknooppunt
Migratienetwerk (VLAN 630)Laag 2 zonder gatewayMigraties mislukken; de machines blijven op hun bronserver; onderhoud wachtNetwerkbeheer herstelt het segment; de migratieproef wordt herhaald
OpslagclusterEén per celKnooppunt of rek: geen gevolg. Onbereikbaar: alle machines van de werkervirtualisatie en dus alle applicatieclusters van de cel staan stilVolgens het herstel van het opslagcluster; machines met runStrategy Always starten daarna vanzelf
Clusterbeheer, vlootbeheer of basisdienstenClusterbeheer en basisdienstencluster per cel; vlootcluster buiten de celDe werkers draaien door, maar het clusterbeheer maakt geen nieuwe; de werkervirtualisatie houdt de laatst uitgerolde inrichting; zonder containerregistry geen nieuwe beelden, zonder toegangsvoorziening alleen de noodrouteNa herstel van de betrokken voorziening
Beheercel of datacenterEén werkervirtualisatie per celAlle machines van de cel liggen stilDiensten in bedrijfskritische productie gaan over naar de andere cel; herbouw uit code; zonder gezonde cel vanuit de herstelkern
VoorstelRegel#

De werkervirtualisatie hangt bij start en herstel af van de fabric, de naam- en tijdvoorziening, het opslagcluster en het basisdienstencluster (containerregistry, geheimenbeheer en toegangsvoorziening), niet van het vlootbeheer of het clusterbeheer. Binnen de werkervirtualisatie is de volgorde: de besturing, de werkerknooppunten één voor één, het netwerkbeleid ‘Available’, een gezonde opslagkoppeling en dan de machines.

Uitval van een server

VoorstelOntwerpbesluit#

Na uitval van een server start een machine pas elders nadat die server aantoonbaar is uitgesloten; er is geen automatische herstart. De dienstdoende platformbeheerder sluit de server via iLO uit en start de machines elders, met als norm 30 minuten na de melding. Zo draaien er nooit twee exemplaren van één machine.

Toelichting

Alternatief: automatische herstart na een wachttijd. Een onbereikbare server kan dan nog schrijven, en twee exemplaren van één machine beschadigen de schijf. Automatische uitsluiting via iLO kan alsnog, na een ontwerpbesluit en beproeving. De uitvalproef meet de norm.

VoorstelWerking#

Een defecte server volgt een herstartpad, een ander scenario dan live-migratie: de machines liggen stil tot zij na uitsluiting van de server elders zijn gestart. De applicatieclusters vangen het verlies van hun werkers op.

StapWieHandeling
1BewakingMeldt een werkerknooppunt dat langer dan 5 minuten niet gereed is aan de dienstdoende platformbeheerder
2PlatformbeheerderStelt de uitgevallen of geïsoleerde server vast en schakelt haar via iLO uit
3PlatformbeheerderMarkeert het knooppunt als ‘out-of-service’, zodat de oude exemplaren zijn uitgesloten
4VirtualisatieHerstart de machines op overblijvende servers, waar de reserve en de gedeelde opslag dat toelaten
5PlatformbeheerderControleert dat iedere machine op precies één server draait

Back-up en herstel

VoorstelOntwerpbesluit#

Van de werkervirtualisatie zelf worden de clusterobjecten dagelijks en bij iedere wijziging geëxporteerd en wordt de configuratiedatabase iedere 6 uur in een momentopname vastgelegd, beide versleuteld en met een kopie buiten de cel. Rootvolumes van werkers krijgen geen back-up: werkers ontstaan opnieuw uit hun NodePool. Volumes van applicatieclusters krijgen hun back-up binnen het cluster, met OADP. Van virtuele servers zet OADP met de plug-in kubevirt dagelijks een momentopname van de schijven in de objectopslag van de cel, waar de back-upvoorziening van RWS ze ophaalt met een identiteit die alleen mag lezen.

Toelichting

Alternatief: Cohesity rechtstreeks aan de virtualisatie koppelen. Dat vraagt een extra stroom vanuit vrf-extern en een identiteit met rechten op de werkervirtualisatie, terwijl de objectopslag al het ophaalpunt is. Gevolg: er is geen stroom van Cohesity naar de werkervirtualisatie.

VoorstelRegel#

De werkervirtualisatie is uit code opnieuw op te bouwen uit de opslagplaats Platform, met de configuratiedatabase en de clusterobjecten uit de back-up en de inhoud van de virtuele schijven uit hun back-up; de werkers ontstaan opnieuw uit de NodePools. Zij heeft een back-up met een onveranderbare kopie buiten de cel en staat met haar herstelvolgorde in het continuïteitsplan.

Toelichting

Een opbouwproef ieder half jaar toont het aan.

VoorstelRegel#

Bij herstel zonder gezonde cel worden de koude reserveserver en enkele werkerknooppunten van de werkervirtualisatie losgekoppeld van de vloot en vanuit de herstelkern opnieuw geïnstalleerd.

Toelichting

Dat hoort bij de toets Herstel na een aanval in groeipadstap 2; de werkervirtualisatie van cel 2 levert daarvoor haar werkerknooppunten.

VoorstelWerking#

Een virtuele server wordt hersteld uit een kopie in de objectopslag van de cel of uit Cohesity: eerst gecontroleerd in de herstelomgeving, daarna teruggezet met OADP.

Toelichting

Vanaf groeipadstap 3 wordt dat ieder kwartaal beproefd.

VoorstelMaatregel#

Bij een incident stopt platformbeheer samen met het SOC de getroffen machine of haalt haar van haar netwerk, maakt een momentopname voor onderzoek en haalt een aangetast knooppunt uit de vloot om het opnieuw te installeren.

Toelichting

Een aanvalssimulatie ieder jaar beproeft het.

Verwijzen hiernaar

Onderwerpen 3