1 open besluit1414 voorstellen

Onderwerp

Netwerk en scheiding van afnemers

Hoe de werkervirtualisatie en haar machines op het datacenternetwerk aansluiten: eigen VLAN’s per verkeerssoort, een segment per applicatiecluster, de opslagaansluiting, adresuitgifte, scheiding op het segment voor virtuele machines en versleuteling.

Nog niet bevestigd door een mens. Eigenaar: vdo89. Bron in de atlas

Domein
Volgt uit
Functies
Producten
Verwant

Wat het is

De knooppunten van de werkervirtualisatie hangen met één bundel aan het leaf-paar van hun rek, met aparte VLAN’s voor beheer, opslag, live-migratie en machineverkeer. De machines staan niet op het clusternetwerk van de werkervirtualisatie, maar via localnet-netwerken rechtstreeks in de segmenten van de fabric: ieder applicatiecluster een eigen segment, virtuele servers een segment per profiel. Alleen werkers van clusters met volumes krijgen een tweede aansluiting, op het opslagclientnetwerk.

Waarom zo

Een eigen segment per cluster geeft scheiding in laag 2 van de fabric, zonder extra overlay. Omdat het netwerkbeleid van een cluster de secundaire aansluitingen niet dekt, begrenzen toegangslijsten op de leaf de opslagaansluiting en scheidt weigerend beleid de afnemers op een gedeeld segment. Geen netwerkverkeer is vanzelf vertrouwd: migratie- en opslagverkeer zijn altijd versleuteld, per verkeerssoort in plaats van met IPsec.

Uitspraken

0 vastgesteld12 voorstellen

Alle 12 voorstellen vaststellen

Aansluiting en segmenten

VoorstelRegel#

Beheer, opslag, live-migratie en machineverkeer hebben ieder een eigen VLAN, en verkeer tussen zones volgt de vaste stromen van de zonematrix. De knooppunten staan in de zone platform (vrf-platform, VLAN 610 ongetagd op br-ex) en iLO heeft een eigen poort in VLAN 600; de machines hangen via localnet-netwerken in de segmenten van hun zone. VLAN 620 voor opslag en VLAN 630 voor live-migratie hebben geen gateway.

Toelichting

Een VLAN zonder gateway scheidt op zichzelf niet; daarom begrenzen toegangslijsten op de leaf het verkeer op VLAN 620. De netwerktests bij de oplevering tonen de aansluiting aan.

VoorstelOntwerpbesluit#

Ieder gehost cluster heeft een eigen localnet-segment in de fabric, dat met het cluster ontstaat en verdwijnt: voor een applicatiecluster een /26 uit de reeks van zijn profiel (VLAN 1000–1999) met een anycast-gateway, voor de gehoste platformclusters (bouw, portaal en besturing van het dienstennetwerk) een VLAN uit 700–709 met L2-VNI 10700–10709 en een /26 uit de platformreeks in vrf-platform. Het leverpad legt het segment aan op de trunks van alle werkerknooppunten. Clusters en herstelservers in de herstelzone hangen aan VLAN 690 in vrf-herstel, dat daarom ook op die trunks staat.

Toelichting

Zo is de scheiding laag 2 in de fabric, zonder overlay op de overlay. Een gedeeld werkernetwerk of een OVN-overlay per cluster valt daarom af. Het segment is na het aanmaken onveranderbaar.

VoorstelRegel#

Een virtuele werker heeft alleen het segment van zijn cluster, dat bij het routeringsdomein van het profiel hoort, en bij een cluster met volumes VLAN 620 met een vast adres uit de reeks van zijn cluster; nooit het clusternetwerk van de werkervirtualisatie.

Toelichting

Negatieve proeven bij de acceptatie tonen aan dat een werker geen ander segment, geen andere werker op VLAN 620 en de API van de werkervirtualisatie niet bereikt, en dat VLAN 620, 621 en 630 vanuit VLAN 650 en 1000–1999 onbereikbaar zijn.

VoorstelOntwerpbesluit#

Alleen werkers van clusters met volumes krijgen een aansluiting op het opslagclientnetwerk (VLAN 620, MTU 9000), alleen beschikbaar in hun naamruimte clusters-<naam>. Zo wordt hun opslagverkeer niet gerouteerd en is er geen route naar de opslag. De aansluiting valt buiten het netwerkbeleid van het cluster; toegangslijsten op de leaf laten alleen verkeer naar opslagknooppunten en objectgateways toe, niet tussen werkers.

VoorstelRegel#

Een naamruimte krijgt een secundair netwerk alleen als de dienstbeschrijving het vermeldt, en alleen platformbeheer definieert clusterbrede netwerken: het werkernetwerk van een applicatiecluster is clusterbreed gedefinieerd, maar alleen beschikbaar in clusters-<naam>. Op een segment voor virtuele machines is verkeer tussen afnemers geweigerd.

Toelichting

Beleid van het vlootbeheer dwingt dit af; een negatieve proef vóór de vrijgave van virtuele servers als dienst toont het aan.

Segmenten voor virtuele servers

VoorstelRegel#

VLAN 650 ligt in vrf-afn-p1: in de eerste levering met alleen proefmachines van het platform, vanaf groeipadstap 3 met virtuele servers in het profiel ontwikkelen en beproeven. Virtuele servers in reguliere en bedrijfskritische productie krijgen VLAN 651 in vrf-afn-p2 en VLAN 652 in vrf-afn-p3 (L2-VNI 10651 en 10652), elk een /23 per cel.

VoorstelOntwerpbesluit#

Het netwerkbeleid van een cluster dekt secundaire interfaces niet, dus machines van verschillende afnemers op één localnet-segment zijn niet vanzelf gescheiden. Vanaf groeipadstap 3 scheidt standaard weigerend beleid voor meervoudige netwerken (MultiNetworkPolicy) de naamruimten op dat segment. Werkt dat beleid niet op localnet-netwerken, dan krijgt iedere afnemer een eigen segment met VLAN en /26 uit de reeks van zijn profiel.

VoorstelRegel#

Vanaf groeipadstap 3 wordt bond0.660 de VTEP voor bestaande netwerkverbanden van virtuele servers, met een VNI uit 20000–29999 per verband. Tot dan loopt zo’n verband als localnet-netwerk op zijn eigen VLAN.

Adressen en verbindingen

VoorstelOntwerpbesluit#

De netwerkdefinities voor machines hebben geen adresbeheer (IPAM). Op hun clustersegment krijgen virtuele werkers hun adres daarom via DHCP uit Infoblox, doorgegeven door de anycast-gateway; de reeks laat het ingangsadres en andere vaste adressen van het cluster vrij, en de uitgifte wordt dagelijks vergeleken met de clusterinventaris. Op VLAN 620 (zonder gateway) en VLAN 690 (herstelzone) is er geen DHCP: iedere werker krijgt daar een vast adres uit een reeks per cluster van het maximumaantal werkers plus één, binnen het /22 van de cel of de herstelreeks, gereserveerd in Infoblox, geregistreerd in NetBox en vastgelegd in de netwerkconfiguratie van de NodePool. Het leverpad reserveert de reeks vóór de werkers en geeft haar na beëindiging vrij, en registreert per afname de netwerken en statische adressen.

Toelichting

Gevolg: de DHCP-doorgifte is een vaste platformstroom, niet vanuit de herstelzone. Knooppunten, API- en ingangsadres van de werkervirtualisatie krijgen adressen uit VLAN 610, toegewezen in Infoblox en vóór de installatie geregistreerd in NetBox; de API heet api.c1-vw-01.c1.dc3.internal. Het migratienetwerk krijgt zijn adressen via whereabouts (cel 1: 10.61.30.0/24). Herstelservers op VLAN 690 krijgen een statisch adres uit de herstelreeks, en virtuele servers een vast adres dat de automatisering in Infoblox toewijst, in NetBox registreert en via de opstartconfiguratie instelt.

VoorstelWaarde#

De werkervirtualisatie heeft alleen de vaste verbindingen in de tabel.

VanNaarPoort of protocolDoel en regel
Beheerwerkplek (vrf-beheer)API en console van de werkervirtualisatieTCP 6443 en 443Beheer; vaste stroom
ClusterbeheerAPI van de werkervirtualisatieTCP 6443Werkers maken met de identiteit per applicatiecluster; binnen vrf-platform
WerkervirtualisatieVlootcluster; basisdienstenclusterTCP 6443 en 443; TCP 443 en 8200Beheerd cluster, metingen, beelden, aanmelding en geheimen; binnen vrf-platform
Werkerknooppunten; werkers van clusters met volumesOpslagknooppunten en objectgatewaysTCP 3300, 6789 en 6800–7300 op VLAN 620Virtuele schijven en volumes
WerkerknooppuntWerkerknooppuntMigratieverkeer met TLS, alleen op VLAN 630Live-migratie; geen gateway
Virtuele werkers (vrf-afn-*)Besturing op het clusterbeheer, containerregistry, geheimenbeheer, toegang, naam, tijd en objecttoegangVolgens de vaste stromenGebruik door het applicatiecluster
Anycast-gateway van een werkersegment (vrf-afn-*; vrf-platform, VLAN 700–709)Infoblox (vrf-extern)UDP 67, DHCP-doorgifteAdressen van virtuele werkers; vaste platformstroom; niet vanuit VLAN 690
Werkervirtualisatie (vrf-platform)SIEM van het SOC (vrf-extern)Syslog over TLS met clientcertificaatAudit- en beveiligingslogboeken
Virtuele servers (vrf-afn-*)Linux-updatedienst en eindpuntbeveiliging van RWS (vrf-extern)Volgens de RWS-dienstOnderhoud van het besturingssysteem; vaste platformstroom vanaf groeipadstap 3
FirmwarebeheeriLOTCP 443 op VLAN 600Firmwarebasislijn; binnen vrf-beheer
Werkerknooppunten, vanaf groeipadstap 3LeavesBGP (TCP 179), BFD en VXLAN (UDP 4789) op VLAN 660Onderlaag, alleen met vastgelegde buren

Versleuteling

VoorstelRegel#

API en ingang van de werkervirtualisatie hebben een certificaat uit de tussen-CA van de cel via cert-manager, ten hoogste 90 dagen geldig en na twee derde van de looptijd vernieuwd, met het TLS-profiel Modern waar alle clients dat ondersteunen, anders Intermediate. Migratie- en opslagverkeer zijn altijd versleuteld: migratieverkeer met TLS en automatisch vernieuwde interne certificaten van de virtualisatie, zonder instelling die dat uitzet, en opslagverkeer met messenger v2 in de beveiligde modus, ook vanuit de werkers. De cryptografie volgt per pad de cryptografietabel van RWS.

Toelichting

Een TLS-scan, een netwerkopname bij de acceptatie en het cryptografieoverzicht tonen het aan. Lukt de versleuteling van het migratieverkeer niet, dan geldt een uitzondering met einddatum, met het migratienetwerk zonder gateway als compensatie.

VoorstelOntwerpbesluit#

De werkervirtualisatie krijgt geen IPsec tussen de knooppunten, net als de andere platformclusters; zij versleutelt per verkeerssoort. Het machineverkeer loopt niet over het clusternetwerk, en EVPN werkt niet met IPsec.

Toelichting

Alternatief: IPsec tussen alle knooppunten. Dat beschermt het machineverkeer op localnet-netwerken niet en werkt niet met EVPN; het past alleen als de werkervirtualisatie nooit EVPN gebruikt en het dreigingsmodel het vraagt.

Verwijzen hiernaar

Onderwerpen 3