Nové servery připojujeme jen pomocí 10Gbps

Všechny nové servery nově připojujeme jen pomocí 10/25/40 nebo 100 gigabitového ethernetu a přestáváme používat gigabit.

Motivace

Rychlost domácích přípojek se postupně zvyšuje, internetoví poskytovatelé pokládají nové optické kabely a požadavky na rychlost a latenci od uživatelů neustále narůstají. 2Gbps optické připojení je dnes dosažitelná rychlost na mnoha místech. Někteří poskytovatelé experimentují s XGS-PON, která se velmi přiblíží k 10Gbps.

Takže jsme si položili otázku, zda-li má vůbec ještě smysl poskytovat servery s 1Gbps, když už jsou běžně dostupné přípojky, které tuto rychlost převyšují. A odpověď byla celkem jednoduchá - je čas na upgrade.

Proč to ale děláme, když to normální uživatelé nevyužijí?

Běžné webové a firemní servery využívají konektivitu řádově v desítkách nebo stovkách Mbps. Proč tedy přecházíme na 10Gbps?

V první řadě nám jde o kvalitu služeb a chceme, aby servery fungovaly dobře a uživatelé byli spokojeni. Pokud je firma připojena 2Gbps a na serveru má např. sdílený adresář nebo owncloud, tak je naším cílem, aby byli uživatelé schopni pracovat se svými soubory bez omezení, bez záseků a plnou rychlostí.

Další příjemnou vlastností je, že se zrychlí zálohování a případná obnovat dat ze záloh. Servery budou také odolnější proti jednoduchým útokům, které mají za cíl zaplnit linku.

Cena a podmínky

Základní konektivita

Základní 10Gbps konektivita k serveru je s agregací 1:10. Dá se to představit tak, že deset serverů sdílí jednu 10Gbps přípojku. Každý by měl mít dostupný 1Gbps, ale pokud bude volno, tak by měl mít možnost využít víc.

Základní 10Gbps konektivita má však několik omezení, které samozřejmě souvisí s náklady a plánováním infrastruktury, které máme na naší straně:

  • Služba počítá s tím, že většina provozu směřuje do Čech a na Slovensko
  • Je primárně určena na vykrytí špiček - přístupy k souborům, zálohování nebo obnova záloh, a podobně
  • Služba může být dočasně uměle omezená, pokud by hrozilo omezení ostatních zákazníků

Všechny nové managed servery mají základní 10Gbps už automaticky v ceně a zapojujeme je redundantně pomocí 2x 10Gbps LACP do dvou switchů.

Vyhrazená konektivita

Servery, které vyžadují konektivitu vyhrazenou (např. streamovací služby) pak mohou využívat i vyšší rychlosti a naprosto bez omezení. Cena se zde ale určuje individuálně podle potřebných cílových destinací. Cenu konektivity i my máme pro různé směry jinou a vždy se snažíme cenu optimalizovat podle reálných potřeb.

Jak jsme nyní k internetu připojeni?

K dnešnímu dni máme připojenou kapacitu 80Gbps. Jedna 40Gbps trasa vede do TTC, druhá 40Gbps trasa do Sitelu. Síťové prvky už máme 100Gbps a nyní jen čekáme, až nám dorazí 100Gbps optické moduly. Na začátek března máme naplánovaný upgrade na 200Gbps - 100Gbps každou trasou.

Během tohoto roku bychom se pak dále rádi připravili na další případné navýšení.

Mají 1Gbps servery budoucnost?

Určitě mají. 1Gbps ethernet je technologie, kde stále probíhají optimalizace a která je stále ve vývoji.

My budeme 1Gbps používat dále tam, kde to bude dávat smysl. Příkladem je jeden z našich precizně plánovaných racků, které se snažíme využít do posledního volného zdroje (místo i napájení).

Nejmenší spotřebu 48 portového 10Gbps switche máme změřenou u staré Aristy 7050S-52 52xSFP+ a to okolo 95W. U novějších switchů máme ve stejné konfiguraci změřenou spotřebu 120W a více.

Běžná konfigurace takto měřených switchů: několik optických modulů a pak 30 až 48 DAC (Direct Attach Cable).

Pokud bychom switche navíc naplnili optickými moduly místo DAC kabelů, které by měly mít spotřebu <0.15W, tak by spotřeba měla být ještě vyšší. Běžné 10G SFP+ SR moduly mají spotřebu okolo 1W na každé straně kabelu, takže 2W na propoj.

Redundantní pár 10Gbps TOR switchů v racku má běžnou spotřebu 250W. V případě páru 1Gbps switchů jsme na přibližně 110W (Arista 7010T). Je potřeba také počítat i s druhou stranou. Například námi hojně používaná síťová karta Intel X520-DA2 má ve specifikaci běžnou spotřebu 7,9W. Máme-li v racku 40 serverů, tak se jedná už o 316W spotřeby na síťových kartách. Dohromady se switchi je už rozdíl 450W mezi 10Gbps a 1Gbps, což je spotřeba dvou AMD Ryzen 7900 serverů nebo jednoho silnějšího EPYC serveru v plné zátěži.

Závěr

Ve specifických případech 1Gbps budeme stále používat. Běžné zákazníky už ale budeme připojovat pomocí 10Gbps, aby nebyli při bežném používání omezeni.

Stávající zákazníky letos postupně převedeme na 10Gbps.