Cloud nebo vlastní server pro AI: kdy se co vyplatí
Vlastní hardware vypadá levněji, dokud nezapočítáte práci kolem něj. O tom, co doopravdy rozhoduje — a proč to není cena železa.
Vlastní server se vyplatí tehdy, když je zátěž vyrovnaná, dlouhodobá a máte kdo se o něj stará; všechno ostatní patří do cloudu. Rozhoduje tvar zátěže a dostupnost lidí, ne cena hardwaru.
Srovnání se obvykle dělá špatně. Postaví se cena serverů proti měsíčnímu účtu za cloud, vyjde z toho, že hardware se zaplatí za rok, a tím to končí.
Jenže server je jen začátek.
Co se do srovnání nezapočítá
- Práci kolem. Aktualizace, monitoring, zálohy, výměna disku, který odešel v neděli. To jsou hodiny člověka, kterého je odkud vzít.
- Redundanci. Jeden server je jeden bod selhání. Dva jsou dvojnásobná cena a stejně je potřeba něco, co mezi nimi přepíná.
- Nevyužitý výkon. Hardware koupíte na špičku a platíte ho i v noci, kdy se nic neděje.
- Rychlost změny. Když potřebujete víc výkonu v cloudu, kliknete. U vlastního železa objednáváte.
Kdy dává cloud jednoznačný smysl
Když nevíte, jaká bude zátěž — tedy skoro vždy na začátku. Když je provoz nárazový: kampaň, sezóna, konec měsíce. Když nemáte člověka, který by se o infrastrukturu staral jako o svou práci, a nechcete ho hledat.
A když jde o volání jazykových modelů přes API, otázka vlastního železa většinou ani nevzniká. Platíte za volání, ne za server — a to, co cenu tvoří, jsme rozebrali v článku o tom, kolik stojí provoz AI aplikace.
Kdy začne dávat smysl vlastní server
U tří situací:
- Vyrovnaná, vysoká a dlouhodobá zátěž. Když něco běží pořád stejně a roky, pronájem se přestává vyplácet.
- Vlastní model, který běží nepřetržitě. Tady je rozdíl mezi pronájmem výpočetního výkonu a jeho vlastnictvím nejcitelnější.
- Požadavek na to, kde data fyzicky leží, který cloud neumí splnit. Bývá to spíš smluvní nebo regulační věc než technická — a souvisí s tím, kam vaše data u AI aplikace jdou.
Odpověď bývá „obojí"
V praxi to není volba jednoho ze dvou. Běžné rozdělení vypadá tak, že aplikace, databáze a fronty běží na pronajatých serverech s předvídatelnou cenou, a volání modelů jdou přes API, protože držet vlastní model se při nárazovém provozu nevyplatí.
Důležitější než samotná volba je, aby šla změnit. Když je aplikace v kontejnerech a konfigurace oddělená od kódu, přesun je otázka nasazení — ne přepisování. Přesně proto stavíme na Dockeru a Kubernetes.
Pokud si nejste jistí, co sedí na váš případ, ozvěte se — projdeme to na vašich číslech.
Řešíte něco podobného ve vaší firmě?
Chci nezávaznou konzultaci