1. Czym jest chmura GPU?
Chmura GPU to usługa, w której wynajmujesz komputer z kartą graficzną w centrum danych i płacisz za czas jego pracy. Zamiast kupować kartę za kilka lub kilkadziesiąt tysięcy złotych, uruchamiasz instancję z RTX 4090, A100 czy H100 na tyle godzin, ile potrzebujesz, a potem ją wyłączasz.
Z chmury GPU korzysta się najczęściej do generowania obrazów i wideo (ComfyUI, Flux), uruchamiania dużych modeli językowych, które nie mieszczą się na domowym sprzęcie, oraz do treningu i fine-tuningu modeli.
2. Rodzaje wynajmu GPU
| Rodzaj | Jak działa | Dla kogo |
| --- | --- | --- |
| On-demand | Instancja jest Twoja, dopóki jej nie wyłączysz | Praca interaktywna, ComfyUI, Jupyter |
| Spot / interruptible | Taniej, ale dostawca może przerwać pracę w każdej chwili | Trening z checkpointami, zadania wsadowe |
| Serverless | Karta uruchamia się tylko na czas obsługi zapytania | API i aplikacje produkcyjne |
| Rynek kart (marketplace) | Karty od wielu niezależnych dostawców, ceny ustala rynek | Najtańsze jednorazowe obliczenia |
| Serwer dedykowany z GPU | Abonament miesięczny za stałą maszynę | Stałe obciążenie 24/7 |
Przykładowo RunPod oferuje on-demand, spot i serverless z trwałymi dyskami sieciowymi, a Vast.ai działa jak rynek kart od wielu dostawców. Duzi dostawcy chmury (AWS, Google Cloud, Azure) też mają instancje GPU, ale zwykle są wyraźnie drożsi i bardziej skomplikowani w konfiguracji.
3. Od czego zależy cena godziny GPU?
- Model karty i ilość VRAM. Orientacyjnie RTX 4090 kosztuje od ok. 0,35 do 0,70 USD za godzinę, A100 80 GB od ok. 1,20 do 1,90 USD, a H100 od ok. 2 do 3 USD.
- Rodzaj chmury. Certyfikowane centra danych są droższe niż maszyny od niezależnych dostawców.
- Gwarancja dostępności. Instancje spot są tańsze, bo mogą zostać przerwane.
- Dyski. Oprócz godziny GPU płacisz za miejsce na modele i dane, także wtedy, gdy karta jest wyłączona.
- Transfer i region. Część dostawców dolicza opłaty za ruch sieciowy, a ceny różnią się między regionami.
Ceny zmieniają się często, więc przed większym projektem zawsze sprawdź aktualny cennik.
4. Wynajem czy własna karta: kiedy co się opłaca?
Najprościej porównać koszt zakupu z kosztem godziny wynajmu. RTX 4090 kosztuje kilka tysięcy złotych, a godzina tej karty w chmurze to ok. 2 zł. Do tego własna karta zużywa prąd: przy 450 W i cenie ok. 1 zł za kWh to około 45 groszy za godzinę pracy.
| Użycie | Co się opłaca |
| --- | --- |
| Kilka godzin w tygodniu | Wynajem. Zakup zwróciłby się dopiero po kilku latach |
| Codziennie po kilka godzin | Zależy od planów. Zakup zwraca się zwykle po 1-3 latach |
| Praca 24/7 przez wiele miesięcy | Własna karta albo serwer dedykowany z GPU |
| Potrzebujesz 48-80 GB VRAM | Wynajem. Karty serwerowe kosztują dziesiątki tysięcy złotych |
Wynajem ma też zalety, których nie widać w tabeli: nie płacisz za sprzęt, który się starzeje, możesz w każdej chwili przejść na mocniejszą kartę i nie potrzebujesz zasilacza, chłodzenia ani miejsca w domu. Własna karta wygrywa prywatnością danych, brakiem opóźnień i tym, że nie trzeba pamiętać o wyłączaniu instancji. Jak dobrać kartę do zakupu, opisujemy we wpisie jak wybrać GPU do AI.
5. Na co uważać w chmurze GPU?
- Zapomniana instancja. Karta za 0,60 USD za godzinę zostawiona na miesiąc kosztuje ponad 400 USD. Zawsze wyłączaj instancję po pracy i ustaw automatyczne wyłączanie przy długich zadaniach.
- Dane na dysku tymczasowym. Pliki zapisane poza trwałym dyskiem znikają po wyłączeniu instancji. Modele trzymaj na dysku sieciowym (np. Network Volume).
- Koszt przechowywania. Trwałe dyski są płatne cały czas. Usuwaj stare modele i nieużywane wolumeny.
- Dostępność kart. Popularne karty bywają zajęte, a dysk sieciowy jest zwykle przypięty do jednego centrum danych.
- Bezpieczeństwo. Nie trzymaj kluczy API na sztywno w publicznych szablonach i nie wystawiaj usług bez hasła na publiczny adres.
Praktyczny start krok po kroku, razem z wyliczeniami kosztów i automatycznym wyłączaniem, opisujemy w poradniku RunPod od zera.