On-Premise nasazení
Plnou platformu ve vlastní infrastruktuře. Stejné UX a API jako managed cloud — ale vlastníte data i provoz.
Dostupnost: Tento režim nasazení nabízíme zákazníkům Business & Enterprise (přes obchod). Managed EU cloud je self-serve cesta; dostupnost funkcí se řídí roadmapou platformy.
Kdy jít on-premise
- Regulační požadavek: data nemohou opustit vaše DC
- Citlivost IP: procesní parametry, obchodní tajemství, důvěrné informace
- Volume ekonomika: per-token ceny se po určitém prahu stávají drahými
- Těsnost integrace: potřebujete platformu uvnitř stejné sítě jako klíčové interní systémy
- Latence: sub-milisekundová odezva pro interní uživatele
Pro nasazení s nulovým internet egress viz Air-gapped. Pro mix managed + on-prem viz Hybrid.
Co se dodává
Container images
Podepsané OCI images pro plnou sadu služeb StellarBase, importované do vašeho privátního registry. Viz Docker & Kubernetes pro operační podobu.
Helm chart
Kubernetes nasazení s rozumnými defaulty. Přizpůsobitelný values.yaml. Pokrývá ingress, TLS, persistent volumes, resource limity, autoscaling pravidla.
Docker Compose (alternativa)
Pro single-node nebo malé multi-node nasazení, kde by Kubernetes byl overkill. Production-grade, ale méně škálovatelné.
Modely
Váhy modelů StellarCloud zabalené jako podepsané tarbally. Vyberte si, které nainstalovat při deployi — LLM samotné mohou mít ~240 GB, specializované modely jsou mnohem menší.
Tooling
Admin CLI, health-check skripty, backup / restore utility, migrační skripty, setup monitoringu.
Infrastrukturní požadavky
Výpočet
| Měřítko | Nody | vCPU | RAM |
|---|---|---|---|
| Pilot (< 50 uživatelů) | 3 | 24 | 96 GB |
| Oddělení (< 500 uživatelů) | 6 | 96 | 384 GB |
| Enterprise (< 5 000 uživatelů) | 12+ | 200+ | 1 TB+ |
GPU (pro LLM)
| Workload | Minimum | Doporučené |
|---|---|---|
| Jen specializované modely | 1× L4 | 2× L4 / L40S |
| + GPT-OSS 120B | 2× H100 | 4× H100 |
| + Qwen 3.5 397B | 8× H100 | 8× H200 |
Nemusíte hostovat všechny LLM — vyberete si. Někteří zákazníci hostují jen specializované modely a LLM volání směrují na StellarCloud (pokud připojené) nebo na komerční providery přes StellarGate.
Úložiště
| Komponenta | Typická velikost |
|---|---|
| Postgres (metadata, konfigurace) | 100 GB (pilot) → 5 TB (enterprise) |
| Object storage (dokumenty, embeddings) | Závisí na korpusu — plán ~15 % velikosti korpusu |
| Váhy modelů | ~ 4 GB (jen specializované) → 250 GB (s velkými LLM) |
| Logy + audit | 100 GB / měsíc pro typické workloady |
Síť
- Interní síť s low-latency konektivitou mezi nody (doporučené 10 GbE)
- TLS-terminating ingress (poskytujeme konfiguraci)
- Egress politika — žádná pro air-gapped; řízený egress pro propojená nasazení
Identita
Integrace s vaším IdP (SAML, OIDC, LDAP/AD). Lokální uživatelé podporováni pro mimořádné situace.
Proces nasazení
- Plánování (1. týden) — sizing kapacity, topologie sítě, bezpečnostní review
- Infrastruktura (2. týden) — váš tým provisionuje Kubernetes, Postgres, object storage, GPU
- Instalace (3. týden) — Helm nasazení, konfigurace, první přihlášení
- Identita + konektory (3.–4. týden) — SSO integrace, první datové zdroje
- Pilot (4.–6. týden) — první uživatelé, validace, bezpečnostní review
- Go-live (6.–8. týden) — plný rollout
Typicky 6–8 týdnů na přímočaré nasazení. Regulovaná / air-gapped přidávají 4–8 týdnů na bezpečnostní review a certifikaci.
Aktualizace
Aktualizace se dodávají jako podepsané bumpy Helm chartu nebo image aktualizace. Kadence:
- Bezpečnostní patche — do 14 dnů od vydání (kritické patche do 48 hodin)
- Minor releases — čtvrtletně
- Major releases — ročně
Vy řídíte, kdy aplikovat. Blue-green nasazení přes Helm poskytují zero-downtime upgrady. Rollback jedním Helm příkazem.
Model podpory
Pojmenovaní inženýři přidělení k vašemu nasazení. Komunikace přes:
- Váš preferovaný kanál (e-mail, Slack, Teams, telefon)
- Data z health-check, která sdílíte na vyžádání
- Remote support (pokud povolen) přes vaše řízené kanály
- On-site engineering podpora pro instalaci + roční review (business tier)
Monitoring
Integrovaný Prometheus / Grafana stack. Dashboardy pro:
- Stav aplikace (rate requestů, latence, chyby)
- Ingest pipelinu (throughput, zpoždění, selhání)
- LLM inference (tokeny, GPU utilizace, hloubka fronty)
- Úložiště (disk, stav záloh)
- Bezpečnost (auth selhání, porušení politik)
Metriky exportovatelné do vašeho stávajícího observability stacku (Datadog, New Relic atd.).
Záloha a obnova
- Postgres: kontinuální záloha do object storage
- Object storage: verzování + cross-bucket replikace (vaše volba cíle)
- Point-in-time recovery testované čtvrtletně
- Konfigurace / IaC ve vašem Gitu
Licencování
Roční licence založená na:
- Počtu uživatelů / Bases
- Zahrnutých modelech (některé velké LLM mají oddělené licenční podmínky)
- Support tieru
Per-token ceny se na self-hosted nevztahují — neomezené requesty v rámci vaší licence.
Související
- Přehled nasazení
- Docker & Kubernetes — technické detaily
- Air-gapped
- Hybrid