Dokumentation Bereitstellung On-Premise

Bereitstellung

On-Premise-Bereitstellung

Die vollständige Plattform in Ihrer eigenen Infrastruktur. Gleiche UX und APIs wie die Managed Cloud — aber Sie besitzen die Daten und den Betrieb.

Verfügbarkeit: Dieser Bereitstellungsmodus wird Business- & Enterprise-Kunden angeboten (vertriebsgeführt). Die Managed EU Cloud ist der Self-Service-Weg; die Verfügbarkeit von Funktionen richtet sich nach der Plattform-Roadmap.

Wann On-Premise sinnvoll ist

Regulatorische Anforderung: Daten dürfen Ihr Rechenzentrum nicht verlassen
IP-Sensibilität: Prozessparameter, Geschäftsgeheimnisse, vertrauliche Informationen
Volumenökonomie: Die Preisgestaltung pro Token wird ab einem bestimmten Schwellenwert teuer
Enge Integration: Sie benötigen die Plattform im selben Netzwerk wie zentrale interne Systeme
Latenz: Antwortzeiten im Submillisekundenbereich für interne Benutzer

Für Bereitstellungen ohne Internet-Egress siehe Air-Gapped. Für eine Mischung aus Managed + On-Premise siehe Hybrid.

Was geliefert wird

Container Images

Signierte OCI-Images für die vollständige StellarBase-Servicesuite, importiert in Ihre private Registry. Siehe Docker & Kubernetes für die operative Ausgestaltung.

Helm Chart

Kubernetes-Bereitstellung mit sinnvollen Standardwerten. Anpassbare values.yaml. Deckt Ingress, TLS, Persistent Volumes, Resource Limits und Autoscaling-Regeln ab.

Docker Compose (Alternative)

Für Single-Node- oder kleine Multi-Node-Bereitstellungen, bei denen Kubernetes übertrieben wäre. Produktionsreif, aber weniger skalierbar.

Modelle

StellarCloud-Modellgewichte, verpackt als signierte Tarballs. Wählen Sie bei der Bereitstellung aus, welche installiert werden sollen — LLMs allein können ~240 GB groß sein, spezialisierte Modelle sind deutlich kleiner.

Tooling

Admin-CLI, Health-Check-Skripte, Backup-/Restore-Dienstprogramme, Migrationsskripte, Monitoring-Setup.

Infrastrukturanforderungen

Rechenleistung

Umfang	Nodes	vCPU	RAM
Pilot (< 50 Benutzer)	3	24	96 GB
Abteilung (< 500 Benutzer)	6	96	384 GB
Enterprise (< 5.000 Benutzer)	12+	200+	1 TB+

GPU (für LLMs)

Workload	Minimum	Empfohlen
Nur spezialisierte Modelle	1× L4	2× L4 / L40S
+ GPT-OSS 120B	2× H100	4× H100
+ Qwen 3.5 397B	8× H100	8× H200

Sie müssen nicht alle LLMs hosten — Sie haben die Wahl. Manche Kunden hosten nur die spezialisierten Modelle und leiten LLM-Aufrufe an StellarCloud (sofern verbunden) oder über StellarGate an kommerzielle Anbieter weiter.

Speicher

Komponente	Typische Größe
Postgres (Metadaten, Konfiguration)	100 GB (Pilot) → 5 TB (Enterprise)
Object Storage (Dokumente, Embeddings)	Hängt vom Korpus ab — planen Sie ~15 % der Korpusgröße
Modellgewichte	~ 4 GB (nur spezialisiert) → 250 GB (mit großen LLMs)
Logs + Audit	100 GB / Monat bei typischen Workloads

Netzwerk

Internes Netzwerk mit Verbindungen mit geringer Latenz zwischen den Nodes (10 GbE empfohlen)
TLS-terminierender Ingress (wir stellen die Konfiguration bereit)
Egress-Richtlinie — keine erforderlich für Air-Gapped; kontrollierter Egress für verbundene Bereitstellungen

Identität

Integration mit Ihrem IdP (SAML, OIDC, LDAP/AD). Lokale Benutzer werden für Notfälle unterstützt.

Bereitstellungsprozess

Planung (Woche 1) — Kapazitätsbemessung, Netzwerktopologie, Sicherheitsprüfung
Infrastruktur (Woche 2) — Ihr Team stellt Kubernetes, Postgres, Object Storage und GPUs bereit
Installation (Woche 3) — Helm-Bereitstellung, Konfiguration, erste Anmeldung
Identität + Konnektoren (Woche 3–4) — SSO-Integration, erste Datenquellen
Pilot (Woche 4–6) — erste Benutzer, Validierung, Sicherheitsprüfung
Go-live (Woche 6–8) — vollständiger Rollout

Typischerweise 6–8 Wochen für eine unkomplizierte Bereitstellung. Bei regulierten / Air-Gapped-Umgebungen kommen 4–8 Wochen für Sicherheitsprüfung und Zertifizierung hinzu.

Updates

Updates werden als signierte Helm-Chart-Bumps oder Image-Updates ausgeliefert. Kadenz:

Sicherheitspatches — innerhalb von 14 Tagen nach Veröffentlichung (kritische Patches innerhalb von 48 Stunden)
Minor Releases — vierteljährlich
Major Releases — jährlich

Sie steuern, wann sie angewendet werden. Blue-Green-Bereitstellungen über Helm ermöglichen Upgrades ohne Ausfallzeit. Rollback mit einem einzigen Helm-Befehl.

Support-Modell

Namentlich benannte Ingenieure, die Ihrer Bereitstellung zugewiesen sind. Kommunikation über:

Ihren bevorzugten Kanal (E-Mail, Slack, Teams, Telefon)
Health-Check-Daten, die Sie auf Anfrage teilen
Remote-Support (sofern gestattet) über Ihre kontrollierten Kanäle
Vor-Ort-Engineering-Support für Installation + jährliche Prüfung (Business-Tier)

Monitoring

Integrierter Prometheus-/Grafana-Stack. Dashboards für:

Anwendungszustand (Request-Rate, Latenz, Fehler)
Ingestion-Pipeline (Durchsatz, Lag, Fehler)
LLM-Inferenz (Tokens, GPU-Auslastung, Warteschlangentiefe)
Speicher (Festplatte, Backup-Status)
Sicherheit (Authentifizierungsfehler, Richtlinienverstöße)

Metriken in Ihren bestehenden Observability-Stack exportierbar (Datadog, New Relic usw.).

Backup & Wiederherstellung

Postgres: kontinuierliches Backup in Object Storage
Object Storage: Versionierung + Cross-Bucket-Replikation (Ziel Ihrer Wahl)
Point-in-Time-Recovery vierteljährlich getestet
Konfiguration / IaC in Ihrem Git

Lizenzierung

Jahreslizenz basierend auf:

Anzahl der Benutzer / Bases
Enthaltenen Modellen (für einige große LLMs gelten gesonderte Lizenzbedingungen)
Support-Tier

Die Preisgestaltung pro Token gilt nicht bei Self-Hosting — unbegrenzte Anfragen im Rahmen Ihrer Lizenz.