Selbst gehostete Bereitstellungen werden als standardmäßige Cloud-native-Primitive ausgeliefert. Helm-Charts und Compose-Dateien, GPU-fähig, mit der operativen Oberfläche, die ein Plattform-Team erwartet.

Verfügbarkeit: Selbst gehostete Bereitstellungen (Docker / Kubernetes) bieten wir Business- & Enterprise-Kunden an (vertriebsgeführt). Die verwaltete EU-Cloud ist der Self-Service-Weg; die Verfügbarkeit von Funktionen folgt der Plattform-Roadmap.

Bereitstellungsoptionen

Option	Wann zu verwenden
Docker Compose	Single-Node-Piloten, Entwicklungsumgebungen, kleine Teams
Helm auf Kubernetes	Produktion, Multi-Node, Auto-Scaling
Operator (K8s)	Fortgeschritten — CRD-basiertes Lifecycle-Management
Bare Binary + systemd	Umgebungen mit minimalen Abhängigkeiten

Was Sie bereitstellen

StellarBase wird als eine Reihe zustandsloser Anwendungsdienste plus eine kleine Anzahl zustandsbehafteter Abhängigkeiten ausgeliefert. Zustandslose Dienste skalieren horizontal; zustandsbehaftete Komponenten sind Industriestandard und entweder gebündelt oder austauschbar gegen verwaltete Angebote.

Die Architektur ist bewusst langweilig: Cloud-native-Primitive, ein Helm-Umbrella-Chart, keine exotische Runtime. Wenn Ihr Team Kubernetes betreibt, weiß es bereits, wie man StellarBase betreibt.

Zustandsbehaftete Abhängigkeiten

Komponente	Rolle
PostgreSQL 14+	Metadaten, Konfiguration, Audit-Log
Redis 7+	Queues, Rate-Limits, flüchtiger Zustand
Object Storage (S3-kompatibel)	Dokumente, Modellgewichte, Backups
Vector Index	Semantische Suche

Alle vier sind durch verwaltete Angebote (RDS, ElastiCache, verwaltetes MinIO usw.) oder durch Ihre vorhandene interne Infrastruktur ersetzbar. Das Sizing hängt vom Workload ab — wir liefern Referenzwerte pro Stufe im Helm-Chart.

Kubernetes-Anforderungen

• Kubernetes 1.27+
• Ingress-Controller (NGINX, Traefik, Istio — Ihre Wahl)
• StorageClass für Persistent Volumes (SSD empfohlen)
• NVIDIA GPU Operator für GPU-Workloads
• cert-manager für TLS (oder Ihre eigene Zertifikats-Pipeline)
• Metrics-Server für HPA

Aufbau des Helm-Charts

Ein einzelnes Umbrella-Chart mit Sub-Charts pro Dienst. Die Values-Datei ist die primäre Konfigurationsoberfläche. Häufige Anpassungen:

• Replica-Anzahl und Resource Requests / Limits
• GPU-Selector für Inferenz-Pods
• Storage Class und Größen
• Quelle der Secrets (K8s-Secrets, Vault, AWS Secrets Manager)
• Ingress-Hostnamen und TLS
• Modellauswahl (welche LLMs installiert werden)

Wir liefern durchdachte Standardwerte für drei Stufen (Pilot, Abteilung, Enterprise). Überschreiben Sie alles nach Bedarf.

GPU-Scheduling

Inferenz-Pods deklarieren GPU-Anforderungen. Der Kubernetes GPU Operator plant sie auf passende Nodes ein. Multi-GPU-Inferenz wird automatisch gehandhabt — Sie dimensionieren den Pool, wir verwalten die Platzierung.

Für Multi-Tenant-Isolation verwenden Sie GPU-Time-Slicing (MIG auf H100 / H200), um verschiedenen Tenants Slices zuzuweisen.

Skalierungsrichtlinien

• Horizontal Pod Autoscaler — zustandslose Dienste skalieren anhand von CPU + benutzerdefinierten Metriken (Queue-Tiefe, Request-Rate).
• Vertical Pod Autoscaler — empfohlen, um die korrekte Ressourcendimensionierung zu ermitteln. Beginnen Sie im Recommendation-Modus, wenden Sie ihn nach einer Woche an.
• Cluster Autoscaler — für Cloud-K8s (EKS, GKE, AKS), skaliert Nodes je nach Last hoch / herunter.

Netzwerk

Service Mesh

Istio oder Linkerd empfohlen für mTLS zwischen Diensten. Wir liefern PeerAuthentication- und AuthorizationPolicy-Manifeste.

Ingress

Ein Ingress pro Umgebung. TLS über cert-manager oder Ihre eigenen Zertifikate. WAF optional (empfohlen für ins Internet exponierte Bereitstellungen).

Egress

Standard: jeglichen Egress blockieren, explizite Allowlist für erforderliche Ziele (LLM-Anbieter, Connector-Ziele). Für Air-Gapped: alles blockieren.

Observability

• Prometheus-Metriken auf jedem Dienst
• OpenTelemetry-Traces für Debugging auf Request-Ebene
• Strukturierte JSON-Logs, versendbar an Loki / Elasticsearch / Ihr SIEM
• Grafana-Dashboards im Helm-Chart gebündelt

Backup & Wiederherstellung

Postgres: kontinuierliches Backup in Object Storage mit Point-in-Time-Recovery, vierteljährlich getestet.

Object Storage: Versionierung aktiviert. Cross-Region-Replikation optional.

Konfiguration: IaC in Ihrem Git. Das Helm-Chart + values.yaml ist die Source of Truth.

Upgrades

Rolling Updates über helm upgrade. Blue-Green-Option für Zero-Downtime in der Produktion. Datenbankmigrationen laufen automatisch beim Start.

Führen Sie Upgrades immer zuerst in niedrigeren Umgebungen durch. Lesen Sie die Release Notes — Minor-Versionen erfordern gelegentlich ein kurzes Read-Only-Fenster für bestimmte Migrationen.

Debugging

• Health-Endpunkte — jeder Dienst stellt /healthz und /readyz bereit
• Correlation IDs — Verfolgen einer einzelnen Anfrage über Dienste hinweg via X-Correlation-Id
• Audit-Log — operative Aktionen sichtbar in der Admin-UI

Docker Compose (für Piloten)

Einfacher für kleine Bereitstellungen:

• Single-Host, Dienste als Container
• Dieselben Images wie K8s
• Produktionsreif, aber auf vertikale Skalierung auf einer einzelnen Maschine beschränkt
• Gut für Piloten bis ca. 50 Benutzer

Verwandt

• Bereitstellungsübersicht
• On-Premise
• Air-Gapped