Integration

Muster für die Anbindung von StellarGate an Ihre Anwendung. Eine URL-Änderung für den Transparent Proxy, ein SDK für die tokenisierte Übergabe, ein Helm-Chart für das Self-Hosting.

Modus 1 — Transparent Proxy

Die einfachste Integration. Wenn Ihre Anwendung derzeit das OpenAI-SDK (oder einen OpenAI-kompatiblen Client) verwendet, der direkt auf OpenAI zeigt, ändern Sie die Basis-URL auf https://gate.stellarbase.ai/v1. Sonst ändert sich nichts.

Authentifizierung

Verwenden Sie Ihren StellarGate-API-Schlüssel anstelle Ihres OpenAI-Schlüssels. StellarGate übersetzt im Hintergrund auf das Auth-Modell des nachgelagerten Anbieters.

Unterstützte Anbieter

OpenAI (GPT-4o, GPT-4, GPT-3.5, Embeddings)
Anthropic (Claude 4, Claude 3.5, Claude 3)
Google (Gemini 2.5, Gemini 1.5)
Mistral (Large, Medium, Small)
Cohere (Command, Embed)
Jeder beliebige OpenAI-kompatible Endpunkt, den Sie konfigurieren

Aufbau der Anfrage

Identisch zur API von OpenAI. Der Modellname ist Teil des Anfragetexts. StellarGate leitet anhand des Modellnamens an den richtigen Anbieter weiter.

Was sich an den Antworten ändert

Nichts. Sie erhalten das native Antwortformat des Anbieters, wobei die Tokens im Inhalt wieder auf die ursprünglichen Werte aufgelöst werden.

Modus 2 — Tokenisierte Übergabe

Drei API-Aufrufe pro Interaktion. Verwenden Sie das StellarGate-SDK (Python oder TypeScript) für die anonymize- / de-anonymize-Aufrufe; der mittlere Aufruf (an das LLM) erfolgt über Ihr gewohntes Anbieter-SDK.

Konzeptioneller Ablauf

Rufen Sie gate.anonymize(text) auf — gibt sanitized_text + map_id zurück
Rufen Sie das LLM mit sanitized_text über das von Ihnen bevorzugte SDK auf
Rufen Sie gate.deanonymize(llm_response, map_id) auf — gibt den aufgelösten Text zurück

Lebenszyklus der Map-ID

Jeder anonymize-Aufruf vergibt eine eindeutige map_id. Die Zuordnung wird in einem verschlüsselten Vault gespeichert, der auf Ihren Tenant beschränkt ist, und läuft automatisch nach 24 Stunden ab (konfigurierbar). Eine De-Anonymisierung nach Ablauf gibt einen Fehler zurück.

Für sehr lange laufende Workflows fordern Sie eine Map mit verlängerter Lebensdauer an oder persistieren Sie die Zuordnung selbst (das SDK unterstützt Export/Import von Zuordnungen).

Streaming

Bei gestreamten Antworten erfolgt die De-Anonymisierung auf dem final zusammengesetzten Text, nicht Token für Token. Wenn Sie Streaming auf Token-Ebene mit De-Anonymisierung benötigen, verwenden Sie Modus 1 (Transparent Proxy) — dieser handhabt die Streaming-Mechanik intern.

Modus 3 — Self-Hosting

Bereitstellung

StellarGate wird ausgeliefert als:

Docker Compose — am einfachsten, für Single-Node-Bereitstellungen
Helm-Chart — produktives Kubernetes
Bare Binary — für Umgebungen mit minimalen Abhängigkeiten (systemd-Dienst)

Die Images sind signiert und in unserer privaten Registry veröffentlicht; Air-Gapped-Kunden erhalten sie als signierte Tarballs zum Import in die eigene Registry.

Erforderliche Infrastruktur

Postgres — für Konfiguration, Audit-Log, HITL-Queue. Jede aktuelle Version (14+).
Redis — für den Token-Vault pro Anfrage (ephemer). Standalone oder als Cluster.
GPU — für die ML-Erkennungs-Engine. Dimensioniert nach Ihrem Durchsatz; Referenzwerte je Stufe im Helm-Chart.
Networking — Ingress zu Ihrer Anwendung (TLS), Egress zu LLM-Anbietern (optional — kann für lokale LLMs Zero-Egress sein)

Upgrade-Pfad

Blue-Green-Bereitstellungen über Helm. Ohne Ausfallzeit, sofern Sie mehrere Replikas haben. Datenbankmigrationen laufen automatisch beim Start.

SDK-Abdeckung

Sprache	SDK	Status
Python 3.9+	`stellargate` auf PyPI	Production
TypeScript / Node 18+	`@stellarbase/gate` auf npm	Production
Go 1.21+	`github.com/stellarbase/gate-go`	Beta
Java 17+	Maven Central	Beta
.NET 8+	NuGet	Beta
Rust	crates.io	Experimental

Für alles Übrige ist die HTTP-API standardisiert — jeder HTTP-Client funktioniert. Die Swagger-/OpenAPI-Spezifikation ist auf der Seite API-Referenz verfügbar.

Konfiguration

Die Konfiguration erfolgt per YAML beim Self-Hosting, per Admin-UI + API beim Managed-Betrieb. Gängige Einstellungen:

Erkennungsrichtlinie — strict / balanced / permissive
Wörterbücher — über API oder UI angebunden
Allowlists
HITL-Trigger — pro Regel
Richtlinien pro Modell — unterschiedliche Regeln für unterschiedliche Ziele
Aufbewahrung — wie lange Audit-Logs aufbewahrt werden (Standard 90 Tage)

Observability

Prometheus-Metrik-Endpunkt in allen Modi. Typische Metriken:

Anfragerate, Anonymisierungslatenz, De-Anonymisierungslatenz
Erkennungszahlen pro Kategorie
HITL-Queue-Tiefe, Freigaberate, Ablehnungsrate
Aufrufrate pro LLM-Anbieter, Fehlerrate, Latenz

OpenTelemetry-Traces für detailliertes Debugging verfügbar.