Integrace

Vzorce pro zapojení StellarGate do vaší aplikace. Změna jedné URL pro transparent proxy, SDK pro tokenized handoff, Helm chart pro self-hosted.

Režim 1 — Transparent Proxy

Nejjednodušší integrace. Pokud vaše aplikace aktuálně používá OpenAI SDK (nebo OpenAI-compatible klienta) namířený přímo na OpenAI, změňte base URL na https://gate.stellarbase.ai/v1. Nic jiného se nemění.

Autentizace

Použijte váš StellarGate API klíč místo OpenAI klíče. StellarGate překládá na auth model downstream providera v pozadí.

Podporovaní provideři

OpenAI (GPT-4o, GPT-4, GPT-3.5, embeddings)
Anthropic (Claude 4, Claude 3.5, Claude 3)
Google (Gemini 2.5, Gemini 1.5)
Mistral (Large, Medium, Small)
Cohere (Command, Embed)
Jakýkoli vlastní OpenAI-compatible endpoint, který nakonfigurujete

Tvar requestu

Stejný jako OpenAI API. Jméno modelu je součástí těla requestu. StellarGate směruje ke správnému providerovi podle jména modelu.

Co se mění v odpovědích

Nic. Dostanete nativní formát odpovědi providera, s tokeny v obsahu rozkódovanými zpět na původní hodnoty.

Režim 2 — Tokenized Handoff

Tři API volání na interakci. Pro anonymize / de-anonymize volání použijte StellarGate SDK (Python nebo TypeScript); prostřední volání (do LLM) je vaše normální provider SDK.

Konceptuální průběh

Zavolejte gate.anonymize(text) — vrátí sanitized_text + map_id
Zavolejte LLM se sanitized_text jakýmkoli SDK chcete
Zavolejte gate.deanonymize(llm_response, map_id) — vrátí rozkódovaný text

Životní cyklus map ID

Každé anonymize volání vydá unikátní map_id. Mapování se uloží do šifrovaného trezoru scope-ovaného na vašeho tenanta a automaticky expiruje po 24 hodinách (konfigurovatelně). De-anonymizace po expiraci vrací chybu.

Pro velmi dlouhé workflows si vyžádejte map s prodlouženou životností nebo si mapování persistujte sami (SDK podporuje export/import mapování).

Streamování

Pro streamované odpovědi se de-anonymizace děje na finálně sestaveném textu, ne token-po-tokenu. Pokud potřebujete token-level streaming s de-anonymizací, použijte Režim 1 (transparent proxy) — který řeší streamovací mechaniku interně.

Režim 3 — Self-Hosted

Nasazení

StellarGate se dodává jako:

Docker Compose — nejjednodušší, pro single-node nasazení
Helm chart — produkční Kubernetes
Bare binary — pro prostředí s minimem závislostí (systemd service)

Image jsou podepsané a publikované v našem privátním registry; air-gapped zákazníci je dostávají jako podepsané tarbally pro import do vlastního registry.

Požadovaná infrastruktura

Postgres — pro konfiguraci, audit log, HITL frontu. Jakákoli nedávná verze (14+).
Redis — pro per-request token trezor (efemérní). Standalone nebo clusterovaný.
GPU — pro engine ML detekce. Sizing podle vaší propustnosti; referenční hodnoty per úroveň v Helm chartu.
Networking — ingress do vaší aplikace (TLS), egress k LLM providerům (volitelně — může být zero-egress pro lokální LLM)

Upgrade path

Blue-green nasazení přes Helm. Zero-downtime, pokud máte víc replik. Migrace databáze běží automaticky při startu.

Pokrytí SDK

Jazyk	SDK	Stav
Python 3.9+	`stellargate` na PyPI	Production
TypeScript / Node 18+	`@stellarbase/gate` na npm	Production
Go 1.21+	`github.com/stellarbase/gate-go`	Beta
Java 17+	Maven Central	Beta
.NET 8+	NuGet	Beta
Rust	crates.io	Experimental

Pro cokoli jiného je HTTP API standardní — funguje jakýkoli HTTP klient. Swagger / OpenAPI spec je k dispozici na stránce API reference.

Konfigurace

Konfigurace je YAML pro self-hosted, admin UI + API pro managed. Běžná nastavení:

Detekční politika — strict / balanced / permissive
Slovníky — připojené přes API nebo UI
Allowlists
HITL triggery — per pravidlo
Per-model politiky — různá pravidla pro různé destinace
Retence — jak dlouho držet audit logy (default 90 dnů)

Observability

Endpoint Prometheus metrik na všech režimech. Typické metriky:

Rate requestů, latence anonymizace, latence de-anonymizace
Počty detekcí per kategorie
Hloubka HITL fronty, míra schvalování, míra zamítání
Rate volání per LLM provider, error rate, latence

OpenTelemetry traces dostupné pro detailní debugging.