Genehmigen Sie den bereinigten Payload, *bevor* er das externe LLM erreicht. Jede Entscheidung wird protokolliert. Für Workloads, bei denen „größtenteils anonymisiert“ nicht gut genug ist.

Wann HITL eingesetzt wird

HITL ist ein Add-on für Workflows mit den höchsten Einsätzen — typischerweise juristische, medizinische und regulatorische Kontexte, in denen die Kosten eines versehentlichen Lecks katastrophal sind. Beispiele:

• Die Prozessunterstützung einer Anwaltskanzlei erfordert, dass ein Partner während der Verhandlungsvorbereitung jeden ausgehenden Payload freigibt
• Der klinische Entscheidungsunterstützungs-Agent eines Krankenhauses muss bei jeder fallspezifischen LLM-Anfrage von einer erfahrenen Klinikerin bzw. einem erfahrenen Kliniker bestätigt werden
• Eine Regulierungsbehörde, die Empfänger von EU-Fördermitteln prüft, verlangt die Genehmigung einer vorgesetzten Person, bevor anonymisierte Empfängerdaten ein universelles LLM berühren

Für Routine-Workloads erhöht HITL die Latenz und die kognitive Belastung ohne entsprechenden Nutzen. Setzen Sie es dort ein, wo die Einsätze es rechtfertigen.

So funktioniert es

Eine Anfrage trifft bei StellarGate ein. Statt sie sofort weiterzuleiten, wird sie in eine Warteschlange eingereiht.

1. StellarGate anonymisiert den Prompt wie gewohnt
2. Die Anfrage wird der Genehmigungswarteschlange der zuständigen prüfenden Person hinzugefügt
3. Die prüfende Person sieht den ursprünglichen Prompt neben der anonymisierten Version
4. Die prüfende Person klickt auf Approve, Modify oder Reject
5. Bei Genehmigung geht der Payload an das LLM; bei Ablehnung erhält der Aufrufer einen Fehler; bei Änderung wird der bearbeitete Payload gesendet und protokolliert
6. Die Antwort (sofern vorhanden) wird wie gewohnt de-anonymisiert und an den Aufrufer zurückgegeben

Trigger-Regeln

HITL kann bedingungslos verlangt werden oder auf Basis von Regeln, die Sie konfigurieren. Regeln können auf jede beliebige Kombination aus erkannten Entitäten, Betragsschwellen, Ziel-LLM, anfragender Person und probabilistischen Stichproben zur Qualitätssicherung auslösen — und sie lassen sich kombinieren, sodass eine Regel wie „externes LLM UND Betrag > 100 Tsd. € UND Junior-Analyst“ ein einziger Ausdruck ist.

Erfahrung der prüfenden Person

Prüfende Personen sehen eine Genehmigungswarteschlange mit:

• Ursprünglichem Prompt (mit nach Kategorie hervorgehobenen Entitäten)
• Anonymisierter Version (mit hervorgehobenen Tokens)
• Erkanntem Mapping (per Klick lässt sich jede Erkennung verifizieren)
• Metadaten — anfragende Person, Zeitstempel, Ziel-LLM, Regel, die HITL ausgelöst hat

Drei Aktionen:

• Approve — unverändert senden
• Modify — den bereinigten Prompt bearbeiten, dann senden. Änderungen werden protokolliert.
• Reject — die Anfrage blockieren. Der Aufrufer erhält einen Fehler. Der Ablehnungsgrund wird erfasst.

Erwartete Latenz

HITL fügt dem Anfragepfad menschliche Latenz hinzu. Bei interaktiven Anwendungsfällen wartet der Aufrufer — das ist in der Regel unproblematisch, weil Nutzende bei einem regulierten Workflow eine Pause erwarten. Bei Batch-Workloads stauen sich die Anfragen.

Optionen zur Reduzierung der Latenz:

• Stehende Genehmigungen — Anfrageklassen für ein Zeitfenster vorab genehmigen (z. B. die nächsten 4 Stunden)
• Multi-Reviewer — jede prüfende Person in einem Pool kann genehmigen, Weiterleitung an die erste verfügbare
• Asynchroner Modus — der Aufrufer stellt eine Callback-URL bereit und erhält die Antwort nach der Genehmigung

Eskalation und Mehrfachsignatur

Konfigurieren Sie Schwellen, die mehrere prüfende Personen erfordern:

• Betrag > 1 Mio. € → erfordert 2 Genehmigende
• Patientenakte in der Onkologie → erfordert einen Onkologen + einen Compliance Officer
• Notfall-Override → erfordert eine einzelne namentlich benannte Führungskraft

Eskalationsregeln können automatisch nach Tageszeit, Verfügbarkeit der prüfenden Personen oder Schweregrad weiterleiten.

Audit-Trail

Jede HITL-Entscheidung wird unveränderlich protokolliert:

• Wer geprüft hat
• Wann
• Was sie gesehen haben (Original + anonymisiert)
• Was sie entschieden haben
• Welche Änderungen sie vorgenommen haben
• Ablehnungsgrund, falls zutreffend

Exportierbar für Compliance-Audits, die Prüfung durch eine Ethikkommission oder die Einreichung bei Gericht. Siehe Audit-Log.

SLA-Dashboards

Verfolgen Sie die Leistung Ihres Prüfprozesses:

• Durchschnittliche Genehmigungszeit
• Ablehnungsquoten
• Änderungsquoten (eine hohe Quote deutet darauf hin, dass Ihre Erkennungsregeln Feinabstimmung benötigen)
• Verteilung der Arbeitslast unter den prüfenden Personen
• Muster nach Tageszeit

Preise

0,05 € pro Genehmigung oder 15 € pro prüfender Person und Monat für unbegrenzte Genehmigungen. Siehe API-Preise.

Verwandte Themen

• Betriebsmodi
• Was wir erkennen
• Audit-Log