StellarCloud: Jedno API pro každý AI model

Proč na sjednoceném API záleží

AI krajina je roztříštěná. Každý model provider má svůj vlastní API formát, autentizační schéma, rate limity, error kódy a cenový model. Pokud chcete používat GPT-4 pro jednu úlohu, Claude pro jinou a Llama pro cost-sensitive workloady, spravujete tři různé integrace, tři sady credentials a tři billing dashboardy.

Tohle není jen engineering nepohodlí. Vytváří to skutečné organizační problémy:

• Vendor lock-in — přepnutí modelů znamená přepsání integračního kódu, aktualizaci error handlingu a přeškolení týmů
• Nekonzistentní monitoring — využití, náklady a výkon jsou roztroušené napříč více dashboardy bez sjednoceného pohledu
• Pomalé experimentování — testování nového modelu vyžaduje novou integraci, což znamená týdny práce místo minut
• Bezpečnostní sprawl — každý provider potřebuje vlastní správu API klíčů, access controls a audit trail

StellarCloud tohle všechno eliminuje. Jeden API klíč, jeden formát, jeden dashboard. Modely přepínáte změnou jednoho string parametru.

Smart routing

Ne každý dotaz potřebuje GPT-4. Jednoduchý překlad nevyžaduje stejný model jako komplexní právní analýza. Ale dnes většina týmů buď používá stejný model na všechno (přeplácí za jednoduché úlohy), nebo dotazy ručně směřuje (přidává složitost a latenci).

Smart routing StellarCloud tohle řeší automaticky. Nastavte model: "auto" a definujte své optimalizační cíle — cena, latence, kvalita nebo balanc všech tří. Router analyzuje složitost dotazu v reálném čase a vybírá optimální model.

curl https://api.stellarbase.ai/v1/chat/completions 
  -H "Authorization: Bearer sb_your_key" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "auto",
    "messages": [
      {"role": "user", "content": "Translate this to French: Hello"}
    ],
    "routing": {
      "optimize": "cost",
      "max_latency_ms": 2000
    }
  }'

Routing engine používá lightweight klasifikátor, který přidává méně než 10 ms režie. Bere v úvahu délku dotazu, signály složitosti, jazyk a vaše nakonfigurovaná omezení. V čase se učí z vašich vzorců využití a dělá lepší routing rozhodnutí.

Routing strategie

• Cost optimization — směruje k nejlevnějšímu modelu splňujícímu prahy kvality. Typické úspory: 40-60 % oproti používání frontier modelu pokaždé
• Latency optimization — vybírá nejrychlejší model splňující požadavky kvality. Kritické pro real-time aplikace
• Quality optimization — vždy směruje k modelu s nejvyšší schopností, s fallback pořadím
• Balanced — vážená kombinace ceny, latence a kvality. Default pro většinu workloadů

EU datová rezidence

Veškerá infrastruktura StellarCloud běží v EU datových centrech. Vaše prompty, odpovědi a usage data nikdy neopouštějí Evropskou unii. Tohle je tvrdá záruka, ne best-effort politika.

Pro modely, které nemají nativní EU endpointy (jako některé OpenAI modely), StellarCloud směruje přes naši EU proxy vrstvu. Prompt opustí naši EU infrastrukturu, dorazí na API modelu a odpověď se vrátí do naší EU infrastruktury — ale vaše data nejsou nikdy uložená mimo EU. Prompty a odpovědi se drží jen v paměti po dobu trvání requestu.

Tohle dělá StellarCloud compliant s GDPR požadavky na datovou rezidenci bez jakékoli další konfigurace z vaší strany.

Cena

StellarCloud používá transparentní per-token ceny bez markupu na menších modelech a tenkou marží na frontier modelech. Platíte přesně za to, co spotřebujete — žádná měsíční minima, žádné seat license, žádné skryté poplatky.

• Open-source modely (Llama, Mistral, Mixtral) — v ceně, nepřidáváme žádnou marži
• Komerční modely (GPT-4, Claude, Gemini) — cena providera + 5 % infrastructure fee
• Smart routing — bez příplatku, zahrnuto v každém plánu
• Volume slevy — automatické stupňované ceny, které se aktivují při 10M tokenů/měsíc

Každý request je logovaný s přesnými počty tokenů a náklady ve vašem dashboardu, rozpadnuté podle modelu, týmu a projektu.

Podporované modely

StellarCloud aktuálně podporuje přes 30 modelů napříč šesti providery:

• OpenAI — GPT-4o, GPT-4o mini, GPT-4 Turbo, o1, o1-mini
• Anthropic — Claude Opus 4, Claude Sonnet 4, Claude Haiku 3.5
• Google — Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 2.0 Flash
• Mistral — Mistral Large, Mistral Medium, Mistral Small, Codestral
• Meta — Llama 3.3 70B, Llama 3.3 8B, Llama 3.1 405B
• Vlastní — bring your own model přes GGUF upload nebo VLLM endpoint

Nové modely jsou typicky dostupné do 48 hodin od veřejného vydání. Před povolením jakéhokoli nového modelu spouštíme kompatibilní testy proti sjednocenému API formátu.

Začínáme

S StellarCloud lze začít za méně než dvě minuty. Tady je nejrychlejší cesta:

Krok 1: Získejte API klíč

Zaregistrujte se na app.stellarbase.ai a vygenerujte API klíč v sekci StellarCloud. Žádná kreditní karta není potřeba pro free tier (100 tis. tokenů/měsíc).

Krok 2: První volání

StellarCloud je OpenAI-compatible, takže můžete použít jakoukoli existující OpenAI klientskou knihovnu. Tady je jednoduchý curl request:

curl https://api.stellarbase.ai/v1/chat/completions 
  -H "Authorization: Bearer sb_your_key" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "gpt-4o",
    "messages": [
      {"role": "user", "content": "Explain quantum computing"}
    ]
  }'

Krok 3: Použijte naše SDK (volitelně)

Pro lepší developer experience nainstalujte StellarBase SDK:

npm install @stellarbase/sdk

import StellarCloud from '@stellarbase/sdk';

const cloud = new StellarCloud('sb_your_key');

const response = await cloud.chat({
	model: 'claude-sonnet-4-20250514',
	messages: [{ role: 'user', content: 'Summarize this document...' }]
});

console.log(response.choices[0].message.content);

A je to. Teď máte přístup ke každému velkému AI modelu přes jediné API. Přepínejte modely, zapínejte smart routing a monitorujte využití — vše z jednoho místa. Navštivte stellarbase.ai/inference pro víc informací.