Open-weights generativní modely servírované z EU GPU. Různé velikosti, různé silné stránky — vyberte si explicitně, nebo nechte smart routing rozhodnout.

Dostupné modely

Ceny za tokeny najdete v ceníku StellarCloud.

GPT-OSS 120B

Open-weights LLM vydaný OpenAI. Široká univerzální schopnost, instruction-tuned, spolehlivý pro většinu workloadů. Apache 2.0 licence. 128K kontext.

• Nejvhodnější pro: obecné odpovídání na otázky, sumarizaci, většinu agent workflows, drafting
• Latence: závisí na délce výstupu; ze tří nejrychlejší na krátkých odpovědích

Devstral 2

Mistral model zaměřený na kódování. Silný na software engineering úlohy, tool use, agentic workflows s multi-step uvažováním. Apache 2.0. 128K kontext.

• Nejvhodnější pro: generování + review kódu, technické psaní, workflows volající mnoho nástrojů, strukturovaný výstup
• Latence: střední. Silný tool-calling compliance snižuje retry overhead.

Qwen 3.5 397B A17B

Frontier-tier open-weights model. Vícejazyčné uvažování, dlouhý kontext, top-end kvalita. 256K kontext.

• Nejvhodnější pro: komplexní uvažování, vícejazyčné workloady, long-context analýza (plné smlouvy, dlouhé papery), kdekoli byste použili GPT-4
• Latence: nejvyšší. Model je největší; odpovědi trvají nejdéle.

Volba mezi nimi

Záleží vám na…	Vyberte
Nejlevnější inference	GPT-OSS 120B
Nejrychlejší odpověď na krátké prompty	GPT-OSS 120B
Nejlepší kvalita kódování / tool-callingu	Devstral 2
Long-context (> 128K tokenů)	Qwen 3.5 397B
Nejlepší multilingual (EU jazyky)	Qwen 3.5 397B
Nejlepší uvažování na těžkých problémech	Qwen 3.5 397B
Budget-balanced default	Smart routing

Kontextová okna

„Kontextové okno” je maximální kombinovaná velikost vstup + výstup. Větší není vždycky lepší — delší kontexty stojí víc a jsou pomalejší. Typické vodítko:

• Krátké interakce (chat, Q&A): jakýkoli model ve svém defaultním kontextu je v pohodě
• Analýza dokumentu (jedna smlouva, jeden paper): 128K stačí na 300+ stránek
• Analýza korpusu (víc dokumentů, dlouhé konverzace): 256K (Qwen 3.5) nebo retrieval-augmented

Protože StellarBase agenti defaultně dělají retrieval-augmented generation, zřídka potřebujete předávat obrovský kontext — knowledge base servíruje relevantní pasáže a model operuje nad kurátorovanou podmnožinou. Long-context modely jsou pořád užitečné pro konkrétní workflows (sumarizace plné regulace, analýza 500-stránkové monografie).

Strukturovaný výstup

Všechny tři modely podporují strukturovaný výstup (JSON Schema nebo Pydantic-like definice). Devstral 2 má nejsilnější schema compliance — doporučujeme ho pro workflows, která musí produkovat striktní výstupy (řádky CSV, inserty do databáze, pole pro externí systémy).

Streamování

Token-by-token streaming je podporovaný na všech třech modelech. Default pro chat-like workloady, volitelný pro agent workflows, kde chcete plnou odpověď před akcí.

Tool use / function calling

Všechny tři podporují OpenAI-compatible tool calling. Devstral 2 má nejspolehlivější tool-calling chování napříč komplexními multi-step workflows.

Fine-tuning

Nenabízí se jako managed služba pro tyto modely. Pro customizaci použijte:

• System prompty — pro behaviorální ladění
• Retrieval — pro adaptaci znalostí (skoro vždycky správná odpověď)
• On-premise nasazení — pokud potřebujete plnou kontrolu nad váhami, self-hostněte model ve své infrastruktuře a fine-tunujte tam

Komerční LLM (GPT-4, Claude, Gemini)

Nejsou hostované na StellarCloud — jsou proprietární a hostuje je jejich vendor. Pořád je můžete používat z StellarBase přes StellarGate, který anonymizuje vaše prompty, než je přepošle vendoru.

Související

• Smart routing — nechte platformu vybrat
• API Reference — detaily endpointů
• StellarGate — používání komerčních LLM se soukromím