Silné stránky
- Otvorené váhy pod voľnou licenciou Apache 2.0, ktorá dovoľuje komerčné použitie aj dotrénovanie na vlastné úlohy.
- Beží na jednej grafickej karte s 80 GB pamäte, napríklad H100. Podľa OpenAI sa v základných testoch uvažovania takmer vyrovná modelu o4-mini.
- Hĺbku premýšľania nastavíte na nízku, strednú alebo vysokú a vidíte celý postup uvažovania. Podporuje aj štruktúrované výstupy a volanie funkcií.
Slabé stránky
- Znalosti končia v júni 2024 a rozumie len textu, obrázky ani skeny dokumentov nespracuje.
- Kontextové okno má 131 000 tokenov, oveľa menej ako zhruba milión pri modeloch GPT-6 v API.
- Trénovali ho hlavne na anglických textoch, takže v slovenčine a češtine môže byť slabší.
- Na vlastný server potrebujete drahú grafickú kartu a niekoho, kto model nastaví a udržiava.
Na čo sa hodí
- nasadenie vo vlastnej firme, aj bez pripojenia na internet
- dáta, ktoré nesmú opustiť vašu infraštruktúru
- dotrénovanie na špecializované úlohy
Na čo radšej nie
- aktuálne udalosti a novinky
- práca s obrázkami a skenmi dokumentov
- najnáročnejšie uvažovanie na úrovni GPT-6
Ako ho používať na Slovensku
Či ho OpenAI API ešte ponúka, nie je jasné: v cenníku chýba a stránka modelu uvádza nulové limity. Počítajte teda s tým, že ho cez OpenAI priamo nepoužijete. Váhy si zadarmo stiahnete z Hugging Face a spustíte na vlastnom serveri, alebo ho použijete cez poskytovateľov, ktorí ho prevádzkujú. Licencia Apache 2.0 nemá geografické obmedzenia, takže ho môžete mať aj na serveri v EÚ a dáta nikam neodídu. Pri cudzom poskytovateľovi si overte, kde dáta spracúva.
Ďalšie modely výrobcu
- GPT-6 Astra: Najsilnejší model OpenAI na najťažšie programovanie, agentov, ktorí ovládajú počítač, a veľmi dlhé dokumenty.
- GPT-6.1 Sol: Vyvážený model OpenAI, ktorý sa kvalitou blíži k GPT-6 Astra za pätinu ceny. Dobrá voľba pre firemné aplikácie.
- GPT-6.1 Terra: Rýchly a lacnejší model OpenAI na prácu s obrázkami, ovládanie počítača a bežnú kancelársku prácu.
- GPT-6 Luna: Najlacnejší model OpenAI na veľké objemy jednoduchých úloh, triedenie textov a lacné chatboty.
- gpt-oss-20b: Menší otvorený model OpenAI, ktorý rozbeháte aj na počítači so 16 GB pamäte, a to aj bez internetu.
Podobné modely iných výrobcov
- Claude Fable 5.1 (Anthropic): Najdrahší model Claude na najťažšie úlohy a dlhú samostatnú prácu, keď nestačí ani Opus 5.5.