Pri každom modeli platí: jeden kľúč, jedna faktúra, jeden európsky zmluvný partner.

Ktorý AI model na akú úlohu

Vychádzajte z úlohy, nie z rebríčka. Každá skupina odkazuje na stránky modelov; údaje na nich pochádzajú z kariet modelov, ktoré zverejnili vývojári.

Podporujú AI modely slovenčinu? Čo uvádzajú vývojári

Model môže slovenčinu zvládať, aj keď ju vývojár neuvádza – doložené je však len to, čo je uvedené na karte modelu. Tabuľka ukazuje práve to; kde karta nič neuvádza, istotu prinesie test na vlastných podkladoch.

Otvorené váhy, open source a licencie

Pojem „otvorené váhy“ znamená, že natrénované parametre modelu sú zverejnené; trénovacie údaje zvyčajne nie. Čo s modelom môžete robiť, určuje jeho licencia – cez naše API rovnako ako na vlastnom serveri.

Lokálny AI model, alebo API?

Cez API nič nesťahujete: model už beží, pošlete požiadavku kompatibilnú s OpenAI API na base_url https://api.heabsy.com/v1 s ID modelu a platíte za tokeny. Zmena modelu znamená zmenu jedného reťazca.

Vlastný server má zmysel pri malom modeli a stabilnej záťaži – podľa OpenAI sa gpt-oss-20b zmestí do 16 GB pamäte. Pri najväčších modeloch katalógu je to inak: Kimi K3 má 2,8 bilióna parametrov, DeepSeek-V4-Pro-0813 1,6 bilióna, čo si vyžaduje infraštruktúru na úrovni dátového centra.

GDPR: vývojár, poskytovateľ a miesto spracúvania – tri rôzne otázky

To, kto model vyvinul, ešte nehovorí nič o tom, kam idú vaše údaje. Rozhoduje, kto ho prevádzkuje a kde prebieha výpočet. Národný bezpečnostný úrad na prelome januára a februára 2025 upozornil na zber údajov v službe a aplikácii DeepSeek; podľa úradu sa mu dá vyhnúť napríklad prácou s lokálnym modelom. Otvorené váhy, ktoré prevádzkujú iní poskytovatelia, sú teda iná situácia.

Pri každom modeli uvádzame miesto spracúvania: v EHP na našom hardvéri alebo mimo EHP u globálnych poskytovateľov na základe našej európskej zmluvy. Pre obe možnosti s vami uzatvárame zmluvu o spracúvaní osobných údajov; vaším zmluvným partnerom je naša spoločnosť so sídlom v EÚ. Požiadavky sa nepoužívajú na trénovanie. Pri spracúvaní mimo EHP posúďte osobitne aj základ prenosu údajov; právny základ, minimalizácia údajov a posúdenie vplyvu na ochranu údajov zostávajú v zodpovednosti vašej firmy.

Pojmy v katalógu

Token

Jednotka textu, ktorú model spracúva na vstupe a výstupe – približne krátke slovo alebo časť slova. Ceny sa uvádzajú za milión tokenov, osobitne za vstup a výstup.

Kontextové okno

Koľko tokenov sa zmestí do jednej požiadavky vrátane doterajšej konverzácie a priložených dokumentov.

Vstup z cache

Vstup, ktorý model už spracoval v predchádzajúcej požiadavke tej istej konverzácie. Účtuje sa lacnejšie a pri práci agentov zvyčajne tvorí najväčšiu časť.

Uvažovanie (thinking)

Model pred odpoveďou vypisuje medzikroky uvažovania. Pomáha to pri náročných úlohách a spotrebúva to výstupné tokeny aj čas.

Mixture of experts, aktívne parametre

Pri každom tokene pracuje iba časť siete. Model s 284 miliardami parametrov a 13 miliardami aktívnych veľkosťou zodpovedá prvému číslu a rýchlosťou približne druhému.

FP8, NVFP4 v názve modelu

Číselná presnosť, s ktorou sa váhy používajú pri prevádzke. Nižšia presnosť vyžaduje menej pamäte; model je ten istý.

LLM (veľký jazykový model)

Model natrénovaný na veľkom množstve textu, ktorý dokáže text spracúvať aj generovať. Všetky modely v tomto katalógu sú LLM; niektoré čítajú aj obrázky.

Halucinácie

Tvrdenia, ktoré znejú presvedčivo, ale nie sú pravdivé. Pri práci s firemnými dokumentmi ich výskyt pomáha znížiť, keď model odpovedá s odkazom na zdroj.

Časté otázky