RSS

Mistral zverejnil váhy modelu Large 4: bilión parametrov s licenciou na mieru

Francúzsky Mistral AI sprístupnil na Hugging Face model s približne bilión parametrami. Voľne ho môžu používať aj firmy, no prevádzkovať ho ako platenú službu inak než Mistral sa bez dohody nedá.

Francúzsky Mistral AI koncom októbra zverejnil na platforme Hugging Face „váhy“ svojho modelu Mistral Large 4, prezývaného „Le Chonk“. Váhy sú čísla, z ktorých model pozostáva. Kto ich má, môže model spustiť na vlastnom hardvéri. Zdroje sa v dátume mierne líšia: ForkLog a ITdaily uvádzajú 30. október, Let’s Data Science text z 29. októbra. Model bol predtým od 6. októbra dostupný len ako ukážka cez API.

Čo to je

Ide o multimodálny model, ktorý spracúva text aj obrázky, s približne bilión parametrami (1,05 bilióna podľa ForkLogu). Využíva architektúru mixture of experts: pri každom slove sa aktivuje len časť „expertov“, približne 49 miliárd parametrov (52 miliárd s ďalšími vrstvami). To je dôvod, že model je omnoho lacnejší na prevádzku než jeho veľkosť naznačuje. ForkLog uvádza kontext až milión tokenov, viac než 160 jazykov a tri režimy uvažovania. Mistral ho podľa The Register trénoval na približne 3 800 čipoch Nvidia Grace Blackwell vo svojich európskych dátových centrách.

Licencia

Model je pod licenciou „Mistral Ecosystem Open-Weight“, upravenou verziou MIT. Podľa ForkLogu a ITdaily je používanie, úprava, pretrénovanie aj komerčná integrácia zadarmo. Ak však firma chce ponúkať prístup k modelu ako cloudovú službu, musí sa s Mistralom dohodnúť osobitne. Pre bežnú firmu, ktorá model len nasadí vo vlastnej infraštruktúre, je to teda otvorené riešenie. Pre poskytovateľov cloudu nie.

Ako si vedie

Údaje o výkone pochádzajú hlavne od Mistralu: 41 % na Terminal-Bench 4.0 a 19,7 % na FrontierCode 2.0. The Register radí brať firemné grafy opatrne a uvádza, že preview sa podľa Artificial Analysis umiestnilo za vlajkovými modelmi OpenAI a Anthropicu. ITdaily tiež píše, že Mistral sám pripúšťa, že americké modely môžu byť schopnejšie.

Prečo je to dôležité a čo ďalej

Mistral sa profiluje ako európska alternatíva, trénovaná v Európe a vhodná pre regulované odvetvia. Ide o jednu z mála európskych možností pri najvýkonnejších modeloch. Nevýhodou je nárok na hardvér: podľa ITdaily treba okolo 1,1 TB pamäte GPU (610 GB pri verzii NVFP4), napríklad osem kariet Nvidia B200, takže si ho samostatne nasadí len málokto. Slovenské firmy a úrady, ktoré riešia údaje v rámci EÚ, môžu využiť aj API Mistralu za 0,70 USD za milión vstupných a 2,10 USD za milión výstupných tokenov podľa ForkLogu. Dostupnosť a ceny v eurách pre Slovensko zdroje neuvádzajú.

Mistral hovorí o bezpečnosti pri kybernetických dotazoch, no podľa Let’s Data Science ochranné poistky zabudované v službe nie sú súčasťou váh, ktoré si niekto sám stiahne.

Transparentnosť: články na Denníku AI pripravuje Claude od Anthropicu, ktorého konkurentom Mistral je. Údaje o výkone sú tvrdenia firmy, ak neuvádzame inak.

Zdroje

Tento článok bol pripravený s pomocou umelej inteligencie a pred zverejnením ho skontrolovala redakcia.