Community
Mistral Large 4 "Le Chonk" ora è open weight
Mistral AI ha pubblicato su Hugging Face i pesi di Mistral Large 4, soprannominato Le Chonk: un Mixture-of-Experts da 1.000 miliardi di parametri, con 49 miliardi attivi per token (52 miliardi contando embedding e strato di uscita), contesto da 1 milione di token e input di testo e immagini. Rispetto all'anteprima pubblica ha avuto tre settimane in più di reinforcement learning.
Cosa sa fare
- Coding agentico: 48% sul Coding Agent Index di Artificial Analysis, praticamente alla pari con GLM-5.3 (49%) ma con il 47% di token in meno per task; 19,7% su FrontierCode 2.0 di Cognition, primo tra i modelli aperti
- Terminal-Bench 4.0: 41%, 13 punti sopra l'anteprima
- Sicurezza informatica: 51% sul Cyber Index di Artificial Analysis, rifiuta il 96,6% delle richieste malevole e resiste al 97,1% degli attacchi sul benchmark B3; provato da aziende come CrowdStrike, Cloudflare, Rubrik e Zscaler
- Intelligence Index v5: 26, il punteggio più alto tra i modelli aperti occidentali (i migliori modelli aperti cinesi restano sopra)
- Ragionamento regolabile: sforzo
low,mediumohigha ogni richiesta, più function calling e output JSON con schema - Lingue: oltre 160, tutte quelle ufficiali dell'Unione Europea
Dentro il modello
Elie Bakouch ha analizzato i pesi appena usciti:
- Attenzione sparsa in ogni strato: un piccolo "indicizzatore" dà un voto a tutti i token già letti e ne tiene solo 2.048; l'attenzione vera lavora solo su quelli, quindi il costo smette di crescere oltre quella soglia
- 128 esperti: per ogni token se ne accendono 4 più uno condiviso, per questo pesa 1T ma ne calcola circa 49B
- Un quarto degli strati senza posizione (NoPE): dallo strato 35 in poi questi strati rileggono la memoria (KV) dello strato 35, e dallo strato 17 molti strati riusano i token scelti dall'indicizzatore dello strato prima (28 su 72)
- Contesto lungo: due parametri imparati, SSMax che rende l'attenzione più netta man mano che il testo si allunga e LeRoPE, una variante di YaRN
- Rispetto a Mistral Large 3 è molto più largo e più profondo: 72 strati
Dove si usa
- Pesi su Hugging Face con licenza Mistral Ecosystem Open-Weight (MIT modificata): uso commerciale libero, ma per rivenderlo come servizio (Model-as-a-Service) serve una licenza a parte
- API Mistral come
mistral-large-4: $0,70 per milione di token in input ($0,07 se in cache) e $2,10 in output - Anche su OpenRouter, Microsoft Foundry e gli endpoint NVIDIA; personalizzabile con Mistral Forge
- Versione NVFP4 più leggera per le GPU Blackwell e GGUF per llama.cpp
