Community
Flint, il modello di coding locale di Recursive

- Recursive, la società di Richard Socher, rilascia Flint, il suo primo modello: pensato per scrivere codice e far girare agenti direttamente sul proprio computer, senza cloud. È un MoE (Mixture of Experts): 40B parametri in totale, ma solo 2.5B attivi per ogni token, per questo è leggero da eseguire.
- È stato costruito da zero in meno di quattro mesi da un piccolo team di persone e agenti: la loro Eureka Machine ha aiutato in quasi ogni parte, dai dati alle ricette di addestramento fino all'inferenza.
- Fra i MoE sotto i 50B è primo su SWE-Bench Pro v2, Terminal-Bench 2.1 e SWE-Bench Verified, e se la gioca con modelli densi da 25-40B pur essendo oltre 5 volte più veloce.
- Velocità con contesti brevi: oltre 125 token/s su un MacBook Pro M4 Pro e oltre 150 su una RTX Spark da 64GB, fino al doppio di modelli simili. Merito anche di quantizzazione (in NVFP4 perde meno di 0.7 punti rispetto ai 16 bit) e kernel scritti apposta per Apple Silicon e RTX Spark.
- Contesto fino a 512k token (consigliati al massimo 256k). Recursive avverte che può servirgli più guida rispetto ai grandi modelli chiusi.
- Pesi aperti con licenza Apache 2.0 su Hugging Face; funziona con llama.cpp, Ollama, Unsloth, LM Studio, vLLM, SGLang e col loro motore leggero rec per Mac M4 Pro e M5.


