ScaleDown lancia i CDM: modelli che rispondono senza scrivere

• ScaleDown (CEO Neal Patel) presenta i Constrained Decoding Models (CDM), una nuova architettura pensata per i lavori ripetitivi dentro app e agenti. L'idea: se la risposta è già nel testo, non serve un LLM che la riscriva token per token. Ogni CDM fa un solo compito, legge l'input una volta e salta il ciclo generativo.
• Tre modelli già disponibili: Classify (le tue etichette, con probabilità calibrata e motivazione per ciascuna; per routing, tag, intenti), Extract (descrivi i campi a parole, ricevi JSON con confidenza e citazioni; per scraping, documenti, oscuramento di dati personali) e Summarize (testi lunghi, immagini o PDF in un riassunto sotto i 1.000 token).
• Numeri dichiarati dall'azienda: input fino a 1M token multimodale, 77.2% su DecisionBench contro il 72% di Jev, 200× più veloci e 467× più economici delle API frontier. Costano $0.05 per milione di token in input e l'output è gratis. Già su OpenRouter, Vercel, LiteLLM e LangChain.

Quellen

• Annuncio di Neal Patel su X
• Sito ScaleDown
• Docs
• Modelli su OpenRouter