Liquid RIPL, l'AI generativa dentro la singola richiesta

• Liquid AI presenta RIPL (Real-time Inference Pipeline), un motore di inferenza a latenza bassissima per mettere i suoi modelli LFM direttamente nel percorso di una richiesta in tempo reale: ricerca, pubblicità, antifrode, raccomandazioni, pagamenti. Sono ambiti dove la risposta serve in millisecondi, non in secondi.
• Restituisce risposte generate complete in meno di 50 ms, anche con traffico continuo al picco. Nei test di Liquid, LFM2.5-1.2B su RIPL ha una latenza p95 (il tempo entro cui arriva il 95% delle risposte) da 14.4 a 28.4 volte più bassa di Qwen3.5-0.8B su vLLM.
• È già in produzione su Shopify per migliorare la ricerca: risposte sotto i 20 ms, modelli con circa la metà dei parametri delle alternative e inferenza da 2 a 10 volte più veloce, senza perdere qualità.
• Disponibile per aziende su GPU NVIDIA come H100, H200, B200 e RTX PRO 6000.

Quellen

• Blog ufficiale
• Thread X annuncio
• Sito Liquid AI