Google Research insegna agli LLM a dormire

• Google Research presenta lo sleep framework: una fase di "sonno" offline in cui l'LLM sposta nei propri pesi ciò che ha imparato nel contesto, così non lo perde a fine sessione e non resta fermo alla data di cutoff, senza cadere nel catastrophic forgetting.
• Il sonno ha due tempi. Consolidamento: il modello attiva nuovi esperti MoE low-rank già predisposti, ci distilla la memoria a breve termine (on-policy distillation + imitation learning con RL) e poi azzera i parametri temporanei. Sogno: il router accende esperti a caso, il modello genera esempi sintetici ("sogni"), tiene i più utili con una selezione basata sui gradienti e si allena su quelli.
• Su BABILong il metodo regge fino a 10M token, mentre GPT-4 cede oltre i 128-256K. Su SQuAD integra fatti nuovi al 48,9% contro il 46,7% di SEAL.
• Con Qwen3-8B il sonno porta AIME 24 da 73,8 a 79,2% e HMMT 25 da 42,4 a 46,1%, meglio di SFT e GRPO. Imparando in sequenza due lingue mai viste (Manchu e Kalamang) non dimentica la prima, mentre ICL, Cartridges e SFT crollano.
• Firmano Ali Behrouz (già dietro Titans e Hope), Farnoosh Hashemi, Adel Javanmard e Vahab Mirrokni. È ricerca: il paper è su arXiv da giugno, le prove sono su modelli piccoli (Llama e Qwen3 fino a 8B) e non sono linkati codice o modelli.

Fonti

• Blog di Google Research
• Paper su arXiv
• Post su X