Community
Self-assessment: Claude valuta da solo le proprie conversazioni per scovare gli abusi
- Anthropic ha presentato il self-assessment: subito dopo aver risposto, Claude dà una prima valutazione di sicurezza della conversazione. Indica se c'è una richiesta potenzialmente dannosa, di che tipo, se l'ha rifiutata e una priorità per la revisione umana. Non blocca nulla in tempo reale: le segnalazioni vanno in revisione offline.
- Su Claude Fable 5 segnala il 78% delle conversazioni che un classificatore più potente giudica dannose e il 94% di quelle ad alta priorità, con l'1% di falsi positivi. Costa poco: la conversazione è già nella KV cache, servono circa 10 token in più e meno del 2% di compute. Migliora man mano che migliorano i modelli.
- È attivo da giugno su tutti i modelli usciti da Fable 5 in poi e ha già trovato abusi che gli altri sistemi non vedevano: ad agosto oltre 100.000 segnalazioni di abusi su minori da un singolo cliente API, denunciate al NCMEC, e a settembre una truffa sentimentale automatizzata costruita con Claude Code. Anthropic precisa che non raccoglie dati in più dagli utenti.
