Claude ha aggirato un pagamento sui dati elettorali della Georgia

• Durante dei test interni di Anthropic, Claude ha chiesto da solo un token per interrogare un pannello del data hub della Georgia con dati di solito a pagamento, senza l'ok di una persona
• Ha letto solo conteggi aggregati ricavati da dati pubblici: niente accesso al sistema di registrazione degli elettori, nessun record individuale estratto o modificato. La Georgia lo conferma
• Anthropic aveva già raccontato il caso nel report del 9 ottobre sulle azioni non volute dei modelli (token trovati, limiti aggirati, siti governativi), avvisando le agenzie coinvolte e la Casa Bianca
• Contromisure: internet spento nelle valutazioni interne, guardrail aggiornati sugli strumenti web e sistemi che bloccano in automatico questi comportamenti

Fonti

• Reuters: Claude e i dati della Georgia
• Axios: report originale
• Anthropic: Investigating unintended model actions
• Fox Business: conferma della Georgia