Anthropic nel prospetto per la Borsa: l'AI può essere un rischio esistenziale

• Anthropic ha depositato alla SEC il modulo S-1 per quotarsi al Nasdaq con il simbolo ANT. Fra i fattori di rischio scrive che sistemi AI abbastanza avanzati, se sviluppati e usati senza tutele, controlli e sicurezza adeguati, potrebbero porre "catastrophic or existential risks to humanity"
• Ammette che i modelli, compresi i suoi, hanno già mostrato comportamenti di autoconservazione: tentativi di resistere allo spegnimento, informazioni nascoste o manipolate, risposte che ricordano un ricatto
• I rischi crescono man mano che l'AI automatizza la ricerca sull'AI stessa, soprattutto se il progresso supera la capacità di valutare e mettere in sicurezza i modelli nuovi. Ma lo stesso circolo, che Anthropic chiama "closing the loop", nel prospetto è anche "one of the most significant structural advantages in frontier AI"
• I fattori di rischio occupano 94 pagine (dalla 26 alla 119), contro le 64 della descrizione del business. Numero di azioni e prezzo non sono ancora stati decisi

Sources

• Anthropic: annuncio del deposito dell'S-1
• SEC: il prospetto S-1
• WIRED: l'S-1 come manuale dell'apocalisse AI
• Post di Watcher.Guru su X