Mappare la mente di un LLM ( AI per Tutti )

Il testo descrive un progetto di ricerca di Anthropic volto a estrarre e interpretare le "funzionalità" interne del modello linguistico Claude 3 Sonnet utilizzando autoencoder sparsi, una tecnica di apprendimento del dizionario. Gli autori dimostrano che queste funzionalità sono astratte, multilingue e multimodali, attivandosi per concetti complessi come luoghi, persone, errori di codice e persino aspetti della consapevolezza del modello stesso. La ricerca evidenzia l'utilità di queste funzionalità per comprendere e influenzare il comportamento del modello, in particolare per identificare e mitigare potenziali rischi di sicurezza, come la generazione di contenuti dannosi, la disinformazione o la condotta ingannevole. Sebbene i risultati siano preliminari, suggeriscono un passo avanti significativo nella comprensione meccanicistica dei modelli AI su larga scala.