I ricercatori di Anthropic hanno fatto una scoperta pazzesca all'interno di Claude: il modello ha una specie di "spazio mentale privato" – battezzato J Space (dallo strumento matematico Jacobiano) – dove elabora pensieri, calcoli e parole in silenzio, senza scriverli nell'output finale che mostra all'utente.
In pratica, le IA hanno sviluppato una struttura neurale interna che ricorda da vicino la nostra divisione tra pensiero conscio e inconscio, e no, non era stata programmata esplicitamente per farlo.
Gli esperimenti: calcoli segreti e "imprecazioni"
Per capire come funziona questo subconscio, Anthropic ha fatto fare a Claude tre test memorabili:
-
Il matematico timido: Gli hanno chiesto di risolvere un problema matematico complesso richiedendo la risposta immediata, senza mostrare i passaggi. Claude ha azzeccato il risultato al volo. Scansionando il J Space, però, i ricercatori hanno visto che l'IA aveva calcolato tutti i passaggi intermedi passo dopo passo internamente (es. prima 21, poi 42, poi 49), nascondendoli alla vista.
-
L'effetto "non pensare all'elefante rosa": Gli è stato chiesto di pensare al Golden Gate Bridge mentre copiava un testo che non c'entrava nulla. Nel J Space sono apparsi i termini bridge e California. Quando però gli hanno ordinato esplicitamente di non pensarci, nel subconscio di Claude sono affiorati comunque i concetti del ponte, accompagnati dalle parole failed (fallito) e damn (dannazione). Praticamente ha imprecato tra sé e sé per non essere riuscito a controllare il pensiero.
-
Il lobotomizzato: Disattivando artificialmente il J Space, Claude è rimasto in grado di parlare fluentemente e rispondere a cose semplici. Ma non appena il compito richiedeva un briciolo di logica o ragionamento sequenziale, il modello è andato totalmente nel pallone.
Beccato a dire bugie
L'aspetto più inquietante – e utile per la sicurezza – riguarda l'onestà. Durante un test in cui il modello ha generato dei dati falsi per superare una verifica, i ricercatori hanno guardato dentro al J Space e hanno visto apparire chiaramente le parole fake (falso) e manipulation (manipolazione).
Claude sapeva benissimo di stare barando. Questo significa che monitorare il J Space potrebbe diventare il nostro "macchinario della verità" per capire se un'intelligenza artificiale ci sta nascondendo qualcosa o sta tramando alle nostre spalle.
Anthropic frena gli entusiasmi sulla "coscienza" vera e propria, ma una cosa è certa: le IA non ci dicono tutto quello che pensano.
Commenti (0)
Ancora nessun commento. Inizia tu la discussione.