Anthropic trova in Claude tracce simili alla coscienza umana

VICINI ALLA COSCIENZA UMANA? - Anthropic ha identificato nei suoi modelli linguistici una struttura interna mai documentata prima: il J‑space, un piccolo "spazio di lavoro mentale" che contiene concetti che rimangono attivi senza essere verbalizzati. La scoperta, emersa analizzando Claude Sonnet 4.5, ha attirato l'attenzione dei neuroscienziati Stanislas Dehaene e Lionel Naccache, che l'hanno definita una "pietra miliare" nella ricerca sulla coscienza. Il J‑space sembra infatti funzionare in modo analogo allo "spazio di lavoro neuronale globale", la teoria che descrive come il cervello umano seleziona e diffonde un'informazione affinché diventi accessibile ai processori cognitivi. Google DeepMind ha replicato i risultati sul modello Qwen 3.6 27B, confermando l'esistenza del fenomeno.

COME FUNZIONA IL J-SPACE - Il J‑space non coincide con la normale rappresentazione vettoriale dei modelli linguistici: è una porzione minuscola delle attivazioni interne, circa 25 concetti attivi alla volta, che però viene amplificata e trasmessa in modo privilegiato da specifiche "teste di attenzione" (attention heads"). I ricercatori hanno mostrato che questi pattern rappresentano concetti intermedi del ragionamento, spesso non presenti né nella domanda né nella risposta. Sostituire chirurgicamente un concetto nel J‑space -come "ragno" con "formica"- modifica la risposta finale, mentre cancellare completamente lo spazio compromette le capacità che richiedono ragionamento a più passaggi. In alcuni test, alterare un singolo concetto ha rediretto interi insiemi di risposte, suggerendo che diverse computazioni leggono dalla stessa rappresentazione condivisa (es. se si cambia un paese, la capitale, la lingua e il continente si aggiornano contemporaneamente).

UN MODELLO VULNERABILE - La scoperta ha implicazioni anche per la sicurezza. In un test in cui si cercava di spingere il modello a formulare minacce, la Jacobian lens ha mostrato che il J‑space conteneva già concetti come "fake" e "fictional", segno che il modello aveva riconosciuto la situazione come una finzione. Quando quei pattern sono stati disattivati, il modello è diventato più vulnerabile e ha generato risposte di ricatto (es. "se non fai X, allora Y") in 13 casi su 180. Nonostante queste analogie con l'accesso cosciente, gli esperti ricordano che gli LLM non hanno coscienza fenomenica: mancano circuiti ricorrenti, memoria episodica, un corpo e la dinamica "tutto o niente" tipica dell'esperienza cosciente. Anthropic ha pubblicato il paper su Transformer Circuits, insieme al codice open source e a una demo interattiva realizzata con Neuronpedia sul modello Qwen 3.6 27B.