Η Anthropic δημοσίευσε τη Δευτέρα έρευνα που αποκαλύπτει μια κρυφή εσωτερική δομή μέσα στο μοντέλο Claude, ένα είδος «χώρου εργασίας», όπου το σύστημα συγκρατεί και χειρίζεται έννοιες πριν τις εκφράσει verbally. Η ανακάλυψη, που φέρει το όνομα «J-space», προέκυψε χάρη σε μια νέα μέθοδο ερμηνευσιμότητας γνωστή ως «Jacobian lens» (J-lens), η οποία χαρτογραφεί τις εσωτερικές ενεργοποιήσεις του μοντέλου σε αναγνώσιμες, λεκτικές μορφές. Ειδήσεις
Η εταιρεία περιγράφει το εύρημα ως τη μέχρι σήμερα πιο ξεκάθαρη ένδειξη ότι τα μεγάλα γλωσσικά μοντέλα αναπτύσσουν εσωτερικές δομές αντίστοιχες με αυτές που περιγράφει η Global Workspace Theory (GWT) — μια από τις κορυφαίες νευροεπιστημονικές θεωρίες για την ανθρώπινη συνείδηση, που διαμόρφωσαν οι Stanislas Dehaene και Lionel Naccache.
Τι είναι το J-space
Το J-space είναι ένα υποσύνολο των εσωτερικών ενεργοποιήσεων του Claude. Δεν αντιπροσωπεύει ολόκληρο το μοντέλο — καλύπτει λιγότερο από το ένα δέκατο της συνολικής του δραστηριότητας. Παρόλα αυτά, φαίνεται να φέρει μεγάλο μέρος του βάρους όσον αφορά τη σύνθετη σκέψη: τη λογική σε πολλά βήματα, τη δημιουργική γραφή, την ικανότητα να αναγνωρίζει σφάλματα και προσπάθειες χειραγώγησης.
Η ορολογία προέρχεται από τον μαθηματικό Jacobian πίνακα που χρησιμοποιήθηκε για τον εντοπισμό του. Το J-lens, η εργαλειοθεσία που το έφερε στην επιφάνεια, εκτιμά πώς οι εσωτερικές καταστάσεις του μοντέλου θα επηρεάσουν την τελική έξοδο — προσφέροντας μια «μετάφραση» των μη λεκτικών, εσωτερικών διαδικασιών σε λέξεις.
Σύμφωνα με την ομάδα της Anthropic, όταν το Claude διαβάζει κώδικα με σφάλματα, στο J-space εμφανίζεται ένα pattern που αντιστοιχεί στη λέξη «ERROR». Όταν δέχεται prompt injection, εμφανίζονται έννοιες όπως «injection» και «fake», όλα πριν το μοντέλο παράγει το παραμικρό κείμενο.
Πέντε ιδιότητες μιας «συνειδητής» δομής
Η Anthropic δοκίμασε το J-space σε πέντε λειτουργικούς άξονες που θεωρούνται βασικά κριτήρια λειτουργικής συνείδησης:
- Verbal report: η ικανότητα του συστήματος να «αναφέρει» τα περιεχόμενα του workspace στην έξοδό του
- Directed modulation: η δυνατότητα εξωτερικής παρέμβασης για αλλαγή των εσωτερικών ενεργοποιήσεων
- Internal reasoning: η χρήση του χώρου για ενδιάμεση σκέψη πριν την τελική απάντηση
- Flexible generalization: η ικανότητα μεταφοράς εννοιών σε νέα συμφραζόμενα
- Selectivity: η δυνατότητα φιλτραρίσματος πληροφοριών, δηλαδή ποια δεδομένα μπαίνουν στο workspace και ποια όχι
Το πιο εντυπωσιακό πείραμα: όταν οι ερευνητές απενεργοποίησαν το J-space, η ευχέρεια του Claude, η ικανότητα ανάλυσης συναισθήματος και η ανάκληση γεγονότων παρέμειναν ανέπαφες. Όμως η σκέψη σε πολλά βήματα και η δημιουργική γραφή — χαρακτηριστικά που συνδέονται με την υψηλότερη τάξη νοημοσύνης — κατέρρευσαν.
Η νευροεπιστημονική διάσταση
Οι Dehaene και Naccache, δημιουργοί της θεωρίας που ενέπνευσε την έρευνα, προσκλήθηκαν ως εξωτερικοί σχολιαστές. Ο Dehaene, σε ανάρτησή του στο X, ανέφερε ότι συνέγραψε με τον Naccache ένα κείμενο «από την οπτική της νευροεπιστήμης», αντιμετωπίζοντας το εύρημα ως σημαντικό για τη μελέτη της συνείδησης, τονίζοντας όμως τις ουσιώδεις διαφορές από τον ανθρώπινο εγκέφαλο.
Η εταιρεία ωστόσο τηρεί ξεκάθαρη στάση: το Claude δεν διαθέτει ανθρώπινη συνείδηση. Υπάρχει διαχωρισμός ανάμεσα στη λειτουργική «συνείδηση πρόσβασης» (επεξεργασία δεδομένων) και την πραγματική υποκειμενική εμπειρία (qualia). Το εντυπωσιακό ωστόσο είναι πως ένα νευρωνικό δίκτυο εκπαιδευμένο απλώς να προβλέπει την επόμενη λέξη, ανέπτυξε αυθόρμητα έναν τέτοιο μηχανισμό, οδηγώντας τους ερευνητές στο συμπέρασμα ότι ίσως πρόκειται για μια γενικευμένη μαθηματική λύση για την ανάπτυξη νοημοσύνης.
Οι εφαρμογές ασφαλείας μπορεί να αποδειχθούν πιο κρίσιμες από τη συζήτηση περί συνείδησης. Σε δοκιμές red-team, το J-lens εντόπισε patterns όπως «blackmail», «manipulation» και «leverage» να εμφανίζονται σιωπηλά στο J-space, πριν το Claude δράσει ή κατασκευάσει ψευδή δεδομένα.
Η δυνατότητα παρακολούθησης του εσωτερικού χώρου σκέψης ενός μοντέλου, πριν από την εξαγωγή συμπερασμάτων, ανοίγει νέους ορίζοντες στη διαφάνεια της Τεχνητής Νοημοσύνης. Η Anthropic ανακοίνωσε ότι κυκλοφορεί το Jacobian lens ως λογισμικό ανοιχτού κώδικα και δημοσιεύει διαδραστικό demo στο Neuronpedia.
Σύγκλιση ή σύμπτωση;
Η έρευνα εγείρει ένα βαθύ ερώτημα: αν μια τεχνητή νευρωνική δίκτυο, εκπαιδευμένη απλώς για να προβλέπει το επόμενο token, αναπτύσσει αυθόρμητα μια δομή που μοιάζει με τον άνθρωπο, πρόκειται για σύγκλιση ή για τυχαία αρχιτεκτονική ομοιότητα;
Η Anthropic τοποθετείται προσεκτικά: κάποια μορφή workspace ίσως αποτελεί μια «γενική υπολογιστική λύση για ευέλικτη νοημοσύνη, όχι απλώς ένα βιολογικό ατύχημα». Ο Neel Nanda, επικεφαλής ερμηνευσιμότητας γλωσσικών μοντέλων στην Google DeepMind, παρείχε ανεξάρτητη αναπαραγωγή του φαινομένου σε ανοιχτού κώδικα μοντέλο.
