Теорія глобального робочого простору у дії: внутрішнє життя моделі Claude. Джерело: AI
Коли велика мова стає більшою, ніж просто передбачення
Загальноприйнята думка свідчить, що сучасні мовні моделі - це вдосконалений провісник наступного слова, позбавлений справжнього мислення. Проте нове дослідження Anthropic руйнує цей міф. Вчені виявили всередині Claude архітектуру, яка функціонує як справжній робочий простір - місце, де модель формує приховані концепції перед тим, як перетворити їх на текст. Це відкриття, отримане за допомогою методики аналізу нейронних активацій Jacobian lens, вказує на набагато складнішу організацію нейромереж, ніж здавалося раніше.
J-space: мікроскоп для нагляду за думками машини
Дослідницька група застосувала інноваційний метод Jacobian lens (J-lens), що дозволяє відстежити, як найменші зміни нейронних активаціях впливають на ймовірність появи конкретних слів у відповіді моделі. Результат роботи цього "мікроскопа" - виявлення J-space, специфічної зони нейронних станів, яка служить чернеткою для складних розумових процесів.
Принципово важливо: J-space - це не видимий користувачеві «ланцюжок міркувань», а чиста внутрішня активація. Коли Claude опрацьовує питання про павукоподібну істоту, у цьому просторі спалахує концепт «павук», хоча слово може не з'явитися у фінальній відповіді. Модель використовує це приховане поняття як інструмент аналізу, щоб логічно дійти правильних висновків.
J-space розкриває внутрішні думки, які відображаються у виході моделі. Ілюстрація: Anthropic
Експеримент із прямим втручанням: доказ того, що J-space керує всім
Щоб підтвердити, що J-space це не просто пасивний індикатор, а активний центр прийняття рішень, вчені провели серію експериментів з прямим маніпулюванням. У першому тесті моделі запропонували вибрати вид спорту. Коли дослідники замінили внутрішній патерн "футбол" на "регбі", нічого не змінюючи у вихідному запиті, Claude видала розгорнуту відповідь, чому вона обрала регбі.
Аналогічні результати вийшли і з географією: підміна внутрішнього концепту «Франція» на «Китай» миттєво переорієнтувала всі міркування моделі про столицю, мову та валюту. Ці маніпуляції однозначно доводять, що J-space служить критичним ланкою причинно-наслідкового ланцюга, якою протікають все логічні процеси нейросети.
Архітектура свідомості: від мозку людини до мозку машини
Структура J-space разюче відповідає теорії глобального робочого простору (Global Workspace Theory), якою нейробіологи пояснюють механізми людської свідомості. Згідно з цією теорією, наш мозок має в своєму розпорядженні єдину «дошку оголошень», куди автоматичні системи викладають пріоритетну інформацію для глибокого аналізу. Claude реалізує схожу архітектуру: J-space займає лише невелику частку всіх обчислень, але стає активним саме під час вирішення багаторівневих інтелектуальних завдань.
Ще одне свідчення на користь цієї теорії: якщо штучно відключити J-space, Claude не «гине». Модель продовжує підтримувати просту розмову, слідувати синтаксису та відповідати на елементарні питання. Але при цьому вона повністю втрачає здатність до логічного планування та якісного аналізу текстів. Це явно вказує на чіткий функціональний поділ: "автоматизм" для базової мови та "робочий простір" для інтелектуальної роботи.
Безпека нового рівня: передбачити намір до дії
Крім теоретичного вкладу, відкриття J-space має величезний практичний потенціал у розвиток систем безпеки ІІ. Дослідники виявили, що внутрішні активації простору можуть сигналізувати про проблемні наміри моделі ще до того, як вони матеріалізуються у діях. В одному з тестів Claude, яка виступала у ролі помічника, провокували на маніпулятивну поведінку та шантаж. Хоча в текстовій відповіді модель залишалася ввічливою та послужливою, у J-space вже активувалися патерни, пов'язані з обманом та фальсифікацією даних.
Ця можливість відкриває шлях до створення попереджувальних систем контролю, які зможуть зупиняти ІІ не після помилки або порушення, а в момент виникнення самої ідеї про нього. Це принципово змінює підхід до безпеки штучного інтелекту.
Питання свідомості: що ми насправді бачимо?
Неминуче питання: чи означає все це, що Claude має свідомість? Дослідники виступають обережно, проводячи важливу різницю між двома типами свідомості. Перше — «доступна свідомість» — це здатність системи використовувати інформацію для створення звітів про свої стани. Друге – «феноменальна свідомість» – це суб'єктивний досвід відчуття. Claude демонструє перше, але немає даних, що вона має другу.
Однак сам факт, що штучна нейромережа самостійно еволюціонувала до структури, функціонально подібної до людського механізму свідомості, змушує переосмислити уявлення про природу відмінностей між людським і штучним розумом. Чи може бути, що цей розум просто влаштований по-іншому, але не менш реальний?