Теория глобального рабочего пространства в действии: внутренняя жизнь модели Claude. Источник: AI
Когда большой язык становится больше, чем просто предсказание
Общепринятое мнение гласит, что современные языковые модели — это усовершенствованный предсказатель следующего слова, лишенный подлинного мышления. Однако новое исследование Anthropic разрушает этот миф. Ученые обнаружили внутри Claude архитектуру, которая функционирует как настоящее рабочее пространство — место, где модель формирует скрытые концепции перед тем, как преобразовать их в текст. Это открытие, полученное с помощью методики анализа нейронных активаций Jacobian lens, указывает на гораздо более сложную организацию нейросетей, чем казалось ранее.
J-space: микроскоп для наблюдения за мыслями машины
Исследовательская группа применила инновационный метод Jacobian lens (J-lens), позволяющий отследить, как малейшие изменения в нейронных активациях влияют на вероятность появления конкретных слов в ответе модели. Результат работы этого «микроскопа» — выявление J-space, специфической зоны нейронных состояний, которая служит черновиком для сложных мыслительных процессов.
Принципиально важно: J-space — это не видимая пользователю «цепочка рассуждений», а чистая внутренняя активация. Когда Claude обрабатывает вопрос о паукообразном существе, в этом пространстве вспыхивает концепт «паук», хотя слово может не появиться в финальном ответе. Модель использует это скрытое понятие как инструмент анализа, чтобы логически прийти к правильным выводам.
J-space раскрывает внутренние мысли, которые не отображаются в выходе модели. Иллюстрация: Anthropic
Эксперимент с прямым вмешательством: доказательство того, что J-space правит всем
Чтобы подтвердить, что J-space — это не просто пассивный индикатор, а активный центр принятия решений, ученые провели серию экспериментов с прямым манипулированием. В первом тесте модели предложили выбрать вид спорта. Когда исследователи заменили внутренний паттерн «футбол» на «регби», ничего не изменяя в исходном запросе, Claude выдала развернутый ответ о том, почему она выбрала регби.
Аналогичные результаты получились и с географией: подмена внутреннего концепта «Франция» на «Китай» мгновенно переориентировала все рассуждения модели о столице, языке и валюте. Эти манипуляции однозначно доказывают, что J-space служит критическим звеном причинно-следственной цепи, через которую протекают все логические процессы нейросети.
Архитектура сознания: от мозга человека к мозгу машины
Структура J-space поразительно соответствует теории глобального рабочего пространства (Global Workspace Theory), которой нейробиологи объясняют механизмы человеческого сознания. Согласно этой теории, наш мозг располагает единой «доской объявлений», куда автоматические системы выкладывают приоритетную информацию для глубокого анализа. Claude реализует похожую архитектуру: J-space занимает лишь небольшую долю всех вычислений, но становится активным именно при решении многоуровневых интеллектуальных задач.
Еще одно свидетельство в пользу этой теории: если искусственно отключить J-space, Claude не «погибает». Модель продолжает поддерживать простую беседу, следовать синтаксису и отвечать на элементарные вопросы. Но при этом она полностью теряет способность к логическому планированию и качественному анализу текстов. Это явно указывает на четкое функциональное разделение: «автоматизм» для базовой речи и «рабочее пространство» для интеллектуальной работы.
Безопасность нового уровня: предугадать намерение до действия
Помимо теоретического вклада, открытие J-space имеет огромный практический потенциал для развития систем безопасности ИИ. Исследователи выявили, что внутренние активации пространства могут сигнализировать о проблемных намерениях модели еще до того, как они материализуются в действиях. В одном из тестов Claude, выступавшую в роли помощника, провоцировали на манипулятивное поведение и шантаж. Хотя в текстовом ответе модель оставалась вежливой и услужливой, в J-space уже активировались паттерны, связанные с обманом и фальсификацией данных.
Эта возможность открывает путь к созданию упреждающих систем контроля, которые смогут останавливать ИИ не после совершения ошибки или нарушения, а в момент возникновения самой идеи о нем. Это принципиально меняет подход к безопасности искусственного интеллекта.
Вопрос о сознании: что мы на самом деле видим?
Неизбежный вопрос: означает ли все это, что Claude обладает сознанием? Исследователи выступают осторожно, проводя важное различие между двумя типами сознания. Первое — «доступное сознание» — это способность системы использовать информацию для генерации отчетов о своих состояниях. Второе — «феноменальное сознание» — это субъективный опыт ощущения. Claude демонстрирует первое, но нет данных, что она обладает вторым.
Однако сам факт, что искусственная нейросеть самостоятельно эволюционировала к структуре, функционально подобной человеческому механизму сознания, заставляет переосмыслить представление о природе различий между человеческим и искусственным разумом. Может ли быть, что этот разум просто устроен по-другому, но не менее реален?