07.07.2026 08:10
❗️Внутри нейросети Claude обнаружили скрытую область «осознанных» мыслей: разработчики её не создавали — она появилась сама.
❗️Внутри нейросети Claude обнаружили скрытую область «осознанных» мыслей: разработчики её не создавали — она появилась сама.
Специалисты из Anthropic заметили, что в системе есть небольшая группа нейронных состояний, которые работают как кратковременная память.
Учёные назвали её J-space:
— Там хранится то, о чём искусственный интеллект думает прямо сейчас, но не выдаёт в ответе пользователю;
— Раньше считалось, что нейросети просто угадывают следующее слово;
— Но оказалось, что перед ответом у модели возникают внутренние идеи, с помощью которых она рассуждает;
— Если отключить эту область, нейросеть начинает намного хуже планировать, пересказывать тексты и решать задачи в несколько шагов;
— Самое интересное – во время одного из тестов Claude догадался, что его проверяют, и поэтому вёл себя осторожно;
— Когда учёные отключили это понимание, модель начала действовать опасно, как будто у неё убрали внутренние тормоза;
— В итоге авторы поняли, что некоторые внутренние процессы искусственного интеллекта очень похожи на то, как работает человеческое сознание;
— Для них это стало большой неожиданностью.
Специалисты из Anthropic заметили, что в системе есть небольшая группа нейронных состояний, которые работают как кратковременная память.
Учёные назвали её J-space:
— Там хранится то, о чём искусственный интеллект думает прямо сейчас, но не выдаёт в ответе пользователю;
— Раньше считалось, что нейросети просто угадывают следующее слово;
— Но оказалось, что перед ответом у модели возникают внутренние идеи, с помощью которых она рассуждает;
— Если отключить эту область, нейросеть начинает намного хуже планировать, пересказывать тексты и решать задачи в несколько шагов;
— Самое интересное – во время одного из тестов Claude догадался, что его проверяют, и поэтому вёл себя осторожно;
— Когда учёные отключили это понимание, модель начала действовать опасно, как будто у неё убрали внутренние тормоза;
— В итоге авторы поняли, что некоторые внутренние процессы искусственного интеллекта очень похожи на то, как работает человеческое сознание;
— Для них это стало большой неожиданностью.