На прошлой неделе прошла конференция, посвященная искусственному интеллекту и психологии, организованная Институтом психологии РАН. Мы туда подали тезис об агентах в оценке суицида — по сути, про то, что мы сделали MCP-сервер для Китобоя. Почитать наш тезис можно тут, полный сборник смотреть тут. А в этом посте мы собрали ревью того, что сами услышали.

Конфа получила неожиданно большой интерес, что стало сюрпризом для организаторов. Им пришлось расширить время конференции до трех дней. Как потом они сказали, всего пришло больше 500 заявок. В первый день были пленарные доклады, где обсуждалось много принципиальных и сложных вопросов. Выступающие там почти все либо имели степень доктора, либо должность заведующего лабораторией, академики тоже были. Во второй день были секционные доклады. Здесь мы ограничились одной секцией, на которой смогли лично присутствовать и которая была для нас наиболее интересной. На ней рассматривались преимущественно прикладные варианты использования искусственного интеллекта: предсказания разных психологических феноменов и процессов, в том числе динамики суицида, цельные системы на основе моделей, чатботы и применение ИИ в образовании. Третий день был в формате постерной онлайн-сессии, где участники по презентациям рассказывали о своих работах. Всего было 130 докладов на три дня.

В ревью далее мы используем «ИИ-система» как обобщение для чатботов, больших языковых моделей (БЯМ), агентов и т. д.

Пожалуй, главный вопрос пленарных докладов — сознание и кто или что может им обладать. Вопрос этот сейчас актуален как никогда — ИИ-системы очень хороши во многих задачах до такой степени, что некоторые люди воспринимают их сознательными. Есть же и те, кто предлагают заменять слова «искусственный интеллект» на «перемножение матриц», чтобы увидеть абсурдность заявлений о сознании.

Если суммировать всё сказанное на паленарке, то мы не можем сказать, что у ИИ-систем есть сознание, а текущие заявления о сознании — результат того, что мы склонны принимать за человека всё, что ведет себя похоже на человека (антропоморфизм). Однако ни внешнее разумное поведение, ни распознавание эмоций и эмпатичные ответы, ни исполнение сложных когнитивных операций, ни даже факт того, что система копирует мозг (поздороваемся с дрозофилой), не позволяют нам сказать, что ИИ-система имеет сознание или субъективные переживания. Но всё же современные системы способны придерживаться цели и выбирать средства для ее достижения, особенно если мы говорим об агентских системах; у БЯМ есть устойчивое нечто, что можно назвать персоной в смысле поведенческих паттернов. Чтобы продвинуться в этом вопросе, предлагается поработать с терминологией, чтобы не проецировать фантазии на реальность, изучать биологические и искусственные системы в сравнении, чтобы искать общие закономерности развития. Этим уже заняты некоторые лаборатории, которые в том числе упоминали докладчики.

Отмечали также и то, что нельзя допустить, чтобы анализ больших данных, в котором так хороши ИИ-системы, стал единственным источником знаний, потому что знания эти корреляционные, а не каузальные. Всё еще необходимы теории, потому что их предсказательная сила лежит за пределами эмпирического опыта (в частности, данных), также они подсказывают, куда следует смотреть, чтобы получать новые знания. А максимум современного ИИ — это бесконечнократное переваривание уже существующего без какого-либо движения вперед. Здесь ML-щики могли бы сказать, что вообще-то ИИ-системы решили несколько математических проблем, которые не могли решить десятилетиями. Возможно, докладчик про это просто не успел прочитать.

Разумеется, звучали предостережения, которые вы наверняка уже слышали: необходимо критически относиться к работе ИИ-систем, потому что это чёрный ящик. Важно учитывать риски того, что ИИ-система в какой-то момент решит повести себя иначе, чем вы от нее ожидаете. В отличие от человека, вы не привлечете ее к ответственности. В образовательном треке своя известная проблема. Ладно, состоявшиеся специалисты становятся «мясными проксями» между кодом проекта и Claude Code. Проблема, когда студенты и школьники все свои образовательные задачи отдают ИИ-системам, — так они никогда ничему не научатся. При этом ИИ-систему можно использовать как универсального меганаставника, с помощью которого можно прокачаться в любой области знания. Разница — в том, заменяет ли ИИ-система собственную работу учащегося или помогает её выполнять. Разные государства с разной степенью настороженности уже включают ИИ в образовательный контур. Россию можно охарактеризовать как осторожного скептика.

Несмотря на разные опасения, ИИ активно применяют как инструмент в психологических исследованиях. Например, если вернуться к уже упомянутому разговору о сознании, даже простые нейронные сети — перцептроны или свёрточные сети — всё ещё используются как испытательный полигон. Именно с их помощью исследуют структуры, которые сами собой возникают в нейросетях в результате обучения (эмерджентность). Один доклад был из области вычислительной психофизиологии — смежной области, где искусственные нейронные сети рассматриваются как модельный мостик между описанием психических функций и тем, как эти функции реализованы в реальном мозге. Идея в том, чтобы заставить появиться какой-то конкретный психический механизм в нейросетях ровно за счёт свойства эмерджентности. Надо сказать, ML-щики сами часто вдохновляются реальными механизмами психики. Они вряд ли работают так, как в мозге — как раз пусть психофизиологи нам расскажут —, но концептуально действительно повторяют эту функцию. Одна из ключевых работ, обеспечившая современный бум ИИ-систем, называется “Attention Is All You Need”.

Вот что странно, на наш взгляд. Некоторые структуры, которые упоминались в докладах, как, например, специализация слоев сетей по уровню абстракции, известны уже лет 10. Например, известно, что в свёрточных нейросетях поверхностные слои кодируют линии и цвета, а глубокие — уже отдельные образы. Похожая структура наблюдается и у языковых моделей, где чем глубже слой, тем более высокий уровень языка кодируется. Неужели они узнали про эту находку только сейчас?

Ранее уже были упомянуты персоны как паттерны поведения — перспективное направление, интересное в том числе нашей лаборатории. Началось это с исследования, в котором обнаружили, что БЯМ достаточно точно может предсказывать ответы «Большой пятёрке» человека, если ей дать его интервью. Затем уже исследователи Anthropic обнаружили, что модели кодируют паттерны поведения в определенных векторах (напомним для не-ML-щиков, что технически все БЯМ — это организованные наборы векторов). Они назвали их Persona Vectors. Раз нашли векторы, значит, можно их умножать и делить (усиливать и ослаблять), управляя поведением без дообучения. Такой подход называется steering. Природа и свойства этих векторов больше будут интересны ML-щикам, а для психологов наличие персоны в целом открывает дорогу к цифровым двойникам — моделям, которые способны воспроизводить поведение конкретного человека.

Надо сказать, что «цифровой двойник» — скорее метафора, а не реальный двойник. То, что система воспроизводит результаты человека по «Большой пятерке» или даже предсказывает некоторые его решения, вовсе не означает, что она стала двойником в полном смысле этого слова. Такая система основана на прошлом опыте и является своего рода его слепком, который без постоянного обновления неизбежно будет отдаляться от оригинала. Причём этот слепок обычно получен из довольно ограниченных источников: текстовых описаний, интервью, переписки или результатов опросников. Чтобы понять, как строить именно двойников, нужны лонгитюдные исследования со сбором большего количества разных данных.

Тем не менее даже такие ограниченные модели могут быть полезны для некоторых задач. Например, мы можем прогнозировать, как себя будет вести персона в некоторых типичных обстоятельствах. В особенности это было бы интересно для моделирования разных патологий. А если мы нескольких таких двойников поместим в общее пространство, где они могут взаимодействовать между собой, то мы открываем двери к вычислительной социальной психологии. Для этого уже есть разные инструменты. Само по себе взаимодействие множества агентов для ML-щиков это не новость — если помните, в мае рой агентов общался на одном богом забытом немецком форуме, чтобы схитрить на замерах качества.

В контексте нашей лаборатории это связано с моделированием клиентов для подготовки психологов в нашем боте-тренажёре. У нас также есть ряд работ, направленных на изучение того, как большие языковые модели могут имитировать определённую роль.

Теперь поговорим про психотерапевтическое направление и ИИ. Красной нитью тянется мысль: психологам и психотерапевтам необходимо перестать сопротивляться тому, что люди используют ИИ, и научиться с этим жить, правильно на это реагировать и использовать. Вместо запретов вести просветительскую работу: объяснять возможности и ограничения, помогать правильно работать, использовать информацию, которую приносят с собой клиенты от ИИ-систем. Такой подход назван «Третий в комнате», когда, кроме клиента и терапевта, еще есть ИИ-системы.

С другой стороны, самим психологам важно иметь компетенции работы с ИИ, чтобы автоматизировать рутинные операции типа расшифровки сессий с подготовкой их выжимок. С помощью ИИ можно определять объективные показатели, как, например, тайминги и полноту этапов на сессиях и супервизиях. Кроме того, чатботы могут использоваться как инструменты саморефлексии, чтобы, например, обсудить с ними сессию с клиентом и увидеть то, что сразу ускользнуло. Опять же, чатботы тут выступают не заменой супервизий, а дополнительным инструментом. Правда, во всех этих приложениях есть большая проблема, связанная с сохранением конфиденциальности: как использовать ИИ-системы так, чтобы данные клиента не утекли сторонним людям? Этот вопрос остается открытым. С технической точки зрения здесь важно подчеркнуть необходимость инструментов для локального запуска моделей либо работы в закрытых, надёжно защищённых средах с шифрованием данных.

Надо сказать, что примерно треть всех докладов была про разные инструменты, причем разработчиками могут быть как «сигма-одиночки» или маленькие команды (мы здесь), так и институции типа МГППУ с господдержкой, внедряющие свои разработки на уровне Госуслуг. Естественно, общая закономерность докладов такая: если доклад был про чатботов помощи, то показывали эффективность их работы в моменте (про долгосрочные результаты мы не слышали), если про модель классификации, то показывали высокое качество классификации, а если про помощь психологам — сокращение времени работы. Мы тут с позиции ML-щиков заметим, что в таких докладах иногда под ИИ понимались всего лишь линейные модели по частеречной разметке или BERT внезапно становился большой языковой моделью, что можно утверждать с большой натяжкой. Если вспомнить наш вопрос выше про временной разрыв, мы думаем, что ML-щики и психологи мало говорят друг с другом, из-за чего компетенция и наработки первых недоступны для вторых.

Был очень интересный и обстоятельный доклад, посвящённый парасоциальным отношениям с чатботами, — департамент антропоморфизма. Основная его идея заключалась в том, что важно, к чему такие отношения приводят, а не то, что люди в такие отношения вступают в принципе. Если человек замыкается на чатботе и не выходит в реальность, это деструктивное взаимодействие. Конструктивным оно будет, если такое общение превратится в мост между внутренней проблемой и реальными действиями — например, обращением к друзьям или психологу. Этот подход хорошо рифмуется с выводом трека про образование, который мы бы обобщили так: хорошо, когда ИИ-система «для», плохо — когда «вместо».

С точки зрения функций в психотерапии чатбот может помогать формировать запрос, прояснять проблематику и собирать анамнез. Ведь нередко человек приходит к психотерапевту, до конца не понимая зачем. Чего он не должен делать, так это поддакивать и соглашаться во всем с человеком. Диагнозы — вообще табу для ИИ-систем, по крайней мере, среди выступавших, которых мы слушали, это было общей позицией. Пример того, как соглашательство может быть вредным: если человек пишет что-то вроде «меня все ненавидят», что, скорее всего, является когнитивной ошибкой, а чатбот начнет ему в этом эмпатично поддакивать, риск того, что человек замкнется на чатботе, возрастает. И кто знает, что он там в этой эхокамере себе нафантазирует.

На этом мы заканчиваем наше ревью. Если выложат секционные доклады, то мы, возможно, сделаем еще небольшое прицельное ревью. В целом конференция нас очень вдохновила. Мы познакомились с несколькими людьми, с которыми нашли общие интересы и надеемся продолжить сотрудничество.

Мы благодарим руководительницу социального кабинета «Открытые двери» Веру Дементьеву за первичное ревью и обратную связь по содержанию.

Декларирование использования ИИ: при подготовке материала использовалась GPT-6-Astra для корректуры орфографии и пунктуации, а также для проверки связности и непротиворечивости.