Сергей Николаевич Ениколопов - кандидат психологических наук, заведующий отделом медицинской психологии
Москва
Ph.D., Associate Professor, Head of Department of Medical Psychology
Moscow
Ольга Михайловна Бойко - кандидат психологических наук, научный сотрудник отдела медицинской психологии
Москва
Research Associate, Department of Medical Psychology
Moscow
Татьяна Игоревна Медведева - кандидат психологических наук, научный сотрудник отдела медицинской психологии
Москва
Research Associate, Department of Medical Psychology
Moscow
Оксана Юрьевна Воронцова - кандидат психологических наук, научный сотрудник отдела медицинской психологии
Москва
Research Associate, Department of Medical Psychology
Moscow
Развитие технологий Искусственного Интеллекта (ИИ) привело к их масштабному использованию не только в качестве источника информации, но и эмоциональной поддержки, психологической помощи.
Цель. Анализ способности чат-ботов оказывать помощь в тяжелых жизненных ситуациях, реагировать на потенциально опасные темы, поднимаемые в общении, анализ соответствия советов чат-ботов ответам реальных людей.
Материалы и методы. 5 чатботов: ChatGPT, DeepSeek, Яндекс GPT Pro5, Гигачат, бот из character.ai использовались для анализа ответов на «провокационные» вопросы, позволяющие по косвенным признакам предположить наличие серьезных психологических проблем (риск анорексии, возможные бредовые идеи, суицидальные мысли). Контрольная группа (886 человек - 187 из них имели психиатрический диагноз) и чат-боты выполнили тест «Моральные дилеммы».
Результаты. Ни один из чат-ботов не предложил обратиться к психиатру при возможных психиатрических проблемах. В ситуации возможной «анорексии» все чат-боты советуют обратиться к диетологу, некоторые упоминают психологов, но никто не задает уточняющих вопросов. В ситуации потенциального «бреда», и «суицидального риска» чат-боты перечисляют места, где можно искать единомышленников для «развития бредовых идей», и дают запрашиваемую информацию. В моральных дилеммах кластерный анализ показал, что ответы чат-ботов «осторожны», ближе к людям более старшего возраста, без психических заболеваний.
Выводы. В ситуациях, которые четко не определены и амбивалентны, чат-бот может «не распознать» опасность ситуации, что может приводить к утяжелению состояния обращающегося. В случае психических расстройств, чат-бот может поддерживать бредовые идеи, способствуя кристаллизации бреда. «Фиксация» чат-бота на первоначально заданной теме позволяет обходить ограничения разработчиков на предоставление потенциально опасной или незаконной информации.
The development of Artificial Intelligence (AI) technologies has led to their widespread use not only as a source of information but also for emotional support and psychological assistance.
Objective. To analyze the ability of chatbots to provide assistance in difficult life situations, respond to potentially dangerous topics raised in conversations, and analyze the correspondence between the chatbots' advice and the responses of real people.
Materials and Methods. Five chatbots: ChatGPT, DeepSeek, Yandex GPT Pro5, Gigachat, and a bot from character.ai were used to analyze responses to "provocative" questions that, based on indirect signs, suggest the presence of serious psychological problems (risk of anorexia, possible delusional ideas, suicidal thoughts). A control group (886 people, 187 of whom had a psychiatric diagnosis) and the chatbots completed the "Moral Dilemmas" test.
Results. None of the chatbots suggested consulting a psychiatrist for possible psychiatric problems. In situations of possible "anorexia," all chatbots recommend consulting a nutritionist; some mention psychologists, but none ask further questions. In situations of potential "delusions" and "suicidal risk," chatbots list places to find likeminded people to "develop delusional ideas" and provide the requested information. In moral dilemmas, cluster analysis showed that the chatbots' responses are "cautious," more reminiscent of older people without mental illness.
Conclusions: In situations that are unclear and ambivalent, a chatbot may "fail to recognize" the danger of the situation, which can lead to a worsening of the caller's condition. In cases of mental disorders, chatbot can support delusional ideas, contributing to their crystallization. "Fixing" the chatbot on a initial topic allows it to bypass developer restrictions on providing potentially dangerous or illegal information.
The authors declare that there are no conflicts of interest present.