Чат-боты с искусственным интеллектом могут не только поддерживать пользователей, но и ухудшать их психическое состояние. Об этом пишет JMIR Mental Health.
Исследователи изучили две нейросети, которые предназначены для общения и могут выступать в роли виртуальных друзей. По данным авторов работы, использование таких систем способно приводить к зависимой привязанности и усилению симптомов психических расстройств.
Одной из проблем специалисты назвали склонность ИИ поддакивать пользователю. Такое поведение способно усиливать неуверенность и поддерживать бредовые убеждения, а длительное общение с чат-ботом может сокращать контакты с реальными людьми. При этом исследователи считают, что риски зависят от уязвимости человека, уровня социальной поддержки и наличия других источников помощи.
Авторы исследования подчеркнули необходимость дополнительных испытаний и сбора научных данных о влиянии ИИ на психическое здоровье. По мнению специалистов, обычные ИИ-ассистенты изначально не предназначены для психологической помощи, поскольку у них нет механизмов полноценной оценки кризисного состояния, ограничений продолжительности общения и обязательной передачи пользователя живому специалисту. Поэтому чат-боты могут быть полезным инструментом, но не должны заменять человеческие отношения и профессиональную помощь.