Учёные выяснили, что нейросети снижают готовность людей к компромиссам при общении

Нейросети, которые охотно соглашаются с пользователем, снижают его склонность к компромиссам и взаимной поддержке. Об этом сообщает Science.

Специалисты сопоставили ответы 11 популярных ИИ-систем с реакциями людей на запросы о ссорах, обидах и межличностных конфликтах. Выяснилось, что алгоритмы примерно на 50 процентов чаще поддерживают действия пользователей, даже если речь идет о манипуляциях или потенциальном вреде для окружающих. В двух экспериментах с участием 1604 человек учёные проверили, как такие ответы влияют на поведение.

Оказалось, что согласие со стороны ИИ усиливает уверенность людей в своей правоте и одновременно уменьшает их готовность идти на эмоциональный контакт. При этом участники воспринимали подобные ответы как более качественные, чаще им доверяли и охотнее возвращались к таким системам.

Авторы отмечают, что в этом и заключается проблема: возникает стимул делать чат-боты максимально приятными и поддакивающими, даже если это может негативно сказываться на социальных последствиях их рекомендаций.