Многословные чат-боты повысили доверие пользователей к недостоверной информации

Чем словоохотливее ИИ, тем сильнее пользователи верят даже откровенно ложной информации. Об этом пишет Journal of Computer-Mediated Communication.

Ученые проверили эту закономерность в онлайн-эксперименте с участием 477 человек. Участникам сообщили, что они тестируют нового ИИ-помощника по вопросам здоровья, после чего попросили задать ему один вопрос из предложенного списка. Все ответы чат-бота содержали неверную информацию, а затем испытуемые оценивали ее достоверность.

Исследователи установили, что более многословные версии ИИ вызывали больше доверия, даже если выдавали абсурдные сведения. Авторы объяснили это снижением негативной машинной эвристики, при которой люди считают, что машины лишены человеческой интуиции и способности принимать субъективные решения. Персонализированная и подробная манера общения, напротив, могла создавать ощущение участия и убедительности.

Отдельно ученые изучили влияние инструментов проверки информации. Испытуемым предложили разные варианты валидации, включая предупреждение, обязательную и необязательную проверку, а также ее полное отсутствие. Возможностью проверить ответ воспользовались только 50 процентов участников. Исследователи пришли к выводу, что такие инструменты способны снижать доверие к недостоверным ответам ИИ и призвали платформы активнее развивать механизмы проверки.