Влияние риска на эффективность взаимодействия и доверие людей при принятии решений с использованием ИИ: экспериментальные данные

В данной работе исследуется влияние повышенного риска и возможности потерь на решение агента о доверии искусственному интеллекту. Также дополнительно оценивается эффективность подобной коллаборации с учётом выбранного стимула. Для этого я провела эксперимент, в котором участникам предлагалось решать логические задачи самостоятельно или переиспользуя ответ, предложенный ИИ. Обе группы получали дополнительные баллы за каждый верный ответ. В одной из них также присутствовал стимул в виде штрафа за каждый неверный ответ. На основе полученных результатов можно сделать вывод о том, что при заданной точности выбранной NLP модели агенты не склонны больше доверять ИИ в ситуациях как большего, так и меньшего риска. При этом подобный стимул в ситуации ограниченного времени приводит к ухудшению общего перформанса: снижению количества попыток и качества ответов. Такого рода эффект может быть вызван недостаточно высокой точностью модели, наличием стресса и многими другими факторами.