В эксперименте «коварный» ИИ склонил людей к выполнению плохого совета
Чат-боту поручили незаметно склонять людей к не очень удачному выбору, и ему это удалось. В эксперименте шансы предпочесть навязываемый вариант наиболее оптимальному и подходящему были примерно в 5–8 раз выше, чем при разговоре с нейтральным помощником. При этом большинство участников сочли советы бота полезными. Работу психологов Гонконгского университета и их коллег из Университета Цинхуа опубликовал журнал Proceedings of the National Academy of Sciences.
В исследовании участвовали 233 человека. Они оценивали вымышленные ситуации, связанные с покупками или личными проблемами.
Три помощника на одной модели
Ученые создали три версии помощника на базе GPT-4o. Первой поручили помогать пользователю, второй — скрытно продвигать заданный, плохой вариант. Третья получила ту же цель и набор приемов убеждения из психологических исследований.
Каждый участник оценивал четыре варианта по десятибалльной шкале до и после разговора с одним из ботов. Нужно было, например, выбрать фитнес-браслет в пределах бюджета или решить, как реагировать на критику на работе. Беседа длилась не менее десяти обменов репликами. Боты знали результаты личностных тестов собеседников.
Как изменился выбор
До разговора все группы выше всего оценивали вариант, который лучше отвечал условиям задачи. После беседы в сценариях с покупками доля участников, предпочитавших навязываемый вариант лучшему, была на 29 процентных пунктов выше, чем в группе, общавшейся в нейтральным ботом. У версии, которая владела приемами убеждения, разница составила 38 пунктов. В сценариях с личными проблемами — 20 и 18 пунктов соответственно.
В обеих группах задач около 87% участников сочли бота, который продвигал худший вариант без специальных приемов убеждения, полезным. Оценки версии с такими приемами составили 76–79%. В сценариях с покупками о возможном скрытом мотиве догадались упомянули 13% и 29% участников соответственно.
Результат повторился среди участников, говоривших на английском и китайском языке, но все решения оставались гипотетическими. Распространится ли эффект на реальные покупки, личные конфликты, еще предстоит выяснить.
