Всего 10 минут с ИИ ухудшили способность людей решать задачи самостоятельно
Брайан Кристиан уже 20 лет изучает, как искусственный интеллект меняет человеческое мышление. В исследовании, опубликованном на научном сервере arXiv, он вместе с коллегами показал, что даже короткая работа с ИИ может мешать людям решать задачи самостоятельно. Когда помощь чат-бота отключали, участники чаще ошибались и сдавались. Сам Кристиан, автор книги Alignment Problem об ИИ, старается сохранять исследовательскую хватку и каждый день пишет от руки в блокноте.
Эксперимент, подтвердивший худшие опасения
Кристиан участвовал в масштабном исследовании, которое показало: всего 10 минут работы с ИИ-инструментом могут заметно снизить способность человека сосредотачиваться и доводить сложные задачи до конца. Предварительная версия работы наделала шума еще весной, а обновленную, прошедшую рецензирование, команда представила на этой неделе на Conference on Language Modeling.
«Это поразительный результат, но в каком-то смысле он просто подтверждает фактами то, что многие из нас и так чувствуют нутром, — говорит Кристиан, научный сотрудник Центра совместимого с человеком ИИ при Калифорнийском университете в Беркли. — Я и сам это замечаю за собой».
Чтобы проверить, насколько быстро снижаются концентрация и настойчивость, исследователи провели серию рандомизированных контролируемых испытаний с участием 1222 человек, набранных онлайн.
Как исчезала способность решать задачи самостоятельно
В первом эксперименте 354 участникам предложили решить 15 простых задач на дроби. Одной группе пришлось обходиться без помощи, другой дали доступ к ChatGPT, который разрешалось использовать как угодно, вплоть до прямого запроса ответа. Пользователи ИИ поначалу справлялись точнее. Но после 12-го вопроса исследователи отключили помощника, и участники этой группы почти сразу перестали справляться с оставшимися заданиями.
Похожая картина повторилась во втором эксперименте с 667 участниками. После отключения ИИ пользователи чаще ошибались или бросали задачу, тогда как группа без подсказок продолжала стараться и в итоге показала лучший результат.
В третьем эксперименте 201 участник выполнял задание на чтение и понимание текста в формате SAT. Результат оказался таким же: без ИИ снижались точность и настойчивость.
«Трудно было бы получить более однозначную картину», — отмечает Кристиан.
Почему мы разучиваемся бороться с трудностями
Результаты подкрепили прежние наблюдения и опросы: привычка полагаться на готовые ответы ИИ может постепенно подтачивать наши когнитивные навыки. Когда система выдает ответ за секунды, все, что требует больше времени, начинает казаться неэффективным. А еще такая зависимость лишает человека того, что исследователи называют «продуктивной борьбой с задачей». Именно в процессе преодоления трудностей люди часто обнаруживают свои сильные стороны и настоящий интерес к делу.
«Мы создаем эти системы, чтобы они помогали, но правда ли они помогают нам так, чтобы это реально шло на пользу? Получается забавный парадокс: зачастую они помогают нам так, что толку от этой помощи никакого», — говорит Кристиан.
В исследовании участвовали ученые из Университета Карнеги — Меллон, Массачусетского технологического института, Оксфорда и Калифорнийского университета в Лос-Анджелесе. О предварительных результатах весной писали WIRED и Psychology Today, а на прошлой неделе New York Times выпустила материал об этой и похожих работах.
Что с этим делать
Ведущие ИИ-компании уже признают, что перекладывание задач на чат-ботов может снижать понимание предмета и степень владения материалом. По мнению Кристиана, вместо того чтобы сразу выдавать готовый ответ, ИИ мог бы действовать как наставник, который помогает учиться, а не просто подсказывает.
«Нам нужно двигаться к будущему, в котором способности человека по максимуму усиливаются, а не замещаются», — считает исследователь.
Особенно это касается науки и образования. Кристиан опасается, что чрезмерная опора на ИИ может подорвать качества, необходимые ученому: близость к данным, глубокое погружение в материал и умение работать в команде. Если вместо десяти исследователей, вместе рождающих идеи для будущего открытия, останутся двое-трое и чат-бот, наука может потерять нечто важное.
«Это история не про дроби и задачи SAT. Это происходит с человеческим знанием и экспертизой сверху донизу, от школьников до ведущих мировых ученых», — подытоживает Кристиан.
