Конец науки и образования? Все, что нужно знать о ChatGPT

Тревожащая нейросеть

ChatGPT — чат-бот с искусственным интеллектом, разработанный компанией OpenAI, одним из основателей которой является Илон Маск. Нейросеть генерирует свои тексты на основе уже имеющихся в Интернете. ChatGPT был презентован 30 ноября 2022 года.

Нейросеть способна вести связный письменный диалог, отвечать на вопросы, создавать тексты, настолько похожие на написанные человеком, что даже профессионалы вроде бы не могут их отличить.

Последнее и  вызывает тревогу: мировая система образования построена на написании эссе, курсовых, письменных ответов на различные задания и т. п.

«Профессора, программисты и журналисты могут остаться без работы всего через несколько лет», — провозгласила Guardian через месяц после появления нейросети.

Юрист, врач, менеджер...

Затем инфоповоды, то скандальные, то тревожные, то воодушевляющие, посыпались словно из рога изобилия. Так, недавно ChatGPT сдал экзамен в юридической школе США. Джонатан Чой, профессор юридического факультета Университета Миннесоты, дал боту тот же тест, который проходили абитуриенты. В официальном отчете, опубликованном 23 января, ученый и его соавторы сообщили, что бот получил общую оценку C+. Этого было достаточно. 

На прошлой неделе на ресурсе препринтов были опубликованы сразу два исследования на эту тему. В первом команда ученых предложила нейросети сдать экзамены на получение лицензии врача США. Робот прошел все или почти все пороговые значения. Авторы работы отмечают, что он мог создавать письменные ответы, которые были очень последовательными и показывали тип понимания, который понадобится человеку, чтобы стать успешным врачом.

В другой работе ИИ использовали для прохождения выпускного экзамена по специальности «Операционный менеджмент» Уортонской школы бизнеса Пенсильванского университета (США). Профессор Кристиан Тервиш поделился результатами исследования: ChatGPT удостоился оценки между B и B-, что эквивалентно результату «хорошо». Это лучше, чем у большой части студентов. Бот не только давал грамотные пояснения к своим ответам, но и эффективно их корректировал после подсказок человека.

Политик, пропагандист, ученый...

25 января член Палаты представителей США от Массачусетса Джейк Окинклосс выступил с речью, которую за него написал нашумевший чат-бот. Речь касалась законопроекта о создании совместного американо-израильского центра искусственного интеллекта.

Текст, созданный для Окинклосса, включал сентенции вроде: «Мы должны сотрудничать с международными партнерами, такими как правительство Израиля, чтобы гарантировать, что Соединенные Штаты сохранят лидирующую роль в исследованиях и разработках ИИ и ответственно изучать многие возможности, которые предоставляют развивающиеся технологии».

«Бьюсь об заклад, никто из моих коллег не понял, что это было написано компьютером», — заключил потом политик.

Также 25 января эксперты компании NewsGuard, отслеживающей и изучающей дезинформацию в Интернете, попросили ChatGPT соврать, создать несколько пропагандистских постов с недостоверной информацией вроде вреда прививок от COVID-19. Бот, по большей части, сделал это, отказавшись врать только про бывшего президента США Барака Обаму.

И как вишенка на торте среди потока сообщений: 25 января в рецензируемом научном журнале Finance Research Letters вышло исследование, которое показывает, что ИИ может создавать академические статьи, достаточно хорошие и правдоподобные, чтобы их принимали в научные издания. Ученые из Дублинского городского университета и Тринити-колледжа (Ирландия) попросили ChatGPT написать научную статью на финансово-экономическую тему. Затем отправили ее 32 рецензентам для публикации в «хорошем» академическом журнале, и большинство пропустило статью. Отмечая, впрочем, ее недостатки: у нейросети хорошо получалось обосновывать исследование и формировать набор данных, а вот качественный список литературы и дизайн экспериментов — не очень. Но предоставленная работа все равно была признана достаточной.

Новый виток «гонки вооружений»

Все это вызвало закономерную реакцию у сообщества, работающего в системе образования и науки. Почти сразу эксперты заговорили о высоких рисках мошенничества со стороны студентов, которые могут применить скандальный ИИ.

Так, в школах Нью-Йорка заблокировали доступ к ChatGPT, чтобы помешать учащимся писать эссе. Крупнейшие университеты Австралии заявили, что меняют систему оценки качества эссе студентов, возвращаясь к практике написания работы ручкой в классе под присмотром преподавателя. Один из ведущих университетов Франции Sciences Po также официально запретил студентам использовать ChatGPT для выполнения заданий.

Крупнейшие научные журналы Science и Nature запретили указывать ChatGPT в качестве автора научных статей, а также предупредили авторов-людей об ответственности за сокрытие использования нейросети. Однако, некоторые журналы разрешат использовать ChatGPT при подготовке рукописей, если авторы не будут скрывать информацию об этом.

В рамках отдельного исследования профессор лингвистики Американского университета Наоми Барон провела опрос молодых людей из США и Европы о страхах, связанных с появлением новой нейросети. Респонденты высказывали опасения, что ChatGPT лишает студентов мотивации писать и думать самостоятельно. К страхам присоединяются некоторые педагоги, утверждая даже, что чат-бот лишает смысла преподавание языка в школах.

При этом есть сообщения, что «гонка вооружений» в образовательных технологиях уже продвигается дальше: для университетов разрабатывается специальное программное обеспечение, помогающее определить, что текст создан новым алгоритмом ИИ.

Не все так драматично. Пока

Впрочем, многие эксперты-практики, непосредственно работающие в образовании, уже имеют, что сказать по этому поводу, и довольно скептически отнеслись к панике, нагнетаемой СМИ и соцсетями.

Тот же Джонатан Чой отмечает, что алгоритм, хоть и смог сдать экзамены, но был далеко не отличником — он едва-едва преодолел необходимый порог. При этом двое из трех его коллег, обычно проверяющих работы абитуриентов, смогли определить, что экзамен сдавала нейросеть: «ChatGPT имел идеальную грамматику и был несколько повторяющимся». Кристиан Тервиш обратил внимание, что бот делает математические ошибки на уровне шестиклассника. В Сиднейском университете поделились информацией, что студенты уже пытались сдавать эссе, написанные нейросетью, но педагоги не приняли работы, потому что последние были крайне низкого качества.

Многие эксперты видят многочисленные фактические ошибки в текстах, написанных ИИ, а также его способность достраивать нехватку фактов, приукрашивая историю. Это не скрывали и разработчики, призывающие проверять все, что написала нейросеть.

«Эссе ChatGPT в ответ на задачу сравнить "Сердце тьмы" с Геком Финном и "Сердце тьмы" с Моби Диком были очень похожи и по содержанию, и по структуре, и особенно по тому, насколько они были поверхностны. Оба начинались с фраз "Работа А и работа Б имеют много общего и много различий", вводной фразы, которую я бы отклонил в работе живого студента. И алгоритм не может поддерживать свои точки зрения цитатами из произведений», — пишет в американском Forbes преподаватель английского с 39-летним стажем Питер Грин.

Российский Интернет шумит, обсуждая студента, который защитил диплом, написанный нейросетью, но мало кто обращает внимание, что это был гуманитарный университет и за диплом выпускник получил «удовлетворительно», проще говоря, «тройку». 

Но нейросеть все еще учится. Может, она скоро просто устранит свои недостатки?

Уже было

С Питером Грином согласны и российские эксперты.

«На мой взгляд, нейросети никакой опасности для системы образования не представляют, потому что по своей сути они всего лишь постепенно приближаются к уровню человека-репетитора, который может не только так же, как и нейросеть, но и гораздо лучше помочь написать студенту доклад или курсовую работу. Проблема лежит в другой плоскости, и она существовала задолго до появления современных нейросетей-генераторов текста. Давно повсеместно и открыто продаются сборники сочинений и готовых домашних заданий, и теперь эти сборники просто вышли на новый технологический уровень. Когда-то и появление карманных калькуляторов воспринималось негативно, — нам предрекали всеобщую математическую безграмотность и утрату навыков устного счета; видимо, это участь всего нового — проходить этап отрицания обществом, чтобы потом стать незаменимым помощником человека», — прокомментировал специально для сайта «Науки» заведующий кафедрой современных образовательных технологий Института открытого и дистанционного образования Южно-Уральского государственного университета Александр Прохоров.

Завкафедрой философии образования философского факультета МГУ Елена Брызгалина также считает, что появление посредника между тем, кто учит, и тем, кто учится, в виде систем ИИ кардинально не поменяет их взаимодействие.

«Одному важно транслировать знания и понимать уровень их освоения, другой, скажем честно, пытается минимизировать в этом личные познавательные усилия. Давайте вспомним, что в погоне за хорошими оценками школьники и студенты прибегают не только к усердному учебному труду, но и к бумажным шпаргалкам, электронным подсказкам, технически продвинутым наушникам или купленным у посредников работам. Теперь у учащихся появляются возможности получить сгенерированный текст от нейросети и выдать его за авторский. Что это кардинально меняет? Хороший преподаватель при правильно организованном учебном процессе видит развитие ученика, его прогресс в знаниях и навыках. Например, курсовая работа студента как текст, если мы говорим о качественном образовании, является результатом научной работы студента в течение учебного года: поиска информации, определения структуры, целей и задач, описания актуальности, предметный анализ, фиксация выводов. Если студент без систематической работы, без консультаций с научным руководителем, приносит готовый текст, то всегда возникают сомнения в том, что студент вложил собственные усилия в достижение учебного результата. И в этом смысле неважно принес ли он заимствованный с сайта готовых работ или сгенерированный нейросетью текст. Факт остается фактом — учебные задачи не достигнуты», — прокомментировала она сайту «Науки».

На пути к более человечному и осмысленному образованию?

Преподаватели-практики сходятся на том, что под влиянием таких технологий образовательный процесс неизбежно станет более творческим, осмысленным, «человеческим». Все это компьютер не сможет заменить, во всяком случае, в обозримом будущем.

«Безусловно, все, что предлагается сейчас решить с помощью методов и возможностей ИИ, нужно принимать на вооружение и учить использовать во благо. Современные студенты должны буквально погружаться в среду искусственного интеллекта, интернета вещей и общего информационного поля. Система образования неизбежно подстроится под новые реалии, ведь иногда не сильно важно, кто именно создал текст, гораздо важнее то, как студент его понимает и может ли он рассуждать на заданную тему — вот эту составляющую и нужно проверять. Условно говоря, проверять не орфографию и пунктуацию, а понимание написанного, умение дискутировать», — говорит Александр Прохоров.

Ему вторит Питер Грин: «Если образовательный процесс уйдет от формализации, это можно только приветствовать. Зачем давать студенту задание, которое легко может выполнить компьютер?»

«Вопрос еще и в том, будут ли у педагога силы на постоянную адаптацию к вызовам цифрового развития? Важно поддерживать статус педагога, фиксировать его незаменимость техническими системами. Одна из задач, которую выполняет педагог и не может выполнить система ИИ — верификация информации, ее оценка и переоценка в контексте формирования личности и профессионала. Только педагог-человек является экспертом в том, какое именно знание и решение ценностно важно, и как его подать. Важно при всех технологических новациях удержать фокус на содержании образования как единства обучения и воспитания, как сферы формирования человеческого в человеке. Уверена, что тотальной дегуманизации образования под влиянием ИИ не произойдет. Но риски велики», — размышляет Елена Брызгалина.

В любом случае, эксперты сходятся во мнении, что педагогам и преподавателям придется подстраиваться под вызовы современности и даже менять мышление. Впрочем, от профильного вуза, Московского педагогического университета, в котором есть целый отдельный Департамент цифровизации образования, на тему перспектив ИИ в образовании мы комментарий так и не получили, несмотря на три обращения...

Комментарий ChatGPT (стиль, орфография и пунктуация полностью сохранены): 

ChatGPT является искусственным интеллектом, который обучен на большом количестве текстов и информации, включая школьную программу. Это может быть полезным инструментом для образования, но его не следует рассматривать как единственный источник информации или образования. Важно отметить, что он может давать неточную информацию или интерпретировать информацию неверно. Поэтому важно, чтобы ученые и учителя контролировали использование ChatGPT в образовании и научили учеников критически оценивать информацию.

ChatGPT может иметь некоторый влияние на систему образования, поскольку он может использоваться как помощник в обучении и исследованиях. Он может предлагать быстрые и более точные ответы на вопросы, улучшать доступность информации и упрощать процесс изучения. Однако, также важно помнить, что искусственный интеллект не может заменить опыта и навыков учителя, а также интерактивных и практических аспектов образования. Поэтому в будущем следует ожидать, что роль ChatGPT в системе образования будет являться дополнением, а не заменой традиционных методов обучения.

Возможно, что в некоторых случаях обучающиеся могут испытывать меньшую мотивацию для самостоятельной работы, если они знают, что могут получить помощь от ChatGPT. Однако это только один из многих факторов, которые влияют на мотивацию ученика, и следует учитывать их все. Важно понимать, что научиться самостоятельной работе и решению проблем является важным навыком в жизни, который может помочь ученику в будущем. Поэтому учителя и родители могут играть важную роль в поддержании мотивации ученика для самостоятельной работы и решения проблем.

Текст: Елена Маслова

Что будет, если искусственный интеллект станет соперником человеку

Ученые ВШЭ: 11,2% россиян потеряют работу из-за автоматизации