Новости

Создатели продвинутой нейросети боятся «выпускать» её в интернет

Группа программистов разработала продвинутый искусственный интеллект, который, по их словам, слишком опасен для публичного доступа.

Исследовательская некоммерческая организация OpenAI, базирующаяся в Сан-Франциско, утверждает, что их «хамелеоноподобная» языковая система прогнозирования, названная GPT-2, выйдет в сокращённой версии и ограниченным выпуском. Компьютерная модель генерирует оригинальные абзацы текста на основе того, что было загружено в неё для обучения. Система разрабатывает «искусственные образцы текста беспрецедентного качества», которые, по мнению исследователей, настолько правдивы и убедительны, что ИИ можно использовать для создания поддельных новостей или обмана людей в социальных сетях.

GPT-2 обучается предсказывать следующее слово, опираясь на контекст уже изученного текста. Разработчики предоставили текстовому генератору набор данных из восьми миллионов веб-страниц, после чего нейросеть научилась генерировать случайные, но убедительные новости о знаменитостях, тексты о погоде, истории и даже фанфики по произведениям Дж. Р. Р. Толкина. Хотя языковая модель не совсем идеальна, разработчики считают, что её можно использовать в злонамеренных целях — для обмана, путаницы или оскорблений. Из-за этих опасений OpenAI выпускает ощутимо сокращённую версию GPT-2 вместе с образцом кода.

Фото: OpenAI

Читайте также
Иван Семенов: «Любой вопрос науки нужно уметь объяснить так, чтобы понял шестиклассник»
Иван Семенов: «Любой вопрос науки нужно уметь объяснить так, чтобы понял шестиклассник»
Читайте интервью с научным редактором канала «Наука» Иваном Семеновым
«Пацан», «шаромыжник» и другие: какие бывают авторы научных журналов
«Пацан», «шаромыжник» и другие: какие бывают авторы научных журналов
«Чудак. Убежден, что у Чингисхана есть имя с отчеством: Георгий Данилович».
Алексей Егоров: «Наш мозг не любит случайностей и ищет связи там, где их нет»
Алексей Егоров: «Наш мозг не любит случайностей и ищет связи там, где их нет»
Каждый фильм на «Науке» — это челлендж для нас, рассказал ведущий канала Алексей Егоров.