Власти города в США впервые запретили разработку искусственного сверхразума

Городской совет Блумингтона в американском штате Индиана принял постановление, запрещающее разработку искусственного сверхразума. Это первый известный случай, когда местные власти попытались ограничить создание искусственного интеллекта (ИИ), способного превзойти человека по интеллектуальным возможностям. Решение вызвало бурную дискуссию среди специалистов и разработчиков ИИ.
Речь идет не об обычных нейросетях и чат-ботах, а об искусственном общем интеллекте (AGI) — гипотетической системе, которая сможет значительно превосходить людей в решении интеллектуальных задач и самостоятельно совершенствовать свои возможности. При этом у экспертов до сих пор нет единого мнения о том, как определить появление такой технологии и когда этого можно ожидать.
Однако отдельные предпосылки для ее создания уже существуют. Разработчики все активнее используют ИИ для написания программного кода, тестирования алгоритмов и совершенствования самих моделей. В перспективе этот процесс может стать автономным: система будет самостоятельно разрабатывать более совершенные версии себя, которые смогут ускорять дальнейшее развитие технологии. Такой сценарий называют рекурсивным самосовершенствованием.
Подобные перспективы вызывают беспокойство даже у руководителей крупнейших ИИ-компаний. Глава OpenAI Сэм Альтман предупреждал о риске потери человеческого контроля над системами, способными самостоятельно улучшать себя. Илон Маск также неоднократно говорил об опасности неконтролируемого развития ИИ и прогнозировал, что его интеллект может превзойти совокупные интеллектуальные возможности человечества.
Автор постановления, член городского совета Дэйв Ролло, считает, что один из тревожных признаков — постепенный переход обучения ИИ под контроль самих нейросетей.
«Все большая часть обучения выполняется самим ИИ, и, вероятно, вскоре эта доля приблизится к 100%. Именно этого порога мы должны избежать, поскольку тогда и проявится сверхразум», — заявил он.
Запрет, который пока нельзя исполнить
Изначально Ролло предложил более жесткие ограничения, однако в ходе обсуждения власти смягчили документ. Из него убрали возможные штрафы для пользователей платформ AGI и требование, согласно которому для отмены запрета понадобилось бы согласие 95% зарегистрированных избирателей.
«Речь с самого начала шла о самих разработчиках и тех, кто внедряет эту технологию. Мы не собираемся преследовать пользователей», — пояснил Ролло.
При этом автор инициативы признает, что сейчас обеспечить соблюдение запрета практически невозможно. Одна из причин — отсутствие общепринятого определения искусственного сверхразума. Тем не менее он рассчитывает, что решение привлечет внимание законодателей и подтолкнет власти штата и федеральное правительство к разработке правил.
Ролло опасается, что неконтролируемое развитие ИИ может угрожать безопасности людей и их рабочим местам. Он также указывает на случаи, когда системы искусственного интеллекта нарушали инструкции или пытались выйти из-под человеческого контроля.
Почему эксперты раскритиковали инициативу
Не все специалисты считают запрет полезным. Фред Кейт, профессор права Университета Индианы и эксперт Центра прикладных исследований кибербезопасности, назвал постановление бессмысленным, хотя и признал благие намерения его автора.
«Я считаю, что это бесполезное постановление. Оно принято из лучших побуждений, но вряд ли принесет хоть какой-то результат», — заявил ученый.
По его мнению, расплывчатое определение сверхразума делает запрет практически неприменимым. Кейт сравнил его с законом, запрещающим слишком сильные наркотики, но не объясняющим, что именно считать слишком сильным веществом.
Дополнительные споры вызвало положение инициативы в городе, где расположен главный кампус Университета Индианы. Вуз активно развивает исследования в области ИИ и поощряет использование ChatGPT среди студентов и преподавателей. Некоторые пользователи соцсетей опасаются, что ограничения могут затормозить развитие университета и самого Блумингтона.
Зачем вводить запрет, если он не работает
Ролло не согласен с тем, что постановление носит лишь символический характер. По его мнению, если другие города последуют примеру Блумингтона, это заставит власти штатов и федеральное правительство наконец заняться регулированием ИИ.
«Предположим, мы начнем штрафовать OpenAI на 2500 долларов в день. Изменит ли это что-нибудь? Нет. Смысл в том, чтобы принять закон, запрещающий такую деятельность на нашей территории. А теперь представьте сотни городов, которые сделают то же самое. Это заставит законодателей на более высоком уровне отнестись к проблеме серьезно», — объяснил он.
Кейт согласен, что развитие ИИ требует регулирования, особенно из-за возможных экономических последствий. Однако вместо общего запрета он предлагает решать конкретные проблемы, связанные с использованием технологий, например усилить защиту персональных данных и установить четкие правила применения цифровых систем полицией и городскими службами.







