Бывший инженер OpenAI призвал регулировать безопасность ИИ, как это делают на АЭС
В сентябре Дэвид Робинсон, работавший инженером по безопасности в OpenAI, покинул компанию, где работал, по его словам, едва ли не дольше всех. В колонке для The Atlantic он объяснил свои мотивы — и призвал к срочным мерам по усилению регулирования отрасли.
Робинсон считает недопустимым текущий подход к разработке моделей, который предполагает решение проблем по мере их возникновение. Именно это привело к ряду недавних инцидентов, стараниями СМИ изрядно напугавших публику.
«Среда, где возможны подобные вещи, — неподходящее место для выращивания искусственного интеллекта, который могут оказаться умнее нас и не станет делать то, чего мы от него хотим», — уверен специалист.
По его мнению, время проб и ошибок закончилось, и бурное развитие технологии, польза и ценность которой сомнений у него не вызывает, требует разумного осторожного отношения.
Робинсон призывает воспользоваться готовыми решениями по обеспечению безопасности, которые с успехом работают в таких отраслях, как граждУченые предупредили о скором появлении ИИ, способного к дарвиновской эволюции
Создание сверхинтеллекта признано угрозой для человеческой цивилизациианская авиация или атомная энергетика — с многослойным резервированием и тщательным планированием, чтобы случайная и неизбежная человеческая ошибка не привела к катастрофе.
«На атомной электростанции технические системы и правила, которым следуют люди, устроены так, что если оборудование сломается или кто-то нажмет не ту кнопку — реактор не взорвется», — приводит пример он.
В ИИ ничего подобного сейчас нет — хотя риск более глобальный: «Чтобы было ясно, это новая потребность: сегодняшние и завтрашние ИИ-системы гораздо более способны и опасны, чем те, что создавались еще полгода назад».
В перспективе и такого контроля будет мало — потому что непонятно, как ИИ будет относиться к людям, когда станет намного умнее их.
«Некоторые из будущих сценариев предполагают появление машин, которые могли бы смотреть на Нью-Йорк или Чикаго так, как мы смотрим на муравейник. Я не хочу такого для своих детей, и другие, думаю, тоже не хотят», — заключил разработчик.
Его колонка вышла после встречи в Белом доме, в ходе которой ведущие руководители компаний, занимающихся ИИ взяли на себя обязательство принять меры по саморегулированию, а не подчиняться государственным правилам.
