«Крестный отец» ИИ предупредил о масштабном блэкауте в этом или следующем году

Нобелевский лауреат Джеффри Хинтон, которого заслуженно называют одним из крестных отцов машинного обучения, предупредил о масштабном инциденте из-за искусственного интеллекта, который может случиться уже совсем скоро. По прогнозам ученого, в этом или следующем году ИИ может устроить глобальный блэкаут или парализовать мировую финансовую систему.

Перед выходом нового полнометражного документального фильма «ИИ: вероятно, повода для беспокойства нет» (название, к слову, придумал чат-бот с ИИ) Хинтон, ставший вместе со своим бывшим коллегой по Google Демисом Хассабисом одним из героев киноленты, дал интервью The Guardian. Исследователь верит, что ИИ способен привести к «прекрасному будущему», однако по его мнению, «вполне может быть, что лучше было бы никогда его не разрабатывать».

В беседе с газетой Хинтон подверг резкой критике разработчиков ИИ за неоправданный риск: «Я думаю, [Марк] Цукерберг, [Илон] Маск и Сэм Альтман понимают риски — и им на это плевать. Они предпочтут деньги. Таково мое убеждение».

Джеффри Хинтон занимается ИИ более четырех десятилетий. За концептуальные и инженерные прорывы в разработке глубоких нейросетей он получил Нобелевскую премию по физике в 2024 году и премию Тьюринга (своего рода «нобелевка» по информатике) в 2018-м, став вторым в мире лауреатом сразу двух престижных научных наград. В 2023 году он ушел из Google, чтобы свободно говорить о рисках ИИ, предупредив: «Если эти штуки увлекутся борьбой за больший контроль, у нас будут проблемы».

Увидим Чернобыль

Нашумевший этим летом инцидент со взломом ИИ-агентами OpenAI сайта Hugging Face ученый сравнивает с аварией на АЭС Три-Майл-Айленд в Пенсильвании в 1979 году — это, по его словам, тревожный звонок.

«Либо в конце этого года, либо в следующем мы увидим Чернобыль, и, возможно, этого будет достаточно, чтобы люди действительно обратили внимание», — полагает Хинтон.

Событие «чернобыльского типа», судя по приведенным им примерам, будет не ядерным инцидентом, а скорее атакой с использованием ИИ на систему электрогенерации, которая «вызовет массовое отключение электричества», или аварией, способной обрушить финансовую систему на неделю.

«Представляете, что произойдет? Мы сможем от этого оправиться, [но] это заставило бы их встрепенуться и обратить внимание», — говорит исследователь.

Под словом «их» он здесь подразумевает «мировых лидеров, кроме Трампа». Президент США «отвергает любую попытку построить глобалистскую схему» контроля над ИИ — чтобы не дать Китаю вырваться вперед в этой гонке. Хинтон поддерживает более жесткий план, одобренный президентом Финляндии и еще 32 странами, включая Сингапур, Германию, Канаду и Австралию: обязательное тестирование передовых моделей ИИ, независимая оценка и межправительственные общие стандарты.

Не все потеряно

«Нам нужно что-то вроде американского FDA для лекарств, где компании должны представить очень убедительные статистические доказательства независимому органу, что [модель ИИ] приносит больше пользы, чем вреда, прежде чем ее выпустят. На примере талидомида [лекарства, разработанного в 1950-х и вызывавшего тяжелые врожденные дефекты] мы поняли, что выпустить, а потом судиться — неправильный путь. А крупные технологические компании говорят: обращайтесь с этим так, как мы обращались с талидомидом», — объясняет основоположник ИИ.

Вместе с тем, в целом он сохраняет надежду, что катастрофу можно предотвратить. «Мое чутье подсказывает, что мы все еще контролируем ситуацию. Вполне возможно, мы сумеем что-то сделать. Это сработает, только если мы приложим к этому большие усилия — но мы вполне можем их приложить», — подытожил Хинтон.