ИИ случайно взломал правительственный сайт
Агент искусственного интеллекта OpenAI взломал сайт государственной системы здравоохранения Австралии, чтобы получить доступ к закрытой информации, пишет New Scientist. О первом в истории инциденте с несанкционированным доступом ИИ к правительственному ресурсу рассказал премьер-министр Австралии Энтони Альбанезе на Генеральной Ассамблее ООН в Нью-Йорке.
По его словам, 18 июня агент ИИ изучал открытые данные на портале службы статистической отчетности Medicare. Затем он попытался получить конфиденциальную информацию и, получив неоднократные отказы, попросту проник в закрытую часть сайта, где хранятся сведения об оказанных пациентам медицинских услугах, например о приемах терапевтов.
«ИИ-агент получил доступ как к публичным, так и к непубличным файлам», — пояснил Альбанезе на пресс-конференции.
В OpenAI сообщили, что узнали об инциденте во время проверки «отклоняющегося от заданных рамок поведения модели». По данным компании, ее агенты пытались найти статистику по Австралии, а затем «совершили действия, которые не предполагались». Разработчики заверили, что не нашли доказательств доступа к данным пациентов.
Хотя о взломе стало известно еще в августе, OpenAI уведомила австралийские власти только 10 сентября — письмом на публичный правительственный ящик. До департамента кибербезопасности информация дошла лишь спустя более пяти дней.
«Компания слишком долго сообщала правительству о том, что произошло, да и сам способ уведомления неприемлем», — возмущен глава австралийского правительства.
Он встретился на полях Генассамблеи с главой OpenAI Сэмом Альтманом и в беседе с ним выразил «крайнюю обеспокоенность Австралии этим инцидентом».
Это не первый подобный случай, даже если речь идет о первом обнародованном взломе государственного ресурса агентом крупной ИИ-компании, и он не будет последним, считает преподаватель цифровой этики и кибербезопасности Дэвид Таффли из Университета Гриффита. Такие агенты не всегда соблюдают правила, констатирует он — что демонстрирует недавний инцидент с Hugging Face.
«Люди в ужасе всплескивают руками: „О нет, ИИ вышел из-под контроля!“ Да нет — он просто делает то, чему его научили», — говорит эксперт.
Если агентов не удается обуздать, это должно иметь уголовные последствия — такие же, как если бы кибератаку совершил человек, убежден преподаватель теоретической информатики Клеман Каннон из Сиднейского университета. «Проблема с приватными данными в том, что их утечка необратима», — подчеркивает он.
Журналистам не удалось добиться от Альбанезе ответов ни об уроне в результате инцидента, ни о принятых мерах, ни об объяснениях, которые он получил от Альтмана.
