Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей
Компания Anthropic заявила о нескольких случаях злоупотребления ее ИИ-моделями Claude. По данным Reuters, среди них была операция группы, в чьих методах заподозрили даже российский след, а также попытки китайских разработчиков использовать Claude для совершенствования собственных моделей.
По данным Anthropic, за последние восемь месяцев злоумышленники стали применять ИИ уже не просто как помощника. Claude использовали для выполнения целых цепочек действий во время кибератак. Люди при этом нередко лишь контролировали работу системы, а большую часть операций выполняли ИИ-агенты.
Claude использовали как источник данных для других ИИ
Anthropic сообщила о семи китайских лабораториях, деятельность которых была пресечена. Среди названных компаний оказались Alibaba, Moonshot, DeepSeek и Xiaomi.
По версии Anthropic, связанная с Alibaba группа организовала крупнейшую из обнаруженных атак для так называемой дистилляции. Это способ обучения одной нейросети на ответах другой, более мощной модели. Разработчики получают множество ответов от большой системы, а затем используют их, чтобы улучшить собственную модель и сократить затраты на обучение.
С мая по июль 2026 года Anthropic зафиксировала более 151 млн обращений к Claude, которые связала с Alibaba. В некоторые дни их число доходило почти до 3 млн. Запросы поступали более чем с 3500 аккаунтов, которые компания считает мошенническими.
Anthropic также обвинила разработчиков Kimi и DeepSeek в другой схеме. По данным компании, они могли направлять через Claude реальные разговоры пользователей своих чат-ботов, в которых могла содержаться личная или другая конфиденциальная информация, а затем использовать ответы модели для обучения собственных ИИ-систем.
Anthropic отдельно описала операцию группы, чьи методы напоминали действия российского хакерского объединения Midnight Blizzard.
Возможности ИИ повышают риски
Anthropic также обнаружила новые варианты злоупотребления Claude. В частности, модель применяли для разработки программного обеспечения, связанного с вооружениями, а также для разведки и поиска информации о военных программах.
«Год назад, скажем, если бы вы захотели оптимизировать дрон или программное обеспечение для ракеты, модели просто не были бы настолько хороши в этой задаче, как сейчас», — сказал Reuters руководитель отдела анализа угроз Anthropic Джейкоб Кляйн.
Компания отмечает, что по мере роста возможностей ИИ меняется и характер угроз. Системы все чаще способны самостоятельно выполнять длинные последовательности операций, оставляя человеку роль наблюдателя.
