Google DeepMind разработала маркировку сконструированных ИИ белков
Искусственный интеллект сильно упростил и ускорил многие научные изыскания, включая и дизайн новых белков. Это, безусловно, прорыв, но вместе с тем и потенциальный риск, что технологией могут воспользоваться злоумышленники.
Решение нашли в исследовательском центре Google DeepMind. Там разработали и проверили способ маркировки белков, сконструированных ИИ, основанный на незначительных изменениях порядка аминокислот в последовательности. Методика описана в журнале Nature.
Многие производители уже проверяют заказываемые клиентами соединения на предмет потенциальных угроз. Но такие проверки можно обойти с помощью некоторых ИИ-инструментов, которые корректируют последовательности, чтобы те не попали под флаги. Водяной знак, указывающий, что новая последовательность происходит из конкретной лаборатории, модели или от конкретного производителя, может выступать в роли следа, а также обозначить интеллектуальную собственность исследователей. Однако водяные знаки для белков редко проверялись, в основном только в компьютерных симуляциях.
Подход, отработанный на текстах
Технология SynthIDBio разработана на основе существующих инструментов для маркировки текста и другого контента, созданного большими языковыми моделями, такими как Google Gemini. ИИ, генерирующие текст, и ИИ, проектирующие белки, полагаются на оценки вероятностей, что одно слово или одна аминокислота последует за другой в конкретной последовательности.
Выпущенный в 2024 году инструмент маркировки текста SynthID-Text заменяет некоторые слова так, чтобы сохранился смысл предложения. Например, вместо «у двери постелен коврик» пишет «у двери постелен половик». Для читателя здесь разницы нет, а программа-детектор, найдя множество таких корректировок по всему тексту, придет к однозначному выводу о его искусственной природе. Водяные знаки в белках устроены по такому же принципу. Главное, что от них требуется — чтобы изменения последовательности аминокислот не повлияли на функциональность белка.
Исследователи DeepMind проверили свою разработку на широко применяемом ИИ для проектирования белков ProteinMPNN. С помощью собственного инструмента AlphaProteo они сконструировали связывающие белки, которые для выполнения своих функций прикрепляются к определенным мишеням (природные примеры — антитела, искусственные — противовирусные препараты). Вышеупомянутым ProteinMPNN в них внедрили водяные знаки.
В экспериментах in vitro успешно прикреплялись к мишеням связывающие белки как с маркировкой, так и без, говорит специалист по информатике Пушмит Кохли, вице-президент DeepMind по исследованиям.
Что дальше
Результаты обнадеживают, потому что некоторые исследователи опасались, что «добавление скрытого сигнала ухудшит дизайн [белка] и снизит его функцию», оценивает специалист по информатике Маринка Житник из Гарвардской медицинской школы. Правда, водяные знаки вряд ли возможно ввести в маленькие белки без ущерба для их строения, полагает она.
Профессор Бирте Хёкер из Байройтского университета, напротив, выражает скептицизм в отношении маркировки белков высокой сложности, непример ферментов: «В дизайне ферментов уже так много [ограничений]».
«Думаю, именно такая тревога будет у многих [специалистов по белкам]», — согласен дизайнер белков Оливер Крук из Оксфордского университета, консультирующий правительство Великобритании по вопросам ответственных инноваций.
Он опасается, что необходимость помечать сгенерированные ИИ белки станет дополнительной сложностью для многих ученых, которые не проводят исследований, связанных с биобезопасностью.
Между тем в DeepMind уже изучают возможность маркировки других созданных ИИ биомолекул, таких как ДНК, с «очень многообещающими результатами», сообщил Кохли. А ближайшая цель — сделать SynthIDBio более устойчивым: сейчас удалить из молекулы водяные знаки относительно легко.
