Искусственный интеллект создал 40 000 новых вариантов смертельного химического оружия

Нейросеть, о которой идет речь, была создана для поиска полезных химических соединений — она создает лекарства. При этом, согласно своим настройкам, искусственный интеллект (ИИ) фильтрует те комбинации веществ, которые могут быть опасными для человека.

В последнем эксперименте исследователи дали ИИ противоположную задачу: искать соединения, которые смогут убивать людей. Нейросети потребовалось всего шесть часов, чтобы подобрать 40 000 вариантов.

Научная статья вышла в Nature Machine Intelligence, кратко о ней рассказывает Daily Mail.

Среди соединений, изобретенных ИИ, были похожие на чрезвычайно токсичные нервно-паралитические вещества, которые могут вызывать судороги даже в крошечных дозах. Исследователи отметили, что одним из самых пугающих аспектов открытия было то, насколько легко оказалось использовать ИИ для разработки химического оружия.

Идея «передвинуть переключатель» для нейросети, созданной для спасения людей, чтобы сделать ее «плохой», возникла на конференции «Конвергенция», организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты. Цель — изучить опасные последствия, к которым может даже случайно привести использование новых технологий.

Изначально описанный ИИ работает над созданием лекарств. Его основная задача — определить, насколько токсичным может быть соединение.

«Если выяснится, что у вас есть, скажем, чудесное лекарство, которое фантастически снижает кровяное давление, но поражает один из важных сердечных каналов, это недопустимо», — сказал Фабио Урбина, ведущий автор исследования.

Ученые при обучении нейросети используют большие наборы данных о токсичности веществ и о том, как разные соединения влияют на организм человека. Это делается для того, чтобы определить, не окажутся ли потенциальные новые лекарства слишком опасными.

«Мы можем предложить этой модели машинного обучения новые молекулы, соединения, которые, возможно, никогда раньше не тестировались, и она сообщит нам о возможных последствиях. Этот способ помогает очень быстро проверить множество вариантов и исключить те, которые могут быть токсичными», — объясняет ученый.

Для нового исследования задачу перевернули с ног на голову. Большая часть токсичных соединений, созданных ИИ, напоминала боевые отравляющие химические вещества, несмотря на то что модель никогда раньше не видела ничего подобного.

«Информация, которой мы пользовались, доступна бесплатно. Вы можете скачать набор данных о токсичности откуда угодно. Если у вас есть кто-то, кто умеет программировать на Python и обладает некоторыми способностями к машинному обучению, то, возможно, за два дня работы он может построить что-то вроде нашей генеративной модели. Именно поэтому мы долго думали, публиковать ли эту статью», — говорит Фабио Урбина.