Названы восемь путей, как ИИ может угрожать человечеству

Создана карта возможных угроз от ИИ
В основу классификации легли 95 ранее опубликованных сценариев. Авторы разобрали предполагаемую последовательность событий в каждом из них, чтобы помочь оценивать возможные риски.
Иллюстрация: ChatGPT

Международная группа исследователей систематизировала опубликованные сценарии, в которых развитие искусственного интеллекта может привести к гибели человечества, необратимому краху цивилизации или устойчивому обществу с радикально ограниченными свободами. Авторы изучили 3184 документа и нашли 58 работ, подробно описывающих хотя бы один такой путь. Всего они выделили 95 сценариев, объединенных в восемь групп по последовательности предполагаемых причин и событий. Результаты опубликованы вместе с открытым набором данных и интерактивным каталогом.

Как сгруппировали сценарии

Первые четыре группы связаны с переходом влияния к системам ИИ. В одном случае власть захватывает одна система, в другом — множество систем независимо друг от друга, в третьем они действуют согласованно. Четвертый путь предполагает постепенную передачу людьми полномочий ИИ до момента, когда вернуть контроль уже не получится.

Еще две группы описывают концентрацию власти у людей с помощью ИИ: закрепление тоталитарного режима и экономическое расслоение, при котором контроль над технологиями сосредоточивается в немногих руках.

Последние два пути связаны с расширением разрушительных возможностей человека — созданием опасной технологии при содействии ИИ и выходом автоматизированной войны из-под контроля.

Что означает число сценариев

Чаще всего в изученных источниках описывался захват власти одной системой ИИ — 41 сценарий. Постепенной передаче полномочий посвящены 19 сценариев, автоматизированной войне — три, экономическому расслоению — один. Частота упоминаний не показывает вероятность событий: она отражает лишь то, каким возможным угрозам авторы найденных работ уделяли больше внимания.

Для включения в обзор сценарий должен был описывать цепочку событий вплоть до исхода, который его авторы считали экзистенциальным. Исследователи признают, что восемь групп не исчерпывают всех возможностей: дальнейшая работа может опровергнуть часть сценариев или выявить новые.

Авторы рассчитывают, что общая карта сценариев облегчит совместную работу разработчиков ИИ, экспертов по оценке рисков и государственных органов. Речь идет об анализе гипотетических путей развития событий.

 

Подписывайтесь и читайте «Науку» в MAX