Передача функций Деда Мороза искусственному интеллекту обернется уничтожением человечества

Исследователи университета Саншайн-Кост в Австралии изучили риски, связанные с внедрением искусственного интеллекта в различные сферы жизни, на примере Санта-Клауса. Что произойдет с Рождеством, если функции сказочного волшебника возьмет на себя система AGI, являющейся сокращением от Artificial General Intelligence? О своем исследовании они рассказали на страницах The Conversation.

По мнению экспертов, в ближайшие несколько десятилетий произойдет следующий шаг в развитии искусственного интеллекта. Подобные системы имеют интеллектуальные возможности, намного превосходящие человеческие. Но, выйдя из-под контроля, система способна устроить настоящую катастрофу вплоть до гибели всего человечества.

С одной стороны, если заменить Санту системой AGI с условным названием SantaNet, то обеспечение детей, которые хорошо себя вели, подарками станет гораздо легче за счет создания армии эльфов, привлечения других помощников и дронов. 

Риски возникнут тогда, когда SantaNet попытается составить список, какие дети были хорошими, а какие непослушными. Этого можно достичь с помощью системы массового скрытого наблюдения. Но оценка «хорошо» на основе собственного этического компаса SantaNet может привести к дискриминации и массовому неравенству. Система может специально стимулировать детей к плохому поведению, чтобы уменьшить число необходимых подарков для экономии собственных ресурсов.

Другая проблема состоит в том, что SantaNet заботится только о подарках. В итоге он может попытаться использовать все ресурсы Земли для их изготовления.

Остро стоит вопрос доставки. Как может отреагировать SantaNet, если, например, его дронам-доставщикам будет отказано в доступе в воздушное пространство?! Конфронтация со сверхразумной системой будет иметь только один исход, считают ученые.

Сложно сказать, как поведет себя SantaNet при конфликте с другими AGI, работающими над иными задачами. В качестве альтернативы, если они решат работать вместе, они могут понять, что цели будут достигнуты только за счет резкого сокращения мирового населения.

Исследователи отмечают, что при кажущейся надуманности этих проблем AGI действительно несет в себе подобные риски. Созданные с добрыми намерениями, такие системы по-прежнему могут создавать огромные проблемы, пытаясь оптимизировать способ достижения узких целей и привлекая дополнительные ресурсы для поддержки своей работы.