«Цифровая некромантия»: воскрешение людей с помощью ИИ — продолжение практики скорби

Генеративный ИИ, который включает в себя языковые алгоритмы и генераторы изображений и видео, усиливает то, что стало известно как «цифровая некромантия». Речь идет о фигуральном «вызывании мертвых» по цифровым следам, которые люди оставляют при жизни, пишет команда ученых из Ливерпульского университета в Сonversation.

Новое — хорошо забытое старое

Дебаты вокруг цифровой некромантии разгорелись в 2010-х годах и были вызваны достижениями в технологии «дипфейков», которые привели к реанимации Брюса Ли, Майкла Джексона и Тупака Шакура. Это также привело к посмертным появлениям в фильмах Кэрри Фишер и Питера Кушинга.

Первоначально подобные инициативы были прерогативой кино- и музыкальных компаний с большими ресурсами, но появление генеративного искусственного интеллекта расширило доступ к технологиям. Еще до того, как ChatGPT ворвался в общественное сознание в конце 2022 года, один пользователь уже использовал LLM OpenAI, чтобы поговорить со своей умершей невестой на основе ее сообщений и электронных писем. Видя потенциал, ряд стартапов, таких как Here After и Replika, начали использовать генеративный искусственный интеллект, чтобы «воскрешать» близких для скорбящих.

В чем проблема?

Для некоторых эта технология пересекает культурную и даже этическую границу, многие испытывают глубокую тревогу от мысли, что мы можем регулярно взаимодействовать с цифровыми симуляциями мертвых. В результате к черной магии ИИ-некромантии относятся с подозрением.

«Но как социологи, работающие над культурными практиками памяти и поминовения, а также экспериментирующие с воскрешением мертвых с помощью генеративного искусственного интеллекта, мы считаем, что нет причин для беспокойства», — отмечают авторы.

Сохранение связи с умершими через тексты, изображения и вещи — обычное дело, часть нашей жизни.

Люди издавна придавали эмоциональную ценность изображениям и реликвиям как средствам сохранения умерших при себе. Религиозные реликвии разных культур служат лишь одним из примеров. Распространение фотографии в XIX веке быстро стало альтернативным средством. У многих из нас сегодня есть фотографии и видео, к которым мы возвращаемся для воспоминаний или поиска утешения.

Когда дело доходит до генеративного искусственного интеллекта, не происходит ничего нового. Скорость, с которой возможности ИИ были использованы для некромантии, многое говорит нам о том, насколько хорошо технология работает с нашими уже существующими практиками скорби и поминовения, а не «нарушает» или «изменяет» их.

Используя письменные сообщения (например, в социальных сетях и в электронных письмах), аудиозаписи речи, фотографии и видео близких, предоставленные клиентами, стартапы обучают модели ИИ, которые позволяют посмертно «взаимодействовать с ними». Некоторые несогласные с таким использованием ИИ.

Проблема первая:  люди будут говорить то, чего они не говорили бы при жизни, и станут разыгрывать чужой сценарий. Мертвых как бы превращают в зомби, нарушая целостность их личности.

Это, конечно, возможно, однако в целом следует помнить, что мы постоянно воображаем и инициируем разговоры с мертвыми. В моменты кризиса или радости мы размышляем о том, что могли бы сказать нам те, кого мы потеряли, какое отношение проявить и какую поддержку могли бы предложить здесь и сейчас.

Проблема вторая: через «цифровые аватары» могут общаться не мертвые, а мошенники. 

Однако, опять же, нужно помнить, что обычно мы не относимся к «посланиям» умерших так, как если бы они были реальными. Мы используем их как проводники памяти.

Вывод

Когда мы чрезмерно концентрируемся на странных и зловещих аспектах «цифровой некромантии», то упускаем из виду, как эти новые технологии резонируют с тем, кем мы являемся и что делаем уже давно.