Мы можем не заметить, когда ИИ обретет сознание, предупредил философ

Наши представления о сознании слишком ограничены, чтобы судить о его наличии или отсутствии у машины, уверен философ Том МакКлелланд из Кембриджского университета. Своими соображениями на этот счет он поделился на страницах Mind & Language.

Ученый считает маловероятным, что в обозримом будущем появится достоверный тест для определения сознания у искусственного интеллекта. Поэтому, если такой качественный скачок произойдет — мы этого, скорее всего, не заметим.

ИИ бурно развивается и связанные с ним вопросы все больше переходят из области научной фантастики в плоскость насущных этических вопросов. По мнению Макклелланда, единственная «оправданная позиция» в этом отношении — агностицизм.

Что такое сознание

Чтобы ИИ имел этическую значимость, одного лишь сознания недостаточно, нужен особый его тип — чувственность, то есть способность к субъективному переживанию, объясняет философ.

«Сознание позволило бы ИИ развить восприятие и самосознание, но это состояние все еще может быть нейтральным. Чувственность предполагает сознательный опыт, который может быть приятным или болезненным. Именно это делает существо способным страдать или наслаждаться. Вот здесь и вступает в силу этика. Даже если мы случайно создадим сознательный ИИ, маловероятно, что это будет тот вид сознания, о котором нам стоит беспокоиться, — говорит он. — Например, беспилотные автомобили, которые "ощущают" дорогу перед собой, — это было бы огромным прорывом. Но с этической точки зрения это не имеет значения. А вот если у них появится эмоциональная реакция на поездку — это уже совсем другая история».

Компании вкладывают огромные средства достижение сильного искусственного интеллекта — машин с человеческим уровнем познания. Некоторые заявляют, что сознательный ИИ уже не за горами, а научные и государственные органы уже размышляют о том, как регулировать его работу.

«Если мы случайно создадим ИИ с сознанием или чувствами, нам следует быть осторожными, чтобы не причинить вреда. Но относиться к тому, что по сути не больше, чем тостер, как к сознательному существу, в то время как реальные сознательные существа страдают от нас в колоссальных масштабах, — тоже кажется большой ошибкой», — полагает Макклелланд.

Два лагеря

По его словам, дебаты об искусственном сознании разделили специалистов на два лагеря.

• Одни считают сознание программным обеспечением — и тогда, если удастся воссоздать его функциональную архитектуру, оно заработает и на кремниевых чипах, как в мозге.
• Скептики утверждают, что сознание зависит от определенных биологических процессов в «воплощенном органическом субъекте». Даже если структуру сознания получится запустить на компьютере — это будет лишь симуляция.

В своей статье философ разбирает обе позиции, показывая, как каждая из них совершает «прыжок веры», далеко выходящий за пределы любых существующих или вероятных в будущем доказательств.

«У нас нет глубокого объяснения сознания. Нет доказательств того, что сознание может возникнуть при наличии правильной вычислительной структуры, как и того, что сознание по своей сути биологично. И нет никаких признаков, что такие доказательства появятся в ближайшее время. В лучшем случае нас отделяет от какого-либо жизнеспособного теста на сознание целая интеллектуальная революция, — подчеркивает он. — Я верю, что мой кот обладает сознанием. Это основано не столько на науке или философии, сколько на здравом смысле — просто видно. Однако здравый смысл — продукт долгой эволюционной истории, в которой не было искусственных форм жизни, поэтому в отношении ИИ ему нельзя доверять. Но и доказательств и данных у нас недостаточно».

В таком случае остается единственно логичная позиция — агностицизм, приходит к выводу автор.

Почему это важно

Макклелланд смягчает этот вывод, называя себя «условно-строгим» агностиком: «Проблема сознания действительно сложная. Но необязательно непреодолимая».

Он предупреждает, что технологические гиганты могут использовать эту неопределенность в своих корыстных интересах.

«Существует риск, что неспособность доказать наличие сознания будет использована индустрией ИИ для выдвижения необоснованных заявлений о своей технологии. Это становится частью ажиотажа, чтобы компании могли продавать идею ИИ следующего уровня разумности», — объясняет философ.

И такой пиар далеко не безобиден, заключает он: «Если у вас возникает эмоциональная связь с чем-то, основанная на предпосылке, что оно сознательно, а оно таковым не является, — это может иметь экзистенциально токсичный потенциал. И эта ситуация, несомненно, усугубляется раздутой риторикой технологической индустрии».