Новости

ИИ оказался способен манипулировать человеком

Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.

Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.

Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70%

Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий Национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.

Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.

Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70% случаев.

Во втором эксперименте участники должны были нажать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать, когда им показывают другой (например, синий круг). Здесь ИИ упорядочил последовательность символов, чтобы участники делали больше ошибок, и добился увеличения ошибок почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник играл за инвестора, отдающего деньги доверительному управляющему (ИИ). В конце раунда ИИ возвращал определенную сумму участнику, который затем решал, сколько вложить в следующий раунд. Игра велась в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом ИИ стремился к справедливому распределению денег между собой и человеком-«инвестором». Нейросеть оказалась очень успешна в обоих режимах.

В каждом эксперименте ИИ учился на ответах участников и выявлял уязвимые места в процессе принятия решений людьми. В результате нейросеть научилась направлять участников к определенным действиям.

Эти результаты касаются ограниченных и нереалистичных ситуаций. Необходимы дополнительные исследования, чтобы определить, как этот подход можно реализовать и использовать на благо общества, отмечают исследователи. Но работа показывает, что машины могут научиться управлять процессом принятия решений людьми, взаимодействуя с нами.

У исследования есть огромный диапазон возможных приложений: развитие поведенческих наук, коррекция государственной политики для улучшения социального благосостояния, влияние на формирование здоровых привычек или заботы о природе. «Искусственный интеллект и машинное обучение могут использоваться для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неправильного выбора», — пояснили ученые.

Этот метод также можно использовать для защиты от нежелательного влияния. Машины можно научить предупреждать нас, когда на нас влияют онлайн, и помогать нам формировать поведение, чтобы замаскировать нашу уязвимость (например, не кликая на определенные ссылки или направляя злоумышленника по ложному следу.

«Как и любую технологию, ИИ можно использовать как во благо, так и во вред, и правильное управление имеет решающее значение для обеспечения его ответственной реализации», — заключили исследователи.

Фото: Shutterstock

В России будет разработан космический робот с ИИ

Ученые рассчитали, что управлять сверхразумным ИИ будет невозможно

Читайте также
Юристы предложили, как решить законодательную проблему «цифрового воскрешения» мертвых
Юристы предложили, как решить законодательную проблему «цифрового воскрешения» мертвых
Имеется в виду общение с чат-ботом, созданным на основе данных о покойном.
Искусственный интеллект написал текст, неотличимый от «человеческого»
Искусственный интеллект написал текст, неотличимый от «человеческого»
«Настолько складно, что похоже на фейк».