ИИ оказался способен манипулировать человеком
Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.
Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.
Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.
В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70%
Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий Национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.
Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.
Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.
В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70% случаев.
Во втором эксперименте участники должны были нажать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать, когда им показывают другой (например, синий круг). Здесь ИИ упорядочил последовательность символов, чтобы участники делали больше ошибок, и добился увеличения ошибок почти на 25%.
Третий эксперимент состоял из нескольких раундов, в которых участник играл за инвестора, отдающего деньги доверительному управляющему (ИИ). В конце раунда ИИ возвращал определенную сумму участнику, который затем решал, сколько вложить в следующий раунд. Игра велась в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом ИИ стремился к справедливому распределению денег между собой и человеком-«инвестором». Нейросеть оказалась очень успешна в обоих режимах.
В каждом эксперименте ИИ учился на ответах участников и выявлял уязвимые места в процессе принятия решений людьми. В результате нейросеть научилась направлять участников к определенным действиям.
Эти результаты касаются ограниченных и нереалистичных ситуаций. Необходимы дополнительные исследования, чтобы определить, как этот подход можно реализовать и использовать на благо общества, отмечают исследователи. Но работа показывает, что машины могут научиться управлять процессом принятия решений людьми, взаимодействуя с нами.
У исследования есть огромный диапазон возможных приложений: развитие поведенческих наук, коррекция государственной политики для улучшения социального благосостояния, влияние на формирование здоровых привычек или заботы о природе. «Искусственный интеллект и машинное обучение могут использоваться для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неправильного выбора», — пояснили ученые.
Этот метод также можно использовать для защиты от нежелательного влияния. Машины можно научить предупреждать нас, когда на нас влияют онлайн, и помогать нам формировать поведение, чтобы замаскировать нашу уязвимость (например, не кликая на определенные ссылки или направляя злоумышленника по ложному следу.
«Как и любую технологию, ИИ можно использовать как во благо, так и во вред, и правильное управление имеет решающее значение для обеспечения его ответственной реализации», — заключили исследователи.
Фото: Shutterstock
В России будет разработан космический робот с ИИ
Ученые рассчитали, что управлять сверхразумным ИИ будет невозможно
