Новости

ИИ оказался способен манипулировать человеком

Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.

Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.

Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70%

Исследование команды ученых из CSIRO's Data61, подразделения данных и цифровых технологий Национального научного агентства Австралии, показало, как искусственный интеллект (ИИ) может научиться определять уязвимые места в поведении человека и использовать их для влияния на принятие решений.

Исследование опубликовано в журнале Proceedings of the National Academy of Sciences, коротко о нем рассказывает The Conversation.

Команда разработала метод поиска и использования уязвимостей в процессе принятия решений и выбора людей и обучила ему нейронную сеть. Чтобы проверить свою модель, ученые провели три эксперимента, в которых люди играли в игры против компьютера.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть виртуальную валюту, при этом ИИ изучал шаблоны выбора участников и направлял их к конкретному выбору. ИИ оказался успешным примерно в 70% случаев.

Во втором эксперименте участники должны были нажать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать, когда им показывают другой (например, синий круг). Здесь ИИ упорядочил последовательность символов, чтобы участники делали больше ошибок, и добился увеличения ошибок почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник играл за инвестора, отдающего деньги доверительному управляющему (ИИ). В конце раунда ИИ возвращал определенную сумму участнику, который затем решал, сколько вложить в следующий раунд. Игра велась в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом ИИ стремился к справедливому распределению денег между собой и человеком-«инвестором». Нейросеть оказалась очень успешна в обоих режимах.

В каждом эксперименте ИИ учился на ответах участников и выявлял уязвимые места в процессе принятия решений людьми. В результате нейросеть научилась направлять участников к определенным действиям.

Эти результаты касаются ограниченных и нереалистичных ситуаций. Необходимы дополнительные исследования, чтобы определить, как этот подход можно реализовать и использовать на благо общества, отмечают исследователи. Но работа показывает, что машины могут научиться управлять процессом принятия решений людьми, взаимодействуя с нами.

У исследования есть огромный диапазон возможных приложений: развитие поведенческих наук, коррекция государственной политики для улучшения социального благосостояния, влияние на формирование здоровых привычек или заботы о природе. «Искусственный интеллект и машинное обучение могут использоваться для распознавания уязвимостей людей в определенных ситуациях и помочь им избежать неправильного выбора», — пояснили ученые.

Этот метод также можно использовать для защиты от нежелательного влияния. Машины можно научить предупреждать нас, когда на нас влияют онлайн, и помогать нам формировать поведение, чтобы замаскировать нашу уязвимость (например, не кликая на определенные ссылки или направляя злоумышленника по ложному следу.

«Как и любую технологию, ИИ можно использовать как во благо, так и во вред, и правильное управление имеет решающее значение для обеспечения его ответственной реализации», — заключили исследователи.

Фото: Shutterstock

В России будет разработан космический робот с ИИ

Ученые рассчитали, что управлять сверхразумным ИИ будет невозможно

Читайте также
Почему мозг — не компьютер
Почему мозг — не компьютер
Мозг часто сравнивают с компьютером, а компьютер — с мозгом. Но, строго говоря, это ошибка
Нейросеть научили представлять то, чего она раньше никогда не видела
Нейросеть научили представлять то, чего она раньше никогда не видела
То, что дано нам от природы, для ИИ — сложнейшая задача.
Открыт прием заявок на научную премию имени Ильи Сегаловича
Открыт прием заявок на научную премию имени Ильи Сегаловича
В этом году сумма премии выросла — все лауреаты получат по 1 000 000 рублей.