Статьи
Статья
Искусственные ошибки

Сегодня глава Сбербанка Герман Греф заявил о миллиардных потерях из-за ошибок искусственного интеллекта. Почему нейросети принимают неверные решения и как этого можно избежать? Публикуем фрагменты новой программы телеканала «Наука»«Искусственный разум». Ждите премьеру в марте.

Долгое обучение

Искусственный интеллект — одна из самых популярных тем научной фантастики. Мы живем в удивительное время, когда смелые фантазии авторов и ученых становятся реальностью. Сегодня, это происходит благодаря прорыву в области машинного обучения и развитию искусственных нейросетей.

В отличие от обычного программирования, нейросетям не нужен строгий алгоритм решения поставленной задачи. Им достаточно указать цель и загрузить информацию к размышлению. Оптимальное решение нейросети найдут самостоятельно.

Для беспилотных автомобилей эти цели предельно ясны. Доехать из точки А в точку Б, не нарушая правил и не попадая в ДТП. Президент компании по разработке беспилотных технологий, Ольга Ускова сама пережила аварию по вине водителя. Безупречный нейро-шофер должен исключить все недостатки человеческого фактора: усталость, невнимательность, импульсивность и недостаток опыта. Подобные проекты сегодня существуют у всех мировых автогигантов.

Чем больше человек убирается из процесса вождения, тем выше становится уровень безопасности. Вот просто от внедрения вот первых модулей когда она не разрешает определенные вещи, и идет в потоке ритмично, снижает аварийность на дорогах сразу на 38%.

Ольга Ускова, президент группы компании «Когнитивные технологии»

Беспилотники последнего поколения — это умнейшие системы управления. Ее ключевые компоненты: спутниковая навигация - определяет позицию машины, камера на лобовом стекле — передает информацию о препятствиях на дороге и следит за нахождением автомобиля в пределах разметки. Радар под бампером — сканирует расстояние до автомобилей. И, наконец, лидары — трехмерное машинное зрение. Эти лазерные устройства определяют расстояние до предметов и формирует трехмерную карту движения. Сырые, неразмеченные данные записываются автоматически, во время движения автомобиля. В мире беспилотных автомобилей эти наборы данных — дорогостоящий материал.

© pilot.cognitivepilot.com

Медицина — еще одна из самых востребованных сфер применения искусственного интеллекта. В хирургии умные роботы пока выступают на вторых ролях, в качестве ассистентов врачей. В отличие от человека, рука робота никогда не дрогнет и не нанесет случайного повреждения организму. 

Четко ориентироваться в пространстве механическому ассистенту помогает искусственный интеллект. По статистике, применение роботов примерно на 15% сократило время пребывания пациента на хирургическом столе. Как следствие, уменьшилось число осложнений после операций.

У хирурга в руках два инструмента, а роботом он управляет с помощью легкого наклона головы. Наш робот помогает хирургам в нескольких областях. Прежде всего он позволяет сфокусироваться на самой операции, а не на ассистенте - не отвлекаться она объяснения помощнику, что нужно сделать, и не переживать, что он все понял правильно. Кроме того улучшается качество изображения и весь процесс становится безопаснее.

Джереми Рассел, глава компании по производству медроботов “Freehand”

А вот в диагностике аналитические сверхспособности нейросетей все чаще позволяют машинам конкурировать с людьми. Например, специальные алгоритмы быстрее и точнее врачей находят очаги раковых заболеваний на снимках МРТ. Изучив миллионы размеченных снимков нейросети нашли закономерности, то есть признаки онкологии, малозаметные человеку.

Искусственая интуиция

Механический интеллект с интуицией? В марте 2016 года английская компания DeepMind доказала — у нейросетей есть большой потенциал к нетривиальному мышлению. Ее искусственный интеллект под названием AlphaGo впервые обыграл чемпиона по игре го — корейца Ли Седоля. И объяснить это логически сложно. Для победы над человеком в игру го, программисты применили творческий подход. Хотя считается, что творчество — исключительная способность человеческой личности. Сегодня исследователи задаются вопросом: может ли искусственный интеллект овладеть этим бастионом нашего сознания.

Мы совсем недавно сделали такой проект, литературное произведение, написанное нейронной сетью в стиле Гоголя. И, действительно, получается, вот читаешь — прямо Николай Васильевич.

Александр Крайнов, руководитель службы компьютерного зрения компании «Яндекс»

Нейросети научились подражать авторам литературы и музыки, что имеет практическое применение в установлении авторства работ или реставрации произведений. Например, искусственный интеллект восстановил древнеримскую фреску, найденную в 1968 году. Во времена династии Флавиев она украшала виллу на территории Испании. На основе сохранившегося изображения, нейросеть сгенерировала полностью утраченные фрагменты.

 

Увеличенная копия фрески, восстановленной искусственным интеллектом, на фасаде в Екатеринбурге © Алина Шешен

 

Дальнейшее развитие способности искусственных сетей прогнозировать развитие ситуаций приведет к замещению отдельных человеческих профессий. По прогнозам, одним из первых в прошлое уйдут таксисты и дальнобойщики. Грузовые фуры большую часть времени ездят по загородным хайвеям. Эти закрытые от пешеходов трассы легче всего подготовить для самодвижущихся автомобилей. Самым длительным и сложным станет последний этап — повсеместное внедрение беспилотников.

Вот все, что у нас описывают как роботизация, это же действительно не большие железные болванки, которые передвигаются, скрипят и говорят металлическим голосом. Это очень умные алгоритмы, которые позволяют, один раз настроив их на компьютере, заменить бухгалтеров, юристов, и многие-многие-многие другие профессии.

Иван Бектин, председатель ассоциации участников рынка данных, директор автономной некоммерческой организации «Информационная культура»

Ирония состоит в том, что обезлюдят не только, так называемые, службы сервиса: водители, продавцы, офисные клерки. В зоне риска и те, кто создает искусственный интеллект — программисты.

Скрытая инициатива

К сожалению, а может быть к счастью, искусственные художники, музыканты и писатели — это феноменальные имитаторы. Они не могут творить самостоятельно, без образца для подражания.

Я сейчас скажу ужасную, наверное, вещь, но нейронные сети не могут, например, создать литературное произведение, прозу, в которой есть смысл, в которой есть сюжет, в которой есть какое-то развиваемое действие. Вот такого произойти не может. Мы совсем недавно сделали такой проект литературное произведение, написанное нейронной сетью в стиле Гоголя. И это действительно читаешь, прямо в этом узнается Гоголь, отлично сделано и все. Но есть один нюанс. Сюжет написал писатель Лукьяненко, а нейронная сеть выполнила только стилизацию.

Александр Крайнов, руководитель службы компьютерного зрения компании «Яндекс»

Нейро-пилоты автомобилей тоже могу копировать стиль — манеру вождения. Им достаточно дать на анализ сотни тысяч часов видео гонок, объяснить, на что обратить внимание, а дальше нейросеть сама разберется, как пройти сложный поворот — в духе Айртона Сенны или Михаэля Шумахера.

Мировой рекорд диалоговых систем — 24 адекватные реплики подряд, — принадлежит боту из Китая. Наборы данных для обучения китайская нейросеть получает постоянно, в разговорах с пользователям социальных сетей. Правда, при такой методике существует сложности. Отпущенные в свободное плавание боты, как дети учатся всему: и хорошему и плохому.

Бот через некоторое время стал нацистские высказывания употреблять, и им пришлось его закрыть. Потому что люди, которые с ним общались, его тролили. В этом смысле он как бы просто повторил те данные, на которых обучался.

Михаил Бурцев, заведующий лабораторией нейронных систем глубокого обучения МФТИ, руководитель проекта iPavlov

Контроль и ограничение нейросетей — насущный вопрос будущего. Этот вид искусственного интеллекта всегда преследует главную цель — оптимально решить поставленную задачу. Однако, наш мир — это царство исключений из правил. В некоторых областях человеческой жизни бездушное принятие оптимальных решений может стоить очень дорого. Как должна поступить беспилотная машина в ситуации, когда жертв не избежать? К сожалению, однозначно ответить на это вопрос невозможно. У моральных дилемм вообще нет идеального решения.

Пока не решена простейшая моральная задача. Перед автомобилем на дорогу выбегает ребенок. Что должен делать искусственный интеллект автомобиля в этой ситуации: либо отвернуть и потенциально убить своего пассажира,  либо ехать прямо и задавить ребенка? Здесь нет оптимального варианта, согласитесь. А пока все говорят: «Ну, в такой ситуации нужно просто отдавать управление водителю». Но это не решение.

Александр Гостев, главный антивирусный эксперт Лаборатории Касперского

Способность к самообучению — удивительное свойство нейросетей. Они, как губка, впитывают в себя информацию, предоставленную человеком. И хотя эти алгоритмы придуманы людьми — как именно искусственный интеллект решает поставленную задачу, на какие конкретные признаки опирается, во многом, загадка для ученых.

Мы можем человека прижать в угол и говорить: «Что ж ты, зараза, так решил? Объясни, почему ты так сделал?» Он нам что-то расскажет. Нейросеть принимает сама какое-то решение по алгоритму, которого мы из нее обратно вытащить не можем.

Василий Буров, член экспертного совета при Правительстве РФ, советник директора Московского института электроники и математики ВШЭ

Сложнейшие алгоритмы искусственного интеллекта функционируют в собственной логике, до конца не понятной человеку. Это непрозрачность нейросетей — серьезный повод для беспокойства и технофобий.

Вы не можете описать всю цепочку принятия решения внутри алгоритма, потому что он учится, учится, учится на основе огромного количества накопленных данных. Если вы захотите обвинить разработчика того или иного алгоритма, либо владельца системы в том, что он делает что-то неправильно, то он разведет руками и скажет: «Извините, я тут ни при чем, видите, у нас тут алгоритм научился сам». И это большой дискуссионный вопрос во всем, что касается автоматически принятия решений.

Иван Бектин, председатель ассоциации участников рынка данных, директор автономной некоммерческой организации «Информационная культура»

Прогресс не остановить. Хотим мы этого или нет, мир стоит на пороге роботизированного общества. Этические кодексы и законы которого еще не прописаны. Каким будет этот новый мир? Чем обернется он для планеты людей? Решение пока зависит от нас, а не от машин.

26.02.2019 16:48:48