Предложен способ «посадить на цепь» искусственный интеллект
Привязка искусственного интеллекта к физическим носителям и их строгий учет могут стать залогом того, что он не выйдет из-под контроля. Предложения по мерам безопасности опубликовал Кембриджский университет (Великобритания).
«За последнее десятилетие искусственный интеллект добился поразительного прогресса, во многом благодаря резкому увеличению вычислительной мощности, применяемой в алгоритмах обучения. Правительства справедливо обеспокоены потенциальными последствиями и ищут способы регулирования этой технологии, но данные и алгоритмы нематериальны и их трудно контролировать», — говорит Гайдн Белфилд из Центра будущего интеллекта Леверхалма при Кембриджском университете.
Однако принято говорить о «триаде ИИ» — и кроме данных и алгоритмов в нее входит оборудование, обеспечивающее мощности для вычислений. Количество физических устройств ограничено в отличие от первых двух элементов, которые могут продуцироваться, теоретически, до бесконечности.
А значит, можно создать глобальный реестр чипов, предназначенных для суперкомпьютеров, обеспечивающих работу искусственного интеллекта. И это станет инструментом для его регулирования. Причем речь идет не только о каких-то фантастических сценариях «выхода из-под контроля», но и о вполне реальных — например, о том, чтобы не допускать использования ИИ мошенниками.
В такой международный реестр все производители, продавцы и реселлеры чипов должны вносить данные обо всех передвижениях чипов, и их необходимо регулярно проверять. На каждом чипе должен присутствовать уникальный идентификатор, чтобы предотвратить промышленный шпионаж, контрабанду и незаконный оборот. Тогда мировое сообщество будет иметь точную информацию об объеме вычислительных ресурсов, которыми одновременно обладают страны и корпорации.
Это предложение и другие возможные меры собраны в отчете, подготовленном сотрудниками разных подразделений Кембриджского университета. Они также указывают на возможность ограничить число взаимодействий между чипами-носителями ИИ. Кроме того, по аналогии с ядерным оружием, предлагается разделить «право включения» суперкомпьютеров между несколькими уполномоченными, которые смогут наложить вето на «рискованные решения» до начала обучения нейросети.
Также в университете отмечают, что в сфере искусственного интеллекта уже пора вводить антимонопольные меры. За 13 лет отрасль пережила взрывной рост: крупнейшие модели ИИ сейчас используют в 350 млн раз больше вычислений, чем в 2010 году. Но на рынке, не считая обособленного Китая, доминируют всего три компании: Amazon, Microsoft и Google.
«Мониторинг аппаратного обеспечения во многом поможет антимонопольным органам контролировать рыночную власть крупнейших технологических компаний и тем самым открыть пространство для большего количества инноваций и новых участников», — говорит профессор Дайан Койл.
При этом авторы отчета указывают, что предложения носят скорее «исследовательский» характер, так как они имеют потенциальные недостатки. Среди них риск утечки конфиденциальных данных, вероятность негативных экономических последствий и, предположительно, новые препятствия для развития технологий ИИ.
