Эксперты: ИИ-министр не спасет Албанию от коррупции и может быть опасным
На прошлой неделе Албания анонсировала назначение министра, созданного на базе ИИ, который будет отвечать за портфель государственных тендеров.
«Диелла» провозглашена первым в мире виртуальным министром. Албанский премьер-министр Эди Рама пообещал, что это назначение положит конец повальной коррупции в госконтрактах — главной преграде на пути Балканской страны в Евросоюз.
Но к виртуальному законодателю уже возникли серьезные технические, политические и этические вопросы, пишет TechXplore со ссылкой на информагентство «Франс-Пресс».
В заявлении о назначении Диеллы Рама подчеркнул, что государственные тендеры будут теперь «на 100% свободны от коррупции». Страна занимает 80-е место из 180 в индексе коррупции Transparency International.
«Диелла никогда не спит, ей не нужно платить, у нее нет личных интересов, нет родственников, ведь родственники — большая проблема в Албании», — отметил премьер-министр.
Албанские политики часто оказываются в центре скандалов, связанных с коррупцией и госфондами. Бывший мэр столицы был задержан и остается под стражей по подозрению в коррупции при распределении госконтрактов. Лидер оппозиции и бывший премьер-министр Сали Бериша также подозревается в выдаче госконтрактов своим знакомым.
Однако эксперты настроены скептически.
«Как и любая система ИИ, она полностью зависит от качества, последовательности данных и надежности моделей, лежащих в ее основе», — сказал Эрион Куррай, эксперт по цифровой трансформации и кибербезопасности.
Точные механизмы работы Диеллы неизвестны, но вероятно, она использует большие языковые модели (LLM) для обработки запросов — аналогично тем, которые питают генеративные чат-боты, такие как ChatGPT или Gemini. Если входные данные неполные, предвзятые или устаревшие, решения ИИ будут отражать эти недостатки.
«Она может неправильно истолковать документы, ошибочно отметить поставщика или не заметить признаки сговора», — отметил Куррай.
«LLM отражают общественные настроения, у них есть предвзятости. Нет оснований полагать, что это решает проблему коррупции», — добавил специалист по компьютерным наукам и ИИ Жан-Габриэль Ганассья.
Албанская оппозиция обратилась в Конституционный суд в связи с вопросами ответственности за решения ИИ. «Кто будет контролировать Диеллу?» — задал вопрос парламенту Бериша.
Ганассья согласен, что вопросы ответственности и контроля играют ключевую роль, когда речь идет об ИИ: «Если общественное принятие решений доверено машине, это значит, что больше нет ответственности, мы сведены до уровня рабов. Что меня беспокоит, так это идея управления машиной, предлагающей "правильный" ответ и препятствующей любым обсуждениям».
Указ, опубликованный в четверг, гласит, что Рама «также несет ответственность за создание и работу виртуального Министерства ИИ Диеллы».
Что касается Диеллы, чье лицо принадлежит известной албанской актрисе Аниле Бише, чей контракт на использование ее изображения истекает в декабре, не ясно, переживет ли ее назначение проверку Конституционного суда. Также неизвестно, будет ли он соответствовать стандартам Европейского Союза, в который надеется войти Албания в течение следующих пяти лет.
«На данный момент нет информации о том, как на самом деле работает Диелла. Если коррумпированная система предоставляет манипулированные данные или установлены фильтры на то, что она не должна видеть, Диелла лишь легитимизирует старую коррупцию новым программным обеспечением», — сказал албанский политолог Лутфи Дервиши.
