ИИ лучше учится в разговоре с самим собой, обнаружили разработчики
Способность вести диалог с самим собой кажется исключительно человеческой чертой. Внутренние разговоры помогают нам упорядочивать мысли, принимать решения и лучше понимать свои чувства.
Однако пользу из такого самоообщения могут извлекать не только люди. Ученые из Окинавского института науки и технологий (OIST) в статье для журнала Neural Computation показали, как внутренняя речь может улучшить обучение искусственного интеллекта. Их работа демонстрирует, что модели ИИ легче обобщают решения для разных задач, если используют внутреннюю речь и кратковременную память.
«Это исследование подчеркивает важность самообщения в процессе обучения. Структурируя данные так, чтобы система училась разговаривать сама с собой, мы видим, что на результат влияет не только архитектура ИИ, но и динамика взаимодействий, заложенная в процедурах обучения», — говорит первый автор работы Джеффри Квайссер из подразделения когнитивной нейроробототехники OIST.
Сочетая разговоры с самим собой с уникальной архитектурой оперативной памяти, исследователи улучшили способность своих моделей ИИ к обучению, адаптации к новым ситуациям и многозадачности.
Позаимствовать принципы у живого интеллекта
Команда давно исследует контент-независимую обработку информации — способность выполнять задачи, выходящие за рамки конкретных ситуаций, с которыми система сталкивалась ранее, путем усвоения общих методов и операций.
«Быстрое переключение между задачами и решение незнакомых проблем — это то, что мы, люди, делаем с легкостью каждый день. Но для ИИ это гораздо сложнее, — признает Квайссер. — Поэтому мы используем междисциплинарный подход, объединяя знания из области нейронауки развития, психологии, машинного обучения и робототехники, чтобы найти новые принципы обучения и заглянуть в будущее ИИ».
Исследователи сначала сосредоточились на архитектуре памяти моделей ИИ, изучив важность оперативной (рабочей) памяти для обобщения задач. От запоминания инструкций до быстрых вычислений в уме — оперативная память это кратковременная способность системы удерживать и использовать информацию. Моделируя задачи разной сложности, они проверили эффективность разных структур памяти. Оказалось, что модели с несколькими ячейками для фрагментов информации справлялись лучше, особенно со сложными задачами, такими как обратный порядок элементов или воспроизведение паттернов.
Внедрив в систему способность «побормотать себе под нос» — то есть, заставить ее самостоятельно проговорить что-то энное количество раз, — исследователи добились еще более высокой эффективности, особенно при выполнении заданий из нескольких этапов или в режиме многозадачности.
«Наша комбинированная система особенно интересна тем, что может работать с небольшим объемом данных — в противоположность огромным массивам, которые обычно нужны для тренировки моделей на обобщение. Это легкая и эффективная альтернатива», — подчеркивает исследователь.
Научиться лучше учиться
По его словам, в дальнейших планах — усложнение моделируемой среды: «В реальном мире мы принимаем решения и решаем проблемы в сложной, изменчивой и зашумленной среде. Чтобы точнее имитировать человеческое обучение в процессе развития, необходимо учитывать эти внешние факторы».
Это совпадает с общей целью команды — понять нейронные основы человеческого обучения. «Изучая такие феномены, как внутренняя речь, и понимая их механизмы, мы получаем фундаментально новое знание о человеческой биологии и поведении. Это знание можно применить, например, для создания бытовых или сельскохозяйственных роботов, способных функционировать в нашем сложном и динамичном мире», — резюмирует Квайссер.
