Робота научили перепроверять свои воспоминания, чтобы не путать предметы
Исследователи Массачусетского технологического института (MIT) разработали систему памяти UQ-DAAAM, которая помогает роботам находить и исправлять ошибки в собственных наблюдениях. Например, если аппарат принял настенный дефибриллятор за огнетушитель и сохранил неверное описание, новая технология позволит ему пересмотреть запись, изучив предмет с других ракурсов. Разработка может сделать роботов надежнее при выполнении сложных задач, особенно там, где ошибка способна привести к опасным последствиям.
Система развивает предыдущую разработку команды — DAAAM. Она позволяет роботу создавать подробные описания предметов и сохранять их в трехмерной карте окружающего пространства. Позже аппарат может обратиться к этой памяти, чтобы выяснить, где находится нужная вещь, что это за объект и когда он встречался ему в последний раз.
Однако камера не всегда передает достаточно информации. Предмет может оказаться далеко, частично скрытым, размытым или плохо освещенным. В результате робот способен принять серую трубу за животное или перепутать два похожих устройства. Если не исправить ошибку, она останется в памяти и повлияет на следующие действия.
Робот оценивает, насколько уверен в своих выводах
Новая система UQ-DAAAM (Uncertainty Quantification for Describe Anything, Anywhere, at Any Moment) оценивает надежность описаний с помощью двух показателей. Первый отражает уверенность модели искусственного интеллекта в выбранных словах. Второй показывает, насколько описание совпадает с тем, что робот видит на других снимках того же предмета.
Если результаты указывают на высокую вероятность ошибки, система подбирает дополнительные изображения, сделанные с других ракурсов. Например, сначала робот мог принять дымовую трубу за белку на крыше, но следующий кадр покажет дым, выходящий из трубы. Это поможет исправить первоначальное описание.
При этом системе не приходится заново анализировать все изображения с помощью ресурсоемкой модели. Исследователи разработали математически обоснованный способ выбирать наиболее полезные кадры без повторного запуска модели компьютерного зрения. Это позволяет выполнять проверку менее чем за секунду даже во время движения робота.
Описания стали точнее
После отбора дополнительных изображений языковая модель объединяет информацию в одно уточненное описание. При этом больший вес получают новые наблюдения и подписи, содержащие меньше неоднозначностей.
В испытаниях метод помог устранить ошибки примерно в 92% неоднозначных описаний объектов. Для этого в среднем требовалось всего два дополнительных изображения на каждый предмет. Точность распознавания выросла на 5% по сравнению с предыдущими методами. Роботы также стали лучше отвечать на вопросы о том, какие предметы они видели, где они находились и когда аппарат встречал их в последний раз.
«В отличие от ChatGPT, в случае физического ИИ недостаточно просто предупредить, что робот иногда может ошибаться. Умение понимать, чего он не знает, будет необходимым условием безопасного внедрения этой технологии», — отметил руководитель исследования Лука Карлоне, доцент MIT.
В дальнейшем ученые планируют проверить систему на других типах роботов, в том числе на мобильных манипуляторах. Еще одно направление — научить аппараты самостоятельно находить участки пространства, в которых они не уверены, и возвращаться туда для дополнительных наблюдений.
