Новости

Нейросеть запрограммировали спать и видеть сны

Исследователи создали искусственный интеллект, чья производительность возрастает, если позволять ему время от времени «вздремнуть».

Сон позволяет нейронам удалять ненужные синаптические связи, которые мы создаем в течение дня. Этот процесс, называемый синаптическим гомеостазом, помогает улучшить нашу когнитивную деятельность, в то время как сны позволяют нам обрабатывать наши воспоминания. Как выяснилось, что-то подобное может происходить с искусственными нейронными сетями, если им позволить спать и видеть сны. Математики в Италии запрограммировали нейронную сеть Хопфилда (полносвязная нейронная сеть с симметричной матрицей связей) таким образом, чтобы она могла спать.

Вдохновленные механизмами сна млекопитающих, специалисты ввели новое расширение для нейросети, представляющее собой стандартный механизм обучения в режиме онлайн (бодрствования) и автономно (режим сна). В своём «спящем» состоянии нейросеть циклически перебирает и удаляет ненужную информацию, а затем объединяет то, что представляет ценность. Результаты были впечатляющими: в режиме бодрствования максимальная ёмкость памяти нейросети составляла α=0,14, где α — количество хранимых битов в синапсе. Когда цикл «сна» был включен, нейросеть достигла теоретического предела памяти для сетей этого типа — α = 1. Обширное тестирование с использованием моделирования подтвердило, что «сон» позволяет нейронной сети повысить свою производительность.

 

 

Читайте также
Воспарить над пробками: авиамобили  —  наша новая реальность
Воспарить над пробками: авиамобили — наша новая реальность
Век аэромобилей приближается: такси-дроны, машины-трансформеры. Как скоро они войдут в нашу жизнь?
Новые открытия дают надежду, что мы победим болезнь — «бич современного общества»
Новые открытия дают надежду, что мы победим болезнь — «бич современного общества»
Можно ли спасти свой мозг от разрушения и вылечить болезнь Альцгеймера?
Кто выиграет гонку: вирус, иммунная система или технологии?
Кто выиграет гонку: вирус, иммунная система или технологии?
Прямо сейчас происходит гонка нашей иммунной системы, науки, технологии и вируса