Новости

Нейросеть запрограммировали спать и видеть сны

Исследователи создали искусственный интеллект, чья производительность возрастает, если позволять ему время от времени «вздремнуть».

Сон позволяет нейронам удалять ненужные синаптические связи, которые мы создаем в течение дня. Этот процесс, называемый синаптическим гомеостазом, помогает улучшить нашу когнитивную деятельность, в то время как сны позволяют нам обрабатывать наши воспоминания. Как выяснилось, что-то подобное может происходить с искусственными нейронными сетями, если им позволить спать и видеть сны. Математики в Италии запрограммировали нейронную сеть Хопфилда (полносвязная нейронная сеть с симметричной матрицей связей) таким образом, чтобы она могла спать.

Вдохновленные механизмами сна млекопитающих, специалисты ввели новое расширение для нейросети, представляющее собой стандартный механизм обучения в режиме онлайн (бодрствования) и автономно (режим сна). В своём «спящем» состоянии нейросеть циклически перебирает и удаляет ненужную информацию, а затем объединяет то, что представляет ценность. Результаты были впечатляющими: в режиме бодрствования максимальная ёмкость памяти нейросети составляла α=0,14, где α — количество хранимых битов в синапсе. Когда цикл «сна» был включен, нейросеть достигла теоретического предела памяти для сетей этого типа — α = 1. Обширное тестирование с использованием моделирования подтвердило, что «сон» позволяет нейронной сети повысить свою производительность.

 

 

Читайте также
Испытатель российской вакцины заразился коронавирусом. Препарат не работает?
Испытатель российской вакцины заразился коронавирусом. Препарат не работает?
Большинство считает, что вакцина обязана предотвращать заражение. Но это не так.
Как поймать темную материю
Как поймать темную материю
Темная материя есть даже в вашей комнате, но как ее поймать?
Венера — наша историческая родина?
Венера — наша историческая родина?
Благодаря находке фосфина в облаках Венеры, астрофизики обрели веру в возможность обнаружения внеземной жизни.