Лаборатория ВМС США успешно испытала автономного робота на МКС, используя алгоритмы обучения с подкреплением

Лаборатория военно-морских исследований США (U.S. Naval Research Laboratory, NRL) сообщила об историческом достижении: успешном испытании автономного робота в космосе с использованием алгоритмов обучения с подкреплением (reinforcement learning, RL). Впервые подобная система, способная самостоятельно принимать решения, была протестирована на борту Международной космической станции (МКС).
Испытание прошло 27 мая с помощью робота Astrobee, специально разработанного для работы в условиях невесомости. В течение пяти минут робот полностью автономно, без какого-либо вмешательства человека или удаленного управления, отстыковался от своей док-станции, выполнил манёвр и успешно вернулся обратно для стыковки.
Данный проект, известный как APIARY, открывает путь к использованию роботов для выполнения чрезвычайно сложных задач в космосе, таких как сборка крупных космических телескопов или станций для передачи солнечной энергии. Ученые подчеркивают, что это прорывное событие, поскольку оно знаменует собой первый в истории случай применения алгоритмов обучения с подкреплением для автономного управления роботом в космосе. Этот успех должен повысить доверие к подобным технологиям для космических применений и стимулировать дальнейшие исследования в этой области.
Одной из главных проблем внедрения искусственного интеллекта в космос является высокая стоимость и риски, а также так называемый «пробел между симуляцией и реальностью». Команда NRL преодолела его, создав с помощью платформы NVIDIA Omniverse высокоточный симулятор среды МКС с нулевой гравитацией. Робот проходил обучение в этой виртуальной среде по методу curriculum learning, начиная с простых задач и постепенно переходя к более сложным и вариативным, что позволило ему адаптироваться к непредсказуемости реального мира.
Короткое пятиминутное испытание на МКС подтвердило, что навыки, полученные роботом в симуляции, успешно перенеслись в реальность. Несмотря на небольшой сбой камеры во время финальной стадии стыковки, было зафиксировано, что миссия Astrobee выполнена полностью успешно.
Исследователи называют эту демонстрацию transformative, то есть преобразующей, поскольку она открывает путь для новой эры сложных автономных операций на орбите с использованием робототехники. Эта технология крайне важна для будущих миссий по освоению глубокого космоса и масштабного строительства в пространстве, где требуется высочайший уровень автономии.
Кроме того, успех технологии APIARY имеет значение не только для космоса. Разработчики заявляют, что гибкость обучения с подкреплением позволяет быстро адаптировать робототехнические платформы для работы в любой среде — на земле, на море или под водой.