Джеймс Уэбб и внесолнечные планеты: эпический провал ИИ
Новые генеративные модели ИИ, такие как ChatGPT, открывают перед нами огромные возможности, но также и большие риски. Примером тому может служить провал в астрономии ИИ Bard от Google, который оказался не очень хорошо знаком с космическим телескопом Джеймса Уэбба.
В последние недели огромный интерес вызвал ряд моделей искусственного интеллекта, представленных на суд общественности гигантами индустрии. Главным среди них является ChatGPT, чат-бот, разработанный Open AI, который действительно продемонстрировал выдающиеся способности.
ChatGPT отличается замечательным владением языком и глубокими знаниями во многих областях. Он способен писать длинные и внятные тексты, настолько, что уже начали распространяться целые книги, полученные благодаря боту. Он может дискутировать с пользователем и даже помогать ему в решении сложных задач, таких как написание программных кодов, их интерпретация или отладка.
ChatGPT работает благодаря архитектуре GPT-3, основанной на модели искусственного интеллекта, имя которой "Трансформер" будет вызывать воспоминания у тех, кто родился в 80-х годах. Благодаря этому алгоритм способен выявлять и воссоздавать связи между словами, присутствующими в тексте, намного эффективнее, чем раньше.
Вместе с огромной базой знаний, используемой для обучения, ChatGPT представляет собой огромный шаг вперед в области ИИ. Буквально в последние несколько дней Open AI также выпустила обновление ChatGPT, основанное на новом движке GPT-4. Первые впечатления от него, похоже, очень хорошие, поскольку он способен обрабатывать не только текст, но и изображения, видео и музыку.
Какое отношение это имеет к астрономии? Все просто. Очевидно, что конкуренты не остались в стороне, и Google поспешил анонсировать собственную аналогичную систему: Bard. Она тоже основана на Трансформер, но с одним принципиальным отличием. По сравнению с ChatGPT, Bard не только использует обучающие данные для создания своей базы знаний, но и способен искать данные в сети в режиме реального времени.
Чтобы продемонстрировать миру потенциал Bard, Google опубликовал твит, в котором показал демо-версию с ответами бота на некоторые вопросы, заданные пользователем. Один из них представлял особый интерес: "О каких новых открытиях с телескопа Джеймса Уэбба я могу рассказать своему 9-летнему сыну?".
Ответы были следующими:
- "В 2023 году JWST наблюдал многочисленные галактики, классифицированные как "зеленый горошек".
- "Телескоп получил изображения галактик возрастом более 13 миллиардов лет".
- "JWST сделал первые снимки планеты за пределами нашей Солнечной системы".
И в этом последнем случае возникает загвоздка. По всей вероятности, Bard имеет в виду изображение, полученное JWST, газового гиганта HIP 65426 b, масса которого примерно в 12 раз больше массы Юпитера. Сообщение об этом было опубликовано НАСА 1 сентября.
Однако это не первое прямое изображение внесолнечной планеты. На самом деле рекорд принадлежит наблюдению, сделанному еще в 2004 году с помощью Очень большого телескопа ESO (VLT) и, в частности, благодаря его системам адаптивной оптики, которые позволили добиться столь сенсационного результата в то время с помощью телескопа земного типа. И снова это газовый гигант 2M1207 b, вращающийся вокруг коричневого карлика.
Можно предположить, что ИИ Bard был введен в заблуждение заголовком, использованным в пресс-релизе НАСА. Фактически, в нем сообщалось: "Уэбб НАСА впервые сделал прямое изображение далекого мира". В переводе это звучит примерно так: "Уэбб НАСА сделал свое первое прямое изображение далекого мира".
Недоразумение вполне может возникнуть отсюда, потому что JWST получил первое изображение экзопланеты, а не первое в истории. Возможно, Бард не уловил этот нюанс, и это ввело его в заблуждение. Конечно, это только гипотеза, поскольку нелегко понять, где кроется проблема для модели ИИ такой сложности.
В любом случае, ошибка дорого обошлась Google, поскольку она не осталась незамеченной и о ней сразу же сообщили многочисленные астрономы. Помимо очевидного имиджевого ущерба, это привело к потерям на фондовом рынке в размере около 100 миллиардов долларов для Alphabet, дочерней компании Google, ответственной за разработку Bard.
![](/wp-content/uploads/2023/03/4.png)
Помимо самой новости, необходимо сделать несколько выводов. Первое касается опять же самой природы ошибок Bard. Ошибки, от которой, по правде говоря, не застрахован даже ChatGPT.
Это заставляет задуматься о том, что Bard, ChatGPT, как и любая другая модель ИИ, доступная в настоящее время, на самом деле не имеет никакого понимания того, что она делает. В конце концов, такое программное обеспечение, каким бы умопомрачительным оно ни казалось, делает не более чем преобразование всех предоставленных данных в числа и нахождение сложных математических взаимосвязей между ними.
Второе фундаментальное соображение непосредственно вытекает из первого: человеческий контроль остается абсолютно необходимым. Именно в астрономии ИИ сегодня является незаменимым инструментом из-за огромного количества данных и информации, генерируемых современными приборами. Однако эти, безусловно, сложные технологии всегда должны использоваться с критическим взглядом и полным осознанием того, что человек делает. Как продемонстрировал опыт Bard, ошибки и недоразумения не за горами.
Урок, который мы можем извлечь из этого, прост: ИИ несет нам огромный риск, который не имеет ничего общего с апокалиптическими и антиутопическими сценариями, а скорее связан с его неосознанным и поверхностным использованием. Конечно, тем, кто опубликовал демонстрацию, было бы достаточно проверить результаты, а не слепо доверять ИИ, чтобы не столкнуться с подобной ситуацией...