Лучше, чем ChatGPT? Meta представляет ИИ, который приближается к человеческому интеллекту
Компания Meta* только что представила новую модель ИИ. Ближе к человеческому мозгу, чем ChatGPT и т.п., эта модель, возглавляемая французским исследователем Янном Лекуном, призвана вытеснить генеративный ИИ...
В кулуарах выставки VivaTech в Париже Янн ЛеКун, французский исследователь, отвечающий за искусственный интеллект в компании Meta, представил новую модель ИИ "JEPA" ("Joint Embedding Predictive Architecture").
Эта модель призвана "преодолеть основные ограничения современных наиболее продвинутых систем ИИ", поясняется в пресс-релизе Meta. Во время презентации Янн ЛеКун сделал акцент на дистанцировании "JEPA" от других моделей, таких как GPT, на которой работает ChatGPT от OpenAI.
"Сегодняшний ИИ и машинное обучение - это полный отстой. У людей есть здравый смысл, а у машин - нет", — говорит Янн ЛеКун.
Исследователь всегда весьма критически относился к лингвистическим моделям, представленным на рынке. Еще в январе ЛеКун считал, что ChatGPT далек от революции. По его мнению, "ChatGPT не является особенно инновационным" с технической точки зрения.
Новый вид модели искусственного интеллекта
Решив превзойти своих конкурентов, Meta предлагает модель ИИ, которая обучается примерно так же, как человеческий интеллект. Поэтому принцип работы системы сильно отличается от таких моделей, как GPT или PaLM2 от Google. Эти модели работают, опираясь на огромную базу данных. Опираясь на эту информацию, модели ИИ пытаются угадать наиболее логичную последовательность слов, исходя из вопроса пользователя. На самом деле, эти ИИ не понимают тексты, которые они генерируют. Они просто имитируют мышление. Таким же образом работают генераторы изображений, такие как DALL-E, Adobe Firefly или Midjourney.
С новой моделью Meta дело обстоит иначе. Вместо того чтобы агрегировать горы данных, созданных людьми, "JEPA" сравнивает абстрактные представления изображений или звуков. Такой подход заставляет ИИ строить "внутреннюю модель внешнего мира", что облегчает его обучение.
Таким образом, модель имитирует работу человеческого мозга. Каждый день ваш мозг бессознательно анализирует множество данных, чтобы понять окружающий мир. Подобно человеческому интеллекту, модель может жонглировать абстрактными понятиями, а не последовательностями слов.
"Наша работа [...] основана на том, что люди усваивают огромное количество базовых знаний о мире, просто пассивно наблюдая за ним", — заявляет Meta.
Благодаря такому подходу модель действительно понимает данные, которые ей предоставляются. ИИ не приходится угадывать ответы на вопросы пользователей, основываясь на наиболее вероятной последовательности слов. Теоретически, таким образом, "JEPA" не должен "галлюцинировать", то есть генерировать фактически ложную информацию. Это главный недостаток генеративного ИИ. Их утверждения далеки от достоверности, потому что они не совсем понимают, о чем говорят. Именно поэтому генеративные ИИ испытывают большие трудности при конструировании некоторых элементов, таких как человеческие руки или уши.
"Если вы тренируете (модель) на 1 000 или 2 000 миллиардах лексем, она кажется способной к пониманию. Но она делает глупые фактические или логические ошибки", — подчеркивает Янн ЛеКун.
Более того, "JEPA" отличается от других крупных языковых моделей высокой эффективностью. Согласно пресс-релизу Meta, ИИ не требует значительных ресурсов для работы, в отличие от более требовательных к ресурсам систем, таких как GPT.
Конец генеративного ИИ?
По мнению Meta, "генеративные методы слишком много внимания уделяют деталям, вместо того, чтобы улавливать общие концепции", как это делает ее новая система. По мнению Янна ЛеКуна, генеративный ИИ в будущем исчезнет, потому что "у нас будет что-то лучшее, чтобы заменить его":
"Общие языковые модели по-прежнему полезны сегодня, но через пять лет они не будут использоваться".
На бумаге эта модель представляет собой новый этап на пути к общему искусственному интеллекту, великой цели OpenAI и других титанов технологий. Этот тип ИИ, все еще далекий от современных технологий, способен развиваться и адаптироваться к поставленным перед ним задачам, даже если он не запрограммирован на их выполнение.
"Генеративные модели уходят в прошлое, мы собираемся отказаться от них в пользу предиктивных архитектур", — говорит исследователь, удостоенный премии Алана Тьюринга в 2019 году.
Как и положено, Meta сделала весь код "JEPA" доступным для исследователей. Эта стратегия с открытым исходным кодом направлена на стимулирование исследований в области ИИ путем поощрения разработчиков к созданию собственной технологии. Группа из Менло-Парка уже делала это со своими предыдущими инновациями, такими как MusicGen, ИИ, который генерирует музыку на основе короткого текста, или LLaMA, для Большой Языковой Модели Meta ИИ.
* Meta и Facebook – признаны экстремистскими организациями и запрещены в РФ.