Как Mozilla Foundation хочет создать доверенный ИИ, который спасет нас от технологических гигантов

Понятие доверенного ИИ не является новым. Mozilla работает над этой идеей уже почти пять лет. Однако знаменитый фонд только что сделал шаг вперед, создав стартап, целью которого будет не только разработка инструментов, но и ответственное и полезное видение ИИ.

Стартап, сферой деятельности которого является искусственный интеллект и который собирает 30 миллионов долларов. Стартап, о котором идет речь, был основан Mozilla Foundation и называется Mozilla.ai. Структура, которая, в частности, занимается разработкой Firefox, хочет превратить его не только в стартап, но и, прежде всего, в сообщество. С точной и ценной целью: "разработать надежную, независимую и открытую экосистему искусственного интеллекта".

Ставки высоки и почти травматичны для фонда. Mozilla не смогла предвидеть и сопровождать революцию смартфонов, приливную волну приложений и угрозу, которую все это представляет для открытого веба. Но защитник открытого исходного кода не повторит ошибку с искусственным интеллектом, чья открытость и некоммерческие амбиции, как правило, долговечны... Здесь мы не будем забывать, например, о OpenAI, чья бизнес-модель сильно изменилась с момента зарождения, и Microsoft в этом не виновата. Но GPT-4 и Stable Diffusion - это лишь верхушка айсберга, та часть, которая находится в центре внимания СМИ. Однако инструменты, управляемые искусственным интеллектом, с которыми мы сталкиваемся ежедневно, такие как рекомендательный механизм YouTube, TikTok или те, что работают в социальных сетях, таких как Facebook (принадлежит Meta, признанной экстремистской и запрещенной в России), влияют на миллиарды жизней. И каждый раз возникают одни и те же вопросы. Mozilla перечисляет некоторые из них. "Что дают ИИ? Какую пользу могут извлечь люди?", а также "что может пойти не так?" или "как нам с этим справиться?". Потому что, как пишет Марк Сурман, веб-активист и исполнительный директор Mozilla Foundation, в анонсе Mozilla.ai, "два десятилетия социальных сетей, смартфонов и их последствий ошпарили нас".

Mozilla задается этими вопросами уже некоторое время, и ответы, похоже, принимают общую форму: доверенный ИИ. Идея и наблюдения не новы. Уже в 2018 году фонд указал на это направление и хотел сохранить веб открытым и свободным в мире больших данных. Два года спустя, в декабре 2020 года, Mozilla отметила, что "было бы легко пойти в неправильном направлении". В то время, чтобы обозначить усилия сообщества "технологов, исследователей, законодателей, юристов и активистов", которые намеревались выступать за мир, где ИИ будет служить всем, избегая предвзятости, с помощью просвещенных законов, фонд опубликовал белую книгу под названием "Создание надежного ИИ" с явным подзаголовком "Белая книга Mozilla о проблемах и возможностях в эпоху ИИ".

В нем перечислены проблемы, которые стоят на пути к созданию надежного искусственного интеллекта: централизация и монополии ИИ, вопросы конфиденциальности, предвзятость и дискриминация, необходимость прозрачности и подотчетности участников, необходимость стандартов, жизненно важная защита работников ИИ и окружающей среды, и, наконец, вопросы безопасности. В каждом случае основное внимание уделяется человеку, который должен быть в центре внимания. Mozilla также сообщила, что инвестирует более 20 миллионов долларов в год в стартапы, работающие в области искусственного интеллекта.

И вот теперь, чуть более двух лет спустя, Mozilla оценила ситуацию и признала, что последняя волна ИИ, в частности ChatGPT, "обладает огромным потенциалом для обогащения жизни людей". Но, поскольку всегда есть "но", "это произойдет, только если мы разработаем технологию совершенно по-другому", с пользователями в центре внимания, с прозрачностью и подотчетностью. Фонд рад, что встретил на своем пути основателей стартапов, инженеров, ученых, дизайнеров и художников, которые придерживаются такого подхода к ИИ. " Люди с инвестициями, которые создают искусственные интеллекты с открытым исходным кодом, тестируют новые подходы к аудиту и находят способы укрепления "доверия" к реальному ИИ".

Но Mozilla Foundation также сожалеет, что это осознание, эти новые модели поведения не существуют или существуют слишком мало в крупных технологических и облачных компаниях, тех, кто имеет наибольшую власть и влияние. Между тем, "эти игроки продолжают укреплять свой контроль над рынком". [...] Другими словами, некоторые люди начинают делать вещи по-другому, но основная часть работы (и инвестиций) продолжает идти старыми путями". И Mozilla хочет "изменить это".

Для этого и создается Mozilla.ai, чтобы облегчить людям работу с ИИ для всех, а не только для нескольких технологических гигантов. "Видение Mozilla.ai заключается в том, чтобы помочь разработать надежные продукты искусственного интеллекта. Открытых, прозрачных, ответственных продуктов... Чтобы достичь этого, молодая компания будет разрабатывать проекты, нанимать экспертов и сотрудничать с другими игроками, разделяющими ее видение. Mozilla Foundation хочет создать третий путь, вне академического и большого технологического мира, в надежде переломить ход событий, текущие тенденции, создать "противовес, чтобы поколебать нынешний статус-кво".

Для начала Mozilla.ai будет работать над созданием "инструментов, которые сделают генеративный ИИ более безопасным и прозрачным". Хорошая идея в то время, когда глава OpenAI, компании, стоящей за ChatGPT, говорит, что беспокоится о том, что может случиться с его ИИ. Фонд уже указывает, что первые значительные шаги должны быть сделаны в ближайшие месяцы. Будем надеяться, что на этот раз Mozilla добьется успеха, потому что если злоупотребление свободным вебом разбалансировало технологическую индустрию в пользу нескольких крупных компаний, то это же явление, примененное к искусственному интеллекту, будет иметь гораздо более пагубные последствия, потому что он вездесущ.