Google поражен: его ИИ выучил новый язык без посторонней помощи
Искусственный интеллект, разработанный компанией Google, сумел выучить иностранный язык без помощи человека. Гигант из Маунтин-Вью до сих пор не знает, как ИИ удалось достичь этого...
В интервью CBS генеральный директор Google Сундар Пичаи рассказал о том, почему компания с осторожностью относится к искусственному интеллекту. В последние годы гигант из Маунтин-Вью действительно отложил несколько проектов, связанных с искусственным интеллектом, из-за излишней осторожности. В частности, были отложены языковые модели, при этом Google ссылался на риски, связанные с безопасностью и имиджем. Отчасти именно из-за этой осторожности OpenAI и Microsoft вырвались вперед в гонке искусственного интеллекта, опередив Google. Однако у компании были все карты на руках, чтобы утвердиться в роли первопроходца.
"Мы все должны нести ответственность на каждом этапе пути", — говорит Сундар Пичаи.
Стремясь быть смелее в ответ на действия конкурентов, Google применил аналогичный подход к запуску Bard. Вместо того, чтобы сразу запустить чат-бота по всему миру, компания сделала ставку на поэтапную доступность, начав с США и Великобритании.
"Мы хотим разработать более надежные уровни безопасности, прежде чем создавать и внедрять более мощные модели", — объясняет руководитель Google.
Первоначально Google полагался на модель LaMDA (языковая модель для диалоговых приложений). Постепенно компания добавила функции более мощной языковой модели, а именно Pathways Language Model (PaLM). PaLM имеет 540 миллиардов параметров, в то время как LaMDA - только 137 миллиардов.
По словам Сундара Пичаи, иногда генеративные искусственные интеллекты ведут себя не совсем ожидаемым образом. Именно поэтому крайне важно действовать осторожно, внимательно следя за реакцией ИИ.
Согласно выводам Google, языковые модели иногда могут обучать себя новым навыкам автономно, без ведома программистов. Компания назвала эту тайну "эмерджентными свойствами".
Например, экспериментальный ИИ, разработанный Google, смог самостоятельно выучить "язык Бангладеш, хотя его не обучали этому". Присутствующий вместе с Сундаром Пичаи старший вице-президент по технологиям Google Джеймс Маньика объясняет, что ИИ понадобилось всего несколько запросов, чтобы привыкнуть к незнакомому языку:
"Мы обнаружили, что с помощью очень небольшого количества бенгальских запросов он может перевести весь бенгальский язык".
Возникающие свойства вытекают из самого процесса машинного обучения, когда машина обучается сама, на основе имеющихся данных, без вмешательства человека. Если довести эту логику до крайности, то не так уж удивительно, что ИИ смог выучить язык без помощи программиста.
Тем не менее Сундар Пичаи отмечает, что точный способ, с помощью которого ИИ выучил бенгальский язык, до сих пор не известен инженерам Google. Генеральный директор признает, что такого рода странности все еще являются "черным ящиком", то есть системой, внутренняя работа которой неизвестна:
"Знаете, это не совсем понятно. И вы не можете сказать, почему он так сказал или почему он ошибся. Но у нас есть некоторые идеи, и наша способность к пониманию со временем улучшается".
Руководитель Google напоминает нам, что точно так же "мы не до конца понимаем, как работает человеческий разум".