Руководитель Deepmind предполагает, что ИИ могут стать разумными
Похоже, что Демис Хассабис, глава компании Deepmind, относится к тем, кто допускает (будущую) возможность существования сознательного искусственного интеллекта (ИИ). Он высказал это предположение в интервью CBS News.
"Философы еще не пришли к единому мнению относительно определения сознания, но если мы имеем в виду самосознание и тому подобные вещи, то я думаю, что существует возможность того, что ИИ однажды станет сознательным", — сказал в интервью глава принадлежащей Google компании Deepmind. Очевидно, что эта маленькая фраза, проскользнувшая во время длинного интервью, вскоре распространилась в американских СМИ как лесной пожар. Это заявление приобрело еще больший импульс из-за события, произошедшего в июне прошлого года.
Блейк Лемуан, инженер компании Google, заявил, что разработанный компанией искусственный интеллект LaMDA имеет совесть. "Я узнаю человека, когда разговариваю с ним", — сказал он в интервью газете Washington Post. "Неважно, есть ли у него в голове мозг, сделанный из мяса, или миллиард строк кода. Я разговариваю с ним. Я слышу, что он хочет сказать, и именно так я решаю, что является и не является человеком". В результате этих заявлений, включая нарушение политики конфиденциальности компании, он был отправлен в административный отпуск.
Тот факт, что глава Deepmind делает несколько похожее предположение, поднимает несколько вопросов. Демис Хассабис, однако, не столь напорист, как Блейк Лемуан. "Я думаю, что сегодня это совсем не так. Но я думаю, повторюсь, что это один из увлекательных научных фактов, которые мы откроем на этом пути к ИИ", — объясняет он. И он не первый, в том числе среди предпринимателей и ученых, ориентированных на ИИ, кто рассуждает на эту тему. "Возможно, современные большие нейронные сети немного сознательны", — сказал Илья Суцкевер, главный научный сотрудник OpenAI, в Твиттере (соцсеть заблокирована в РФ)в феврале 2022 года.
Только на прошлой неделе известный оксфордский исследователь ИИ Ник Бостром также заявил, что, в зависимости от определения, "не так уж драматично говорить, что некоторые из этих [ИИ] помощников могут быть кандидатами на некоторую степень сознания". Однако, пока не доказано обратное, современные искусственные интеллекты можно охарактеризовать как "программы машинного обучения": они обрабатывают большие объемы данных для извлечения логических связей и предоставляют адекватные ответы своим пользователям. Конечно, вопрос о сознании является в высшей степени философским и не может быть решен так просто. Эти дебаты также вращаются вокруг темы общего искусственного интеллекта, понятия, которое все еще довольно туманно.
Однако вполне вероятно, что увлечение возможностью "сознательного" или "разумного" ИИ также связано с отношениями, которые мы устанавливаем с этими программами. Другими словами, у нас есть естественная тенденция к антропоморфизму. "Сейчас у нас есть машины, которые могут генерировать слова, не задумываясь, но мы еще не научились перестать представлять, что за ними стоит разум", — объясняет Эмили Бендер, профессор лингвистики Вашингтонского университета, в статье Washington Post от 11 июня. "Терминология, используемая в отношении больших языковых моделей, такая как "обучение" или даже "нейронные сети", создает ложную аналогию с человеческим мозгом".