Эксперты говорят, что вероятность того, что ИИ положит конец человечеству, составляет 5%
Может ли искусственный интеллект однажды привести к нашему вымиранию? Как бы преувеличенно это ни казалось, но некоторые ученые, очень серьезно относящиеся к рискам, связанным с быстрым развитием технологий, считают, что это может произойти. По их мнению, когда искусственный интеллект в целом увидит свет, несколько сценариев могут привести к нашей гибели, хотя шансы на это, по их мнению, довольно малы (около 5 %).
Искусственный интеллект стремительно развивается, и, по мнению экспертов, эта тенденция сохранится в ближайшие годы благодаря быстрому приобретению новых возможностей. ИИ уже превосходит человека в некоторых навыках, и это только начало.
Некоторые ученые даже считают, что со временем ИИ может стать причиной вымирания человечества. Это выяснилось в ходе недавнего опроса 2 778 исследователей, опубликовавших работы, посвященные ИИ. Участники поделились своим мнением о времени, которое потребуется для достижения определенных ключевых вех в развитии ИИ. Их также попросили подумать о потенциальном влиянии этих технологических достижений на общество.
Основные достижения в ближайшие десятилетия
По мнению исследователей, вероятность того, что к 2028 году системы ИИ будут способны выполнять большинство интеллектуальных задач, которые на сегодняшний день определяет человек, составляет не менее 50 %. То же самое касается и художественных навыков: к ним относятся, например, автономное сочинение полноценных песен, которые будет сложно отличить от человеческих произведений, или создание полноценных веб-сайтов, предназначенных для обработки финансовых транзакций.
Однако относительно немногие эксперты считают, что к тому времени ИИ будет способен выполнять задачи, связанные со сложным взаимодействием с физическим миром, например, устанавливать электропроводку в новом доме. Также, по мнению некоторых исследователей, даже к 2028 году системы ИИ не смогут решать задачи, требующие глубокого понимания.
По оценкам экспертов, опрошенных в рамках основного
ИИ ведет к вымиранию людей?
Почти 58 % опрошенных исследователей считают, что вероятность того, что ИИ может привести к вымиранию человечества, составляет 5 %, особенно после появления общего ИИ. Это высокоразвитая форма искусственного интеллекта, которая значительно превосходит интеллектуальные возможности человека и его способность принимать решения. Исследователи считают, что если такая технология выйдет из-под контроля человека, последствия могут быть драматическими.
Эти результаты могут восприниматься как положительно, так и отрицательно, в зависимости от точки зрения человека. Тем не менее по-прежнему крайне важно ввести в действие более строгие этические принципы и государственное регулирование, чтобы направить развитие ИИ таким образом, чтобы максимизировать преимущества и минимизировать риски.
Так, более 70 % опрошенных исследователей обеспокоены различными рисками, связанными с ИИ (даже без учета рисков, связанных со сверхчеловеческим ИИ). Они опасаются различных драматических сценариев, таких как массовое использование технологий для манипулирования общественным мнением, разработки химического или автоматического оружия, мониторинга и контроля населения в мельчайших деталях и так далее.