ChatGPT: как OpenAI надеется помешать ИИ стать причиной «вымирания человечества»
У OpenAI есть план по предотвращению того, чтобы искусственный интеллект привел к гибели человечества. Стартап, стоящий за ChatGPT, сначала создал новую команду отобранных исследователей. Эти инженеры будут разрабатывать ИИ... перед ними стоит задача найти способ контролировать ИИ.
В последние месяцы OpenAI неоднократно выражал свою обеспокоенность эволюцией искусственного интеллекта. Совершенствуя ChatGPT и лежащую в его основе лингвистическую модель, стартап многократно усилил свои предостережения и предупреждения, особенно в адрес властей.
Сэм Альтман, генеральный директор и соучредитель американской компании, заявил, что ИИ может "нанести большой ущерб", если что-то пойдет не так. Выступая в Сенате США, Альтман ратовал за введение нормативной базы для ИИ. Предприниматель рекомендовал как можно скорее создать регулирующий орган, полностью посвященный языковым моделям.
Новая команда, занимающаяся вопросами суперинтеллекта
В целях освоения этой технологии OpenAI только что объявила о создании новой команды, занимающейся освоением и контролем ИИ. Команда, состоящая из "высококлассных исследователей и инженеров в области машинного обучения", сосредоточится на появлении "суперинтеллекта".
Это искусственный интеллект, пока еще находящийся на гипотетической стадии, способный превзойти человеческий разум, объясняет OpenAI. Эта технология может помочь человечеству "решить многие из самых важных мировых проблем". К сожалению, она также может привести к вымиранию человечества. Как и OpenAI, Google Deepmind и Anthropic, компания-разработчик чат-бота Claude, опасаются, что ИИ приведет цивилизацию к гибели. Эти три компании подписали открытое письмо, призывающее лиц, принимающих решения, принять меры по смягчению последствий, а не накладывать мораторий на исследования.
Чтобы избежать исчезновения человечества в результате появления ИИ, OpenAI утверждает, что прежде всего необходимы "новые научные и технические прорывы". Это тем более актуально, что OpenAI считает, что сверхинтеллект может появиться в течение десятилетия...
Освоение ИИ... благодаря ИИ
Если говорить конкретно, то команда будет работать над "решением проблемы выравнивания сверхинтеллекта". Говоря простым языком, инженеры будут искать способ добиться того, чтобы ИИ, достигнув продвинутой стадии эволюции, следовал "человеческим намерениям", а не отдалялся от них. Стартап хочет найти способ держать искусственный интеллект под контролем, даже когда он превзойдет человеческий мозг.
В настоящее время ИИ активно контролируется людьми. Инженеры и модераторы следят за ChatGPT и ему подобными, чтобы предотвратить злоупотребления. Эта система не сможет противостоять модели, которая стала более интеллектуальной, чем ее создатели.
Чтобы решить эту сложную проблему, стартап разрабатывает "автоматического исследователя выравнивания". За этим загадочным названием скрывается система ИИ, которая будет сосредоточена исключительно на вышеупомянутой проблеме выравнивания. По сути, OpenAI попросит искусственный интеллект найти решение... для управления ИИ:
"Наша цель - построить систему ИИ, достаточно согласованную (примечание редактора: с ценностями человечества), чтобы помочь нам решить все остальные проблемы согласования".
На своем сайте компания объясняет, что этот процесс "может продвинуть исследования выравнивания быстрее и лучше, чем люди". Для разработки этой первой системы, предназначенной для решения проблемы выравнивания, OpenAI будет набирать "новых исключительных исследователей и инженеров".
Оптимистично, что компания намерена "решить основные технические проблемы выравнивания с помощью суперинтеллекта за четыре года". Дорожная карта прогресса, на который нацелилась команда, будет опубликована в Интернете в ближайшем будущем.