Почему генеральный директор OpenAI призывает к более активному регулированию ИИ и что это значит
После невероятного успеха инструмента OpenAI по созданию чат-ботов ChatGPT многие с нетерпением ждут, что компания будет делать дальше. Но теперь генеральный директор OpenAI призвал к дальнейшему регулированию ИИ. Почему так происходит, какой эффект это будет иметь и есть ли здесь мотив для OpenAI?
Почему Сэм Альтман призывает к усилению регулирования ИИ?
Сэм Альтман - генеральный директор OpenAI, компании, стоящей за инструментом обработки языка ChatGPT. ChatGPT стал мировой сенсацией, но, несмотря на его успех, Альтман теперь настаивает на дальнейшем регулировании ИИ.
16 мая 2023 года Альтман выступил на слушаниях подкомитета Сената по судебной системе и призвал членов Конгресса продолжить регулирование ИИ. Выступая на слушаниях, генеральный директор OpenAI заявил, что "регулирование ИИ необходимо" и что "вмешательство правительств в регулирование будет иметь решающее значение для снижения рисков все более мощных моделей".
Альтман также предложил, что "правительство США может рассмотреть возможность сочетания лицензирования и требований тестирования для разработки и выпуска моделей ИИ, превышающих определенный порог возможностей".
В ходе слушаний Альтман признался в своей любви к сообществу ИИ с открытым исходным кодом и даже предположил, что ИИ может однажды помочь решить проблему изменения климата и вылечить рак.
Однако Альтман также напомнил Конгрессу, что "относительно небольшое число поставщиков" могут создавать передовые услуги и инструменты, что несет в себе "пользу и опасность". Альтман также заявил, что меньшее количество передовых разработчиков ИИ, за которыми нужно следить, может пойти на пользу правительству, пока у потребителей остается достаточно выбора.
Итак, очевидно, что профессионалы отрасли и законодатели обеспокоены ИИ и его будущим влиянием. Но какое влияние окажет дальнейшее регулирование на индустрию ИИ? Будет ли это хорошо или плохо?
Какую пользу принесет отрасли ИИ дальнейшее регулирование?
Есть несколько причин, по которым регулирование ИИ может стать преимуществом как для разработчиков, так и для потребителей.
Во-первых, государственное регулирование может предотвратить злонамеренное использование ИИ. Новые технологии часто используются преступниками для совершения атак и мошенничества. Учитывая огромный потенциал ИИ, имеет смысл внедрить правила этичного использования, чтобы не допустить распространения преступлений с использованием этой технологии.
Например, производители ИИ нуждаются в жестком регулировании, чтобы предотвратить производство технологий ИИ, которые могут представлять угрозу для жизни людей. В качестве альтернативы, разработчики ИИ и компании могут быть обязаны подавать заявку на получение лицензии перед производством и выпуском аппаратного или программного обеспечения, использующего ИИ. Прежде чем получить разрешение на производство продуктов ИИ, компания должна будет пройти аудит или соответствовать определенным критериям тестирования перед выпуском.
Однако некоторые могут воспринять регулирование ИИ как плохую новость, особенно разработчики, которые не хотят ограничений на то, что они могут и не могут производить и выпускать для общественности. Если регулирование ИИ остановит разработчиков от исследований и создания революционных технологий, таких как медицинское оборудование, это может оказаться более вредным для человечества, чем что-либо другое.
Некоторые также считают, что говорить о регулировании ИИ еще слишком рано, хотя присутствие ИИ во многих отраслях сегодня, казалось бы, опровергает это мнение.
Является ли регулирование ИИ хорошей новостью для OpenAI?
Призыв Сэма Альтмана к усилению регулирования ИИ вызвал вопросы о том, принесут ли такие ограничения реальную пользу OpenAI.
Трудно сказать, будет ли дальнейшее регулирование положительным для OpenAI. Однако на вышеупомянутых слушаниях в Сенате Альтман предложил, чтобы ИИ-компании, подобные OpenAI, проходили независимый аудит и получали надлежащие лицензии, что говорит о том, что он рад участвовать в этом усилении регулирования.
Похоже, что Альтман вполне обоснованно обеспокоен тем, что ИИ выходит из-под контроля, поэтому он и обратился к Конгрессу. Однако во время слушаний Альтман похвалил ChatGPT, заявив, что чат-бот ИИ от OpenAI "с большей вероятностью ответит полезно и правдиво и отклонит вредные запросы, чем любая другая модель с подобными возможностями".
Неудивительно, что Альтман имеет здесь некоторую предвзятость, поскольку ChatGPT - детище компании, которой он руководит. Однако дальнейшее регулирование может привести к тому, что более крупные, уже созданные компании ИИ получат преимущество перед небольшими организациями, особенно если лицензии, разрешения и длительные периоды тестирования станут обязательным требованием закона (поскольку это может повлечь за собой дополнительные расходы и потребовать больше персонала).
Регулирование ИИ - предмет спора
В настоящее время существует множество различных мнений и идей, связанных с регулированием ИИ. Одни считают, что эту технологию необходимо обуздать, другие предпочитают, чтобы она оставалась такой, какая она есть. В ближайшем будущем страны по всему миру могут ввести новые законы об ИИ, и нам придется подождать и посмотреть, станет ли это благословением или проклятием.