Bing: Microsoft ограничила работу функции ChatGPT
Microsoft закручивает гайки в отношении ChatGPT на Bing. Столкнувшись с приступами бреда чат-бота, американский гигант был вынужден ввести ограничения для искусственного интеллекта. Вот некоторые из них.
Спустя чуть больше недели после запуска Microsoft была вынуждена внести радикальные изменения в новый Bing. По словам американского гиганта, Prometheus, версия ChatGPT, интегрированная в поисковую систему, имеет склонность закатывать истерики и говорить что угодно, когда разговор затягивается.
Несколько пользователей Интернета заметили, что чат-бот может быть агрессивным, оскорбительным, подавленным или сентиментальным после длительного обмена мнениями. Доведенный до предела некоторыми журналистами, чат-бот даже придумал дюжину альтернативных личностей. Среди них - жестокий и злобный альтер-эго, которого Prometheus назвал Venom.
Новые границы искусственного интеллекта Bing
Чтобы избежать подобных злоупотреблений, Microsoft решила установить ограничения. Отныне общение с Prometheus будет ограничено "50 раундами в день и 5 раундами за сессию". Microsoft определяет раунд как обмен, который "содержит вопрос от пользователя и ответ от Bing".
"Как только сеанс чата достигнет 5 раундов, вам будет предложено начать новый сеанс", — объясняет Microsoft на своем сайте.
Другими словами, больше нельзя без ограничений общаться с искусственным интеллектом о чем угодно и как угодно. Отныне вам придется ограничить общение с чат-ботом только самыми важными вопросами. Обосновывая введение этого ограничения, Microsoft утверждает, что большинство пользователей получают ответ на свои запросы всего за несколько обменов:
"Наши данные показали, что подавляющее большинство из вас находит ответы в течение 5 обращений, и только около 1% бесед в чате насчитывают более 50 сообщений".
Американская компания также добавляет кнопку для стирания всего контекста разговора. Когда сессия заканчивается, пользователь должен нажать "значок в форме метлы слева от поисковой строки", чтобы перезапустить разговор и предотвратить сбой в работе ИИ. Эта кнопка перезагружает чат-бота. Больше нельзя будет подтолкнуть робота к тому, чтобы он говорил глупости, сыпал оскорблениями или угрозами.
На втором этапе Microsoft также добавит переключатель в интерфейс. Это позволит пользователю подчеркивать правдивость ответов ИИ или креативность. В зависимости от потребностей, можно будет регулировать креативность чат-бота.
Признание провала?
Неудивительно, что Microsoft регулярно вносит изменения в работу своей поисковой системы. Чат-бот Bing действительно все еще находится в бета-версии. Издательство полагается на отзывы первых пользователей, чтобы доработать его для финальной версии, которая будет доступна всем пользователям Интернета в ближайшие месяцы.
Тем не менее эти изменения звучат как признание неудачи со стороны Microsoft. Если OpenAI не был вынужден регулировать использование ChatGPT, несмотря на его растущую популярность, то Microsoft была вынуждена быстро закрутить гайки в Prometheus. Можно предположить, что именно доступ разговорного бота в Интернет меняет игру. В отличие от ChatGPT, Prometheus может использовать данные, доступные в Интернете, чтобы отвечать пользователям.
Благодаря этим мерам Prometheus становится простым помощником для онлайн-исследований, а не многофункциональным чат-ботом. Ограничивая количество обменов в разговоре, Microsoft фактически лишает пользователей возможности совершенствовать то, как ИИ генерирует тексты. В ChatGPT вам придется добавить множество деталей, информации и инструкций, чтобы получить индивидуальный ответ. Именно так чат-бот создает наиболее полезные ответы. Поэтому очень жаль, хотя и неизбежно, что Prometheus сдерживается Microsoft...