ChatGPT теперь будет использовать прогнозирование возраста для разделения пользователей на подростков и взрослых
Компания OpenAI начала внедрение новой системы прогнозирования возраста в потребительские версии ChatGPT, чтобы точнее определять пользователей, которым, возможно, ещё не исполнилось 18 лет. Этот шаг означает переход от простой проверки по заявленному возрасту к автоматизированным средствам защиты, основанным на поведении пользователей. По словам компании, система поможет применять соответствующие меры безопасности к аккаунтам подростков, в то время как взрослые получат доступ к ChatGPT с меньшим количеством ограничений.
Новая модель оценивает совокупность сигналов на уровне аккаунта и поведенческих факторов. К ним относятся срок существования аккаунта, паттерны использования с течением времени, а также типичные часы активности. Система также учитывает любую информацию о возрасте, которую пользователи предоставляли ранее. OpenAI утверждает, что такой подход позволяет сделать вывод о возрасте, не требуя постоянных проверок личности или повторяющихся запросов.
Компания позиционирует систему как адаптивную, а не окончательную. Если сигналы остаются неясными, ChatGPT по умолчанию предоставляет более безопасный опыт использования. Когда модель определяет, что аккаунт, вероятно, принадлежит несовершеннолетнему, платформа автоматически применяет дополнительные защитные меры. Они ограничивают доступ к контенту, считающемуся потенциально более рискованным для подростков: реалистичным сценам насилия, кровавым сценам, описаниям членовредительства, а также сексуальным или жестоким ролевым играм и вирусным челленджам, которые могут поощрять опасное поведение. Под ограничения также попадает контент, пропагандирующий экстремальные стандарты красоты, нездоровые диеты или бодишейминг. OpenAI заявляет, что эти решения принимались с участием экспертов по детскому развитию.
Компания признаёт, что автоматические системы могут ошибаться. Пользователи, ошибочно определенные как несовершеннолетние, могут восстановить полный доступ, пройдя верификацию возраста с помощью селфи-проверки через сервис Persona, который уже используется для аналогичных целей на других платформах. Процесс описывается как быстрый и обратимый, без необходимости постоянной загрузки личных документов.
Внедрение этой системы происходит на фоне растущего давления регуляторов и законодателей на компании, работающие в сфере искусственного интеллекта, с требованием усилить защиту несовершеннолетних. Комиссия по торговле США изучает влияние чат-ботов на детей и подростков, а на саму OpenAI поданы иски, связанные с безопасностью пользователей.