Публичные чаты Claude появились в поиске Google и раскрыли конфиденциальные данные пользователей
В поисковой выдаче Google на короткое время оказались неизвестное количество публично опубликованных разговоров пользователей с Claude. Любой желающий мог найти такие беседы с помощью простых поисковых запросов, что вызвало новые вопросы о безопасности функций обмена чатами с искусственным интеллектом. Среди обнаруженных материалов были медицинские документы, внутренние корпоративные файлы и персональные данные, в том числе информация о детях.
Проблема была связана с функцией обмена чатами в Claude. Она позволяет пользователю создать публичную ссылку, по которой другие люди могут просматривать содержимое разговора или созданный в Claude Artifact — интерактивный документ или небольшое приложение. Хотя сервис предупреждает, что любой человек, получивший такую ссылку, сможет открыть содержимое, многие пользователи, судя по всему, полагали, что доступ останется ограниченным людьми, которым они отправили ссылку напрямую.
Результаты поиска исчезли
Пользователи Reddit первыми обратили внимание на проблему после того, как начали использовать специальные поисковые операторы Google для поиска публичных страниц Claude. В результате поисковая система показывала многочисленные опубликованные разговоры, которые оказались доступными через её индекс.
К понедельнику во второй половине дня эти результаты уже не отображались в ходе повторных проверок. Это указывает на то, что обнаруженные страницы были удалены из поискового индекса Google, однако ни Google, ни Anthropic не объяснили, каким именно образом проблема была устранена.
В Anthropic заявили TechCrunch, что пользователи сами определяют, становятся ли их разговоры публичными. Представитель компании Эми Ротерхэм подчеркнула, что пользователям предоставляется возможность самостоятельно управлять публичным доступом к разговорам Claude. В Anthropic также заявили, что компания не предоставляет поисковым системам каталоги или карты сайта с публичными чатами.
По словам Ротерхэм, опубликованные ссылки нельзя просто угадать или обнаружить случайным перебором, если пользователь сам не сделал их публичными. После публикации разговор превращается в общедоступную веб-страницу. Как и любой другой публичный контент, такая страница впоследствии может быть сохранена сторонними сервисами.
В Anthropic также отметили, что разговоры, которыми пользователь поделился только через прямую ссылку, не должны появляться в результатах поиска, если только эта ссылка впоследствии не будет опубликована где-либо ещё, откуда её сможет обнаружить поисковый робот.
В поиске обнаружили конфиденциальные данные
До исчезновения страниц из поисковой выдачи пользователи успели обнаружить большое количество чувствительной информации. В опубликованных разговорах встречались медицинские документы, корпоративные материалы с пометкой о внутреннем использовании, а также файлы, содержащие имена и номера телефонов детей.
Некоторые опубликованные в Claude материалы формата Artifact также содержали программный код и рабочие заметки сотрудников компаний. Обнаружение таких материалов вновь подняло вопрос о том, насколько хорошо пользователи понимают реальный масштаб распространения информации, которую они публикуют через функции обмена материалами, созданными ИИ.
В Google заявили, что поисковые системы индексируют только тот контент, который владельцы сайтов сделали общедоступным. Представитель Google Нед Адрианс сообщил TechCrunch, что ни Google, ни другие поисковые системы не определяют, какие страницы становятся публичными.
По его словам, владельцы сайтов располагают инструментами, позволяющими запретить поисковым роботам сканировать или индексировать определённые страницы, а Google соблюдает соответствующие инструкции.
Этот случай напоминает похожий инцидент, произошедший годом ранее, когда в поисковой выдаче на короткое время появились сотни разговоров с Claude. В тот же период исследователи также обнаруживали публично опубликованные разговоры пользователей других чат-ботов на основе искусственного интеллекта.
Пользователи, которые ранее создавали публичные ссылки на разговоры Claude, могут проверить их через раздел Privacy в настройках Claude, открыв подраздел Shared Chats. Произошедшее показывает, что информация, размещённая за публичной ссылкой, потенциально может получить гораздо более широкое распространение, чем рассчитывал пользователь.
Даже если ссылка первоначально предназначалась только для одного конкретного человека, публикация её содержимого в интернете может сделать данные доступными поисковым системам, архивным сервисам и другим пользователям. Поэтому медицинскую информацию, корпоративные документы, персональные данные и другие конфиденциальные сведения не следует размещать в публичных чатах или Artifacts без полного понимания последствий такого доступа.