Тысячи чатов ChatGPT случайно стали общедоступными

Тысячи пользователей ChatGPT были шокированы, узнав, что их приватные чаты стали публично доступными в поиске Google.

OpenAI быстро отозвала спорную функцию, которая позволяла индексировать чаты поисковыми системами, но это событие вызвало широкое обсуждение вопросов конфиденциальности пользователей.

Fast Company впервые сообщила об этой проблеме, обнаружив более 4000 доступных через простой поиск Google чатов ChatGPT. Эти беседы раскрывали личную информацию, включая проблемы с психическим здоровьем, употребление наркотиков, проблемы в семье и травмы. Несмотря на то, что в чатах не отображались имена пользователей, включенные в них подробности иногда позволяли идентифицировать людей.

Проблема возникла из-за небольшого флажка, помеченного как «Сделать этот чат обнаружимым», который появлялся, когда пользователи нажимали «Поделиться». Многие были сбиты с толку и неправильно поняли эту опцию, так как короткая и слабо форматированная заметка внизу давала недостаточное объяснение последствий.

ArsTechnica сообщает, что главный информационный безопасник OpenAI, Дейн Стаки, заявил на X, что их чаты были проиндексированы только у тех пользователей, которые сами на это согласились, назвав эксперимент «краткосрочным». Однако он признал, что эта функция «открыла слишком много возможностей для случайного распространения информации, которую люди не собирались делиться».

Специалист по этике AI Карисса Велиз критикует данную практику: «Я просто в шоке. То, что Google записывает эти чрезвычайно чувствительные разговоры, просто поразительно», — как сообщает Fast Company. Она добавила: «Это также дополнительное подтверждение того, что это компания, OpenAI, — не заслуживает доверия, что они не серьезно относятся к приватности, независимо от того, что они говорят».

Представитель Google сообщил Ars Technica, что индексация зависит от того, что издатели делают публичным: «Ни Google, ни любой другой поисковик не контролируют, какие страницы становятся публичными в сети».

Эксперт по кибербезопасности Рейчел Тобак предупредила: «Люди ожидают, что смогут использовать такие инструменты, как ChatGPT, абсолютно конфиденциально, но на самом деле многие пользователи не до конца понимают, что эти платформы имеют функции, которые могут ненамеренно раскрывать их самые личные вопросы, истории и страхи», как сообщает Fast Company.

OpenAI обещает удалить из поисковых систем все утечки чата и восстановить доверие пользователей.