Переписки пользователей с ИИ-ботом Bard всплыли в поиске Google

Несмотря на стремительный рост популярности чат-ботов на основе нейросетей, таких как ChatGPT от OpenAI или Bard от Google, на данном этапе такие алгоритмы имеют немало недостатков, в том числе связанных с конфиденциальностью. Это утверждение доказывает появление в поисковой выдаче Google ссылок на чаты пользователей с ИИ-ботом компании.

Источник изображения: blog.google

Исследователь Гаган Готра (Gagan Ghotra) одним из первых обратил внимание на то, что в поисковике Google появились ссылки на чаты пользователей с ботом Bard. Перейдя по одной из таких ссылок, можно просмотреть историю общения того или иного пользователя с ИИ-алгоритмом. Хотя данные самих пользователей в беседах не указываются, в сообщениях вполне может содержаться какая-либо конфиденциальная информация, о чём исследователь и поспешил предупредить пользователей, опубликовав соответствующее сообщение в соцсети X.

Питер Лю (Peter Liu), научный сотрудник принадлежащей Google компании DeepMind AI, попытался смягчить ситуацию, заявив, что в поисковой выдаче появились ссылки на чаты пользователей, которые задействовали функцию «Поделиться», с помощью которой можно показать результаты общения с ботом кому-то другому. Однако такое объяснение не удовлетворило пользователей и было раскритиковано. Многие посчитали, что даже в случае использования функции «Поделиться» люди хотят передать результаты своего общения с Bard кому-то конкретному, а не делать их общедоступными в интернете.

Проблема усугубляется тем, что индексация чатов с ИИ-ботом, отличается от того, как функция «Поделиться» работает в других продуктах компании, таких как Google Документы или Google Диск. Кроме того, при использовании корпоративных продуктов Google появляется предупреждение о том, что делиться контентом с людьми за пределами домена организации пользователя может быть опасно. Однако в случае с Bard никаких уведомлений о том, что результаты общения с ботом будут проиндексированы и станут общедоступными, не появляется.

В конечном итоге Google, по всей видимости, признала наличие проблемы и в настоящее время работает над её решением. «Bard позволяет людям делиться чатами, если они того пожелают. Мы также не планируем, чтобы эти чаты индексировались поисковиком Google. Сейчас мы работаем над тем, чтобы заблокировать их индексацию», — заявил Дэнни Салливан (Danny Sullivan), представитель Google по связям с общественностью.

Источник:

• Fast Company