Нове гучне розслідування показує, що до справи долучилися підрядники.
Якщо ви використовуєте ChatGPT як приватну “звукову дошку”, психотерапевта, партнера для програмування або для обробки особистих думок, варто двічі подумати, перш ніж натискати “Надіслати”.
Звіт від 404 Media виявив, що OpenAI наймає сотні підрядників-людей для читання, узагальнення та оцінювання реальних розмов користувачів. Хоча OpenAI наголошує, що облікові записи залишаються анонімними, внутрішні документи свідчать, що рецензенти бачать повні розмови, і що чутливі особисті дані часто оминають автоматизовані засоби захисту компанії.
Хороша новина полягає в тому, що ви можете зупинити майбутні чати від передачі підрядникам-людям. Ось що відбувається за лаштунками, реальні ризики конфіденційності та як відмовитися.
Проєкт “Лілі”: Як люди навчають ChatGPT
Внутрішні документи розкривають, що ініціатива з перегляду працює під внутрішньою кодовою назвою “Проєкт Лілі”.
OpenAI платить зовнішнім підрядникам, часто понад 50 доларів на годину через сторонні агентства з підбору персоналу, щоб вручну навчати чат-бота звучати менш роботизовано. Підрядники читають запит користувача, узагальнюють намір користувача та оцінюють чотири можливі відповіді ШІ за шкалою від 1 до 7.
-
OpenAI: Голова відділу етики звільнився — ось чому користувачам ChatGPT варто звернути увагу -
Від прихованих меню до розчаровуючих компромісів: наше повне порівняння основних налаштувань конфіденційності чат-ботів зі штучним інтелектом показує, як саме ChatGPT, Google Gemini та інші відстежують ваші чати та що ви можете з цим зробити -
Нова пам’ять ChatGPT створює профіль про вас самостійно — і OpenAI визнає, що ви не можете побачити весь
Згідно з витоками навчальних посібників, цим рецензентам чітко наказано:
Усувати “AI-мовлення”: Штрафувати за непотрібні емодзі з галочками, закінчення, що закликають до взаємодії, та захаращене форматування.
Припиняти антропоморфізацію: Переконатися, що ChatGPT ніколи не претендує на людський життєвий досвід (наприклад, категорично заборонено стверджувати “Як шеф-кухар, я люблю…”).
Скорочувати підлабузництво: Позначати відповіді, де бот надмірно лестить користувачам, підтверджує ірраціональні думки або підсилює особисте роздратування. Це відома проблема, яка раніше привертала юридичну увагу щодо безпеки користувачів.
Чому запити не є анонімними
OpenAI стверджує, що не надає рецензентам імен користувачів, і що всі розмови проходять через автоматизований “Фільтр конфіденційності”, призначений для редагування ідентифікаційних даних. Однак система має серйозні вразливості.
-
Я щойно дізнався, що ваші чати Claude можуть з’являтися в Google — ось як перевірити свої -
ШІ не набуває свідомості — він просто вводить вас в оману -
Як віддалено вийти з облікового запису ChatGPT на всіх ваших пристроях
OpenAI відкрито визнає на своєму сайті, що фільтр може помилятися, пропускаючи незвичайні ідентифікатори або неоднозначний особистий контекст. Ще більш тривожно, 404 Media виявив, що панель, яку бачать підрядники, часто містить “резюме спогадів користувача”. Цей блок надає огляд попередніх взаємодій користувача, які можуть ненавмисно розкрити його приблизне місцезнаходження, професію або контекст особистого життя.
На відміну від публічних стрічок соціальних мереж, чисте, порожнє вікно чату створює фальшиве відчуття приватної близькості. Деякі запити, які бачили підрядники, навіть показували, як користувачі просять ChatGPT “зберегти це між нами” — не знаючи, що інструкція запиту не скасовує збір даних платформи на бекенді.
OpenAI — не єдиний техгігант, який це робить. Anthropic підтвердила, що використовує людських рецензентів для Claude, коли користувачі залишають увімкненим навчання, тоді як Gemini від Google чітко розміщує дисклеймер, що людські рецензенти читають вибрані збережені чати.
Як зупинити OpenAI від використання ваших чатів
Якщо у вас особистий обліковий запис (безкоштовний, Plus або Pro), OpenAI дозволяє покращення моделі за замовчуванням. (Облікові записи Enterprise, Business та Edu мають його автоматично вимкненим).
Щоб зупинити маршрутизацію майбутніх розмов до людських тренувачів:
Відкрийте ChatGPT у вашому браузері або мобільному додатку.
Натисніть на значок профілю в нижньому куті та виберіть Налаштування.
Виберіть Керування даними.
Знайдіть перемикач “Покращувати модель для всіх” і вимкніть його.
Останні думки
Пам’ятайте, що відмова не має зворотної сили. Вона захищає лише нові розмови в майбутньому; запити, які вже були деідентифіковані та поставлені в чергу в системі, залишаються частиною навчального циклу.
Крім того, вимкнення цієї функції не зупиняє автоматизоване сканування на порушення Умов обслуговування або безпеки.
Надалі золоте правило ШІ залишається простим: якщо б ви не почувалися комфортно, якби хтось незнайомий це читав, не вводьте це в запит чат-бота.
Більше з Tom’s Guide
- ШІ перетворює звичайні фото дітей на зображення сексуального насильства — ось як захистити свою сім’ю
- Meta щойно запустила ШІ, який може фактично керувати вашим життям в Інтернеті — ось що вміє Muse
- Я перестав читати дрібний шрифт сам після того, як виявив цей пропущений трюк ChatGPT
Дізнатися більше на: www.tomsguide.com