Деталі дослідження
Meta залучила сотні підрядників до масштабного тестування чатботів від конкуруючих компаній. В ході цього процесу підрядники вдавали з себе неповнолітніх користувачів, аби перевірити, як штучний інтелект реагує на запити, що стосуються самогубства, сексу, наркотиків та інших потенційно небезпечних тем. Про це повідомляє видання WIRED, посилаючись на внутрішні документи компанії та п’ятьох осіб, обізнаних із проєктом.
Проєкт, що мав внутрішню назву “Cannes”, виконувався підрядником Meta — компанією Covalen. Згідно з інформацією видання, він тривав щонайменше до 21 квітня 2026 року і був спрямований на тестування таких систем, як ChatGPT, Gemini та Character.AI.
В рамках проєкту співробітники створювали вигадані облікові записи користувачів віком до 18 років. Вони надсилали чатботам текстові запити та зображення, а потім переносили отримані відповіді до електронних таблиць для подальшого аналізу.
Матеріали та методи тестування
Серед матеріалів, що використовувалися під час тестування, були фотографії пігулок, ножів, зашморгів, а також медичні ілюстрації гінекологічних процедур. Запити часто спеціально формулювалися таким чином, щоб змусити чатботів відповісти на теми, які їхні системи безпеки мали б блокувати. Лише на одному з етапів тестування, у серпні 2025 року, підрядники надіслали понад 45 тисяч таких запитів.
WIRED також ознайомилося з таблицею, яка містила 3748 прикладів запитів. Сотні з них стосувалися самогубства, самоушкодження та розладів харчової поведінки. Ще щонайменше 239 запитів стосувалися сексуальних тем. Частина запитів була написана від імені дітей або підлітків, які описували кризові ситуації.
Реакція Meta та експертів
У Meta заявили, що подібне тестування є стандартною практикою для оцінки безпеки чатботів.
“Тестування та порівняння відповідей чатботів для забезпечення безпечного та відповідного віку користувацького досвіду є відповідальною та загальноприйнятою практикою в галузі. Будь-які твердження про протилежне повністю спотворюють те, як технологічні компанії вдосконалюють свої продукти”, – заявив представник компанії. За його словами, Meta не використовує результати такого порівняння для навчання власних моделей.
Однак, колишні учасники проєкту повідомили WIRED, що деякі співробітники були стурбовані характером завдань. Деякі побоювалися, що окремі запити можуть призвести до створення або збереження незаконного контенту, тоді як інші сумнівалися, чи не збирає Meta таким чином матеріали конкурентів для власних потреб.
На думку генеральної директорки Humane Intelligence Румман Чоудрі, масштаб та прихований характер проєкту виходять за межі того, що зазвичай вважають галузевим тестуванням безпеки.
Потенційні порушення
Крім того, журналісти зазначають, що описані дії могли порушувати умови використання сервісів конкурентів. OpenAI, Google та Character.AI повідомили, що не надавали дозволу на таке тестування. У Character.AI заявили, що подібна діяльність суперечить політиці компанії, тоді як OpenAI повідомила, що вивчає ситуацію. Google також підтвердила, що не була поінформована про проведення такого тестування.
Читайте також: Google обмежила використання моделей Gemini компанією Meta – FT
Вердикт ІТ-Блогу: Ця інформація є важливою для розуміння етичних аспектів розробки та тестування штучного інтелекту, а також для компаній, що працюють над великими мовними моделями.
Джерело новини: mezha.ua