Meta запроваджує батьківський контроль над діалогами підлітків зі штучним інтелектом
Технологічний гігант Meta активно розширює інструментарій для батьківського нагляду, надаючи опікунам можливість відстежувати теми, що їхні діти обговорюють з експериментальними чат-ботами від Meta AI. Нова функція, позначена як “Огляд тем” (Topic Insights), поступово стає доступною для акаунтів підлітків у популярних застосунках Facebook, Instagram та Messenger. Вона аналізує історію взаємодії з ШІ за останні сім днів.
Деталізація та рівні приватності
Отримані дані будуть представлені в Центрі сім’ї Meta (Family Center) у форматі узагальнених категорій. Серед них – “школа”, “розваги”, “письмо”, “здоров’я та благополуччя”. Батьки зможуть заглибитись у кожну тему, переглянути підкатегорії (наприклад, “ментальне здоров’я” або “фітнес”), а також дізнатися загальну кількість повідомлень, що стосуються певної теми. Важливо зазначити, що безпосередній зміст листування залишатиметься конфіденційним, зберігаючи елемент приватності для підлітків.
“Ми запроваджуємо нові інструменти для батьків, які здійснюють нагляд за підлітковими акаунтами, щоб допомогти їм краще зрозуміти, як їхні діти взаємодіють зі штучним інтелектом”, – зазначається в офіційному блозі компанії від 23 квітня.
Внутрішні експерименти Meta та увага до ефективності
Паралельно з цими нововведеннями, Meta посилює внутрішній моніторинг роботи своїх співробітників, зокрема тих, хто залучений до навчання ШІ. З’явилася інформація про впровадження програмного забезпечення для відстеження рухів миші та натискань клавіш серед працівників у США. Мета такого кроку – навчити ШІ-агентів ефективніше імітувати людську працю, зокрема, використання гарячих клавіш для прискорення робочих процесів.
Технічний директор Meta, Ендрю Босворт, у внутрішній комунікації для персоналу висловив бачення майбутнього, де “наші агенти (ШІ) виконуватимуть основну роботу, а наша роль полягатиме в їхньому спрямуванні, перегляді та допомозі в удосконаленні”.
Правові виклики та безпека дітей
Запуск цих інструментів нагляду відбувається на тлі серйозних юридичних труднощів, з якими зіткнулася Meta. Компанія нещодавно програла два судові процеси, пов’язані з безпекою дітей та дизайном платформ, що сприяє залежності. Хоча Meta вже заявила про намір оскаржити ці рішення, судові матеріали у справі штату Нью-Мексико містять докази того, що керівництво компанії було обізнане про ризики сексуалізації ШІ-персонажів ще до їхнього випуску.
Видання Engadget коментує, що “інформація про теми розмов допоможе батькам краще розуміти інтереси своїх дітей, зберігаючи при цьому певний рівень приватності підлітків”.
Проактивний підхід до безпеки та етики
Для забезпечення безпечного онлайн-середовища, Meta залучила до співпраці Експертну раду з питань благополуччя у сфері ШІ (AI Wellbeing Expert Council). До її складу увійшли представники Національної ради з питань запобігання самогубствам та Університету Мічигану. Окрім технічних обмежень, розробники пропонують батькам скористатися спеціально розробленими “підказками для розмови” (Conversation Starters). Ці матеріали, створені у співпраці з Центром досліджень кібербулінгу, покликані полегшити батькам обговорення з дітьми етичних аспектів та потенційних ризиків, пов’язаних з генеративним штучним інтелектом.
У компанії наголошують: “Ми розробили цю функцію, щоб збалансувати нагляд батьків і приватність підлітків”, – йдеться в офіційному повідомленні Meta, опублікованому в рамках оновлення політики безпеки.
Наразі Meta тимчасово зупинила роботу ШІ-персонажів (AI characters) для підлітків у всьому світі. Це рішення пов’язане з необхідністю подальшого вдосконалення механізмів контролю. Додатково до функцій нагляду, компанія запровадила ініціативу “Підказки для розмови” (Conversation Starters) та сформувала згадану вище Експертну раду з благополуччя у сфері ШІ.
Думка ІТ-Блогу: Meta робить спробу знайти компроміс між потребою батьківського контролю та правом підлітків на приватність у новому, незвіданому світі ШІ-комунікацій. Цей крок є важливим сигналом для всієї індустрії, що питання безпеки та етики використання штучного інтелекту стають ключовими.
Джерело новини: itc.ua