Компанія Meta✴ Platforms, яка виросла з соціальної мережі Facebook✴, спрямовує свої новітні розробки на оптимізацію її функціонування. Зокрема, ШІ-моделі Meta✴ використовуватимуться для модерації контенту в соціальних мережах компанії, а також для управління рекламою, яка залишається ключовим джерелом прибутків американського інтернет-гіганта.
Джерело зображення: Unsplash, camilo jimenez
Оптимізація модерації контенту та реклами за допомогою ШІ
Як зазначає Financial Times, компанія прагне замінити людську працю модераторів штучним інтелектом задля зниження витрат на обслуговування своїх соціальних мереж. Це має на меті виправдати масштабні інвестиції в ШІ перед акціонерами та інвесторами. У поєднанні з оптимізацією роботи з рекламою за допомогою ШІ, ця стратегія повинна забезпечити щорічну економію витрат у розмірі кількох мільярдів доларів.
Цього року Meta✴ вже доручила ШІ обробку приблизно 50% запитів на модерацію контенту. До кінця поточного року цей показник зросте, досягнувши у деяких напрямках понад 90%. Компанія давно використовує комбінацію автоматичних систем і людської праці для модерації, але скарги користувачів на неправомірні блокування традиційно переглядалися людьми.
Ефективність та переваги впровадження ШІ
Формально Meta✴ пояснює активізацію використання ШІ необхідністю більш ефективного впровадження нових технологій, а не виключно зниженням витрат. Проведені з березня випробування показали, що мовні моделі в середньому помиляються на 13% менше при боротьбі з контентом, що порушує правила, водночас ШІ виявляє на 10% більше порушень. Впровадження таких систем, за словами представників компанії, відбувається лише після того, як фахівці переконалися в їхній вищій ефективності порівняно з існуючими методами роботи.
Meta✴ також прагне економити на розробці програмного забезпечення, використовуючи генеративний штучний інтелект. Компанія вдалася до масових скорочень, що певною мірою підірвало моральний дух співробітників, які залишилися. Однак, складається враження, що керівництво Meta✴ не має наміру відмовлятися від активного впровадження ШІ. Спочатку для підтримки користувачів і модерації використовувалася платформа Google Gemini, але останнім часом Meta✴ почала переводити ці процеси на власну модель Muse Spark. Найактивніше ШІ-модератори витісняють живих фахівців, особливо коли йдеться про підрядників, послугами яких Meta✴ традиційно користувалася у цій сфері.
Перспективи та виклики ШІ-модерації
На думку представників Meta✴, сучасні великі мовні моделі ефективніше адаптуються до динамічно мінливої ситуації у сфері модерації контенту. Вони також дозволяють охопити велику кількість мов та інформаційних ресурсів. Крім того, при заміні людської модерації ШІ, зникає необхідність переглядати контент, який може завдати шкоди психічному здоров’ю людини. Підсумки тестів, проведених до березня, дозволили компанії заявити про активне впровадження ШІ-модерації протягом наступних кількох років. Однак, не всі співробітники Meta✴ поділяють думку, що експансія цієї технології супроводжується прийнятним рівнем помилок. Фахівці також пояснюють, що ШІ все одно навчається на діях модераторів у випадках оскарження блокувань доступу або матеріалів.
Вплив на рекламний ринок та безпеку
Підвищення ефективності блокування реклами шахрайських ресурсів та заборонених товарів на сторінках соціальних мереж Meta✴ призведе до зниження доходів компанії. За деякими оцінками, у 2024 році на цю категорію реклами припало близько 10% усієї рекламної виручки компанії, що становить приблизно 16 мільярдів доларів. З іншого боку, юридичні претензії щодо таких неправомірних рекламних матеріалів також тягнуть за собою витрати для Meta✴. Хакерські атаки, що використовують ШІ для впливу на аудиторію соціальних мереж компанії, вимагають одночасного посилення заходів безпеки.
Головний підсумок від ІТ-Блогу: Meta✴ активно інтегрує власні ШІ-моделі для модерації контенту та оптимізації реклами, прагнучи значно скоротити витрати та підвищити ефективність. Хоча ця стратегія обіцяє мільярдні заощадження та покращення користувацького досвіду, існують занепокоєння щодо точності ШІ, впливу на рекламні доходи та необхідності паралельного посилення заходів безпеки.
Інформація підготовлена на основі матеріалів: 3dnews.ru