Google призупинила роботу нової функції генерації зображень у Google Earth менш ніж через добу після її запуску. Причиною стали виявлені ризики використання інструменту для поширення дезінформації. Дослідники продемонстрували, що функція легко дозволяє створювати фальшиві супутникові знімки, включно з неіснуючими ядерними об’єктами або наслідками бомбардувань.
Ключові проблеми
Функція, представлена 30 липня, дозволяла користувачам генерувати фотореалістичні аерофотознімки на основі текстових запитів, інтегруючи модель Nano Banana 2 до Google Earth. Однак, майже одразу після запуску виникли побоювання, що створені зображення можуть сприймати як автентичні. Наприклад, дослідник Хенк ван Есс із проєкту Digital Digging успішно створив:
- Додаткові табори для біженців поблизу кордону США та Мексики.
- Фейкові вирви від вибухів біля лікарні в Газі.
- Незіснуючі ядерні об’єкти в Ірані.
Реакція Google
Менш ніж за добу Google оголосила про тимчасове припинення роботи функції для впровадження додаткових механізмів захисту. Компанія підкреслила, що жодне зі згенерованих зображень не було інтегровано до основної платформи Google Earth.
“Ми усвідомлюємо, що користувачі довіряють Google Earth як надійному джерелу інформації про світ. Ми бачили, як фахівці з геопросторових даних використовували цю функцію з користю, але також помітили, що деякі користувачі поширювали скриншоти створених зображень, які, ймовірно, порушували наші правила. Тому ми тимчасово відкликаємо цю функцію, поки працюємо над впровадженням надійніших захисних механізмів”, – зазначили представники компанії.
Варто зазначити, що минулого місяця компанія Meta також припинила підтримку функції Muse Image, яка дозволяла створювати зображення за допомогою публічних облікових записів Instagram.
Вердикт ІТ-Блогу: Оновлення, яке потребує доопрацювання через потенційні ризики. Користувачам слід бути обережними з подібними інструментами.
За матеріалами: mezha.ua