Google перестаралась с ИИ-редактором изображений Reimagine — он выдаёт слишком реалистичные результаты

Компания Google вместе со смартфонами Pixel 9 анонсировала новый инструмент редактирования фотографий с применением искусственного интеллекта под названием Reimagine. Эта функция, являющаяся развитием инструмента Magic Editor, позволяет не только изменять фон, но и добавлять объекты на фото с помощью текстовых подсказок.

Источник изображения: Google for Developers/YouTube

По словам журналистов из The Verge, тестировавших новую функцию, результаты часто выглядят очень убедительно, с правильно подобранным освещением, тенями и перспективой. Однако, как показало тестирование, Reimagine может быть использован для создания тревожного контента, включая сцены насилия, и добавления запрещённых предметов. Журналисты смогли сгенерировать множество изображения аварий и, соответственно, всё, что с этим может быть связано.

Представитель Google, Алекс Мориконе (Alex Moriconi), прокомментировал ситуацию: «Мы разрабатываем наши инструменты генеративного ИИ с учётом намерений пользователей, но у нас есть чёткие правила и условия использования, определяющие, какой контент допустим, а какой нет». Несмотря на слова Мориконе, журналисты с лёгкостью обошли ограничения, используя креативные формулировки в текстовых запросах.

Источник изображения: Chris Welch/The Verge

Хотя редактирование фотографий не является чем-то новым, Reimagine делает этот процесс невероятно простым и доступным. Теперь любой пользователь нового Pixel может реалистично добавить на фотографию любые объекты, в том числе, в обход правил Google, сцены аварий или других тревожных элементов, потратив на это всего несколько секунд.

«Возможно, все будут соблюдать правила Google в отношении ИИ и использовать Reimagine для добавления цветов и радуг на свои фотографии. Это было бы замечательно! Но на всякий случай стоит относиться с некоторым скептицизмом к фотографиям, которые вы видите в интернете», — заключает Allison Johnson из The Verge.

Источник: