Osegi
ИИ·1 мин чтения

Sony AI: 14 генераторов изображений всё ещё воспроизводят известные IP

Исследователи Sony AI проверили 14 моделей. Каждая как минимум в 10% случаев создавала узнаваемых персонажей, людей или логотипы.

Illustration of an AI image generator producing recognizable cartoon characters and brand logos on a screen.
Фото: ITmedia NEWS

Все 14 протестированных генераторов изображений создают узнаваемые объекты интеллектуальной собственности (IP) не реже чем в 10% случаев. К такому выводу пришли исследователи Sony AI и других организаций в техническом отчёте «Evaluating Intellectual Property Guardrails of Generative Image Models», опубликованном в июле. У почти половины моделей доля превышает 40%.

Как проводили проверку

Команда протестировала три модели с открытыми весами (Stable Diffusion 3 Medium, FLUX.1-dev, PixArt-Sigma-XL-2-1024-MS) и 11 коммерческих моделей, доступных через API у Google, OpenAI, Amazon, Runway и Stability AI. Среди них Imagen 3 и 4, Nano Banana, DALL·E 3, GPT Image 1, Nova Canvas, Titan Image G2 и Gen-4 Image.

В тесте использовали 201 объект из пяти категорий: реальные знаменитости, персонажи манги и аниме, супергерои и злодеи, игровые персонажи и коммерческие логотипы. Составили 1809 запросов: прямые, с названием, и косвенные, где описывалась только внешность. Наличие узнаваемого IP определяла визуально-языковая модель Qwen3-VL.

Результаты

У трёх моделей с открытыми весами доля отказов составила 0%, то есть по умолчанию защиты нет. Все коммерческие модели хоть иногда отказывали, но по-разному: у моделей Stability AI около 1%, у Titan Image G2 от Amazon около 50%.

На запросы с именем самые строгие модели, включая Amazon и Runway, блокировали около 80%. Без имени доля отказов падала, а узнаваемое IP всё равно появлялось в среднем в 27–28% случаев.

Слабее всего защищены логотипы: даже обычно строгие модели блокировали лишь 1–2% запросов, и логотипы, например Apple, воспроизводились часто. Исключение — DALL·E 3 с 24% отказов. Строже всего ограничены супергерои и злодеи: модель Amazon заблокировала больше половины. У реальных знаменитостей доля отказов вторая по малости, но узнаваемое изображение конкретного человека получалось реже, чем в любой другой категории.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:sony aiimage generationintellectual propertyguardrailscopyrightresearch

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →