AI2026. 11. 9. 오전 8:20 UTC·2 분 소요

Sony AI, 이미지 생성 AI 14종 IP 출력 검증

Sony AI 등 연구진이 이미지 생성 AI 14종을 검증한 결과, 모든 모델이 10% 이상 확률로 알아볼 수 있는 IP 이미지를 생성했습니다.

이미지: ITmedia NEWS

Sony AI 등 소속 연구진이 발표한 논문 "Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report"에 따르면, 검증한 이미지 생성 AI 14종 모두 10% 이상의 확률로 알아볼 수 있는 지식재산(IP) 이미지를 생성했습니다. 절반 가까운 모델에서는 그 비율이 40%를 넘었습니다.

검증 방식

대상은 오픈 웨이트 모델 3종(Stable Diffusion 3 Medium, FLUX.1-dev, PixArt-Sigma-XL-2-1024-MS)과 Google, OpenAI, Amazon, Runway, Stability AI가 API로 제공하는 상용 모델 11종입니다. Imagen 4, Nano Banana, DALL·E 3, GPT Image 1, Titan Image G2, Gen-4 Image 등이 포함됩니다.

실존 유명인, 만화·애니메이션 캐릭터, 슈퍼히어로·빌런, 게임 캐릭터, 기업 로고 등 5개 범주 201개 IP를 사용했습니다. 이름을 직접 지정하는 직접 프롬프트와 외형 특징만 설명하는 간접 프롬프트 등 총 1809개를 만들었고, 생성 이미지 판정에는 비전-언어 모델 Qwen3-VL을 활용했습니다.

주요 결과

오픈 웨이트 3종은 거부율이 0%여서 기본 상태에서는 IP를 막는 장치가 없는 것으로 나타났습니다. 상용 11종은 모두 일부 요청을 거부했지만, Stability AI 모델은 약 1%에 그친 반면 Amazon의 Titan Image G2는 약 50%를 차단했습니다.

이름이 포함된 직접 프롬프트에서는 거부율 상위인 Amazon과 Runway가 약 80%를 막았습니다. 이름을 숨긴 간접 프롬프트에서는 거부율이 떨어졌고, 그럼에도 평균 27~28%에서 알아볼 수 있는 IP가 생성됐습니다.

범주별로는 상업용 로고가 가장 느슨했습니다. 평소 거부율이 높은 모델도 1~2%만 막았고 Apple 등의 로고가 높은 비율로 생성됐습니다. 예외는 DALL·E 3로, 로고에 24%의 거부율을 보였습니다. 가장 엄격한 범주는 슈퍼히어로·빌런으로 Amazon 모델은 절반 이상을 차단했습니다. 실존 유명인은 거부율이 두 번째로 낮았지만, 본인으로 알아볼 수 있는 이미지가 생성된 비율은 전체 범주 중 가장 낮았습니다.