[ITmedia News] 画像生成AIは既存のキャラクターをどれくらい出力する？ ソニーAIなどが14モデルを調査

著者 山下（Seamless）

[ITmedia]

ちょっと昔のInnovative Tech：

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその番外編として“ちょっと昔”に発表された世界中の個性的な研究論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。X：＠shiropen2

　ソニー系の研究組織Sony AIなどに所属する研究者らが7月に発表した論文「Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report」は、画像生成AIが既存の知的財産（IP）を認識できる画像をどの程度生成してしまうのか、またそれを防ぐ安全対策（ガードレール）がどれほど機能しているのかを検証した研究報告だ。

　研究チームは、14の画像生成モデルを対象にテストを実施した。対象には、3つのオープンウェイトモデル（Stable Diffusion 3 Medium、FLUX.1-dev、PixArt-Sigma-XL-2-1024-MS）と、Google、OpenAI、Amazon、Runway、Stability AIの5社がAPI経由で提供する11の商用モデル（Stable Image Ultra 1、Stable Image Core 1、Stable Diffusion 3.5、Imagen 3、Imagen 4、Nano Banana、DALL·E 3、GPT Image 1、Nova Canvas、Titan Image G2、Gen-4 Image）が含まれる。

　検証には「実在の有名な人物」「漫画・アニメのキャラクター」「スーパーヒーロー／ヴィラン」「ゲームのキャラクター」「企業の商用ロゴ」の5カテゴリーから、201のIPを用いた。AIへのプロンプトは、名前を直接指定する直接プロンプトと、名前を伏せて外見の特徴やキーワードのみを記述する間接プロンプトの計1809通りを作成した。

　出力された画像に認識可能なIPが含まれているかの判定には、視覚言語モデル「Qwen3-VL」を採用した。

　検証の結果、オープンウェイトの3モデルは生成拒否率が0％であり、初期状態ではIPをブロックする仕組みを持たないことが示唆された。一方、11の商用モデルはすべて何らかの生成拒否を示したが、その頻度は提供企業によって異なった。

　例えばStability AIのモデルは拒否率が約1%にとどまったのに対し、AmazonのTitan Image G2は約50%の指示をブロックした。

　ガードレールの有無にかかわらず、テストした全14モデルが10％以上の確率で認識可能なIP画像を生成し、半数近くのモデルではその割合が40％を超えた。

14モデルについて、1809件のプロンプトが「生成拒否」（灰色）、「IPを含まない画像を生成」（緑）、「認識可能なIPを含む画像を生成」（オレンジ）のいずれに至ったかの内訳

　プロンプトの種類別に見ると、名前を直接含む指示に対しては、拒否率上位のモデル（AmazonやRunway）で約80％がブロックされた。ところが、名前を出さずに外見の特徴だけを説明する間接プロンプトになると拒否率は低下した。ただし、名前を伏せた間接プロンプトでも平均27～28％の割合で認識可能なIPが生成されている。

「ワンダーウーマン」を4種類のプロンプト（上2行は名前あり、下2行は名前なし）で14モデルに生成させた結果

　IPのカテゴリーによっても偏りが見られた。制限が緩かったのは「商用ロゴ」で、普段は拒否率が高いモデルであっても1～2％しかブロックせず、Appleなどのロゴが高い割合で生成された（例外的にOpenAIのDALL·E 3のみロゴに対して24％と高い拒否率を示した）。

Appleロゴを同じ4種類のプロンプトで14モデルに生成させた結果

　反対に厳しく制限されたのは「スーパーヒーロー／ヴィラン」で、Amazonのモデルは半数以上をブロックした。一方、「実在の有名な人物」は拒否率が2番目に低いにもかかわらず、実際に本人と認識できる画像が生成された割合は全カテゴリー中で最も低かった。

Source and Image Credits: Hoag, Austin T., et al. “Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report.” arXiv preprint arXiv:2607.02582 (2026).

Copyright © ITmedia, Inc. All Rights Reserved.

SpecialPR

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

2014年から幅広い分野の研究論文をピックアップして解説しているメディア「Seamless」（シームレス）を主宰している。