記事

昨今，文章から画像を生成するStableDiffusionやMidjourneyをはじめとする高品質な（text2img）生成モデルが次々に登場し，実際の画像と区別の付かないような生成画像が多量にインターネット上にアップロードされています ¹． このような現象は，将来的にインターネット上から画像を収集し，データセットを作成した場合に，画像認識をはじめとするコンピュータービジョンに対してどのような影響があるのでしょうか²？

本記事で紹介する，京都大学の包さん，理研AIPの荒井さんとの研究は，この疑問に対して実験的に調査を行ったもので，今年10月にフランスで開催されるコンピュータービジョン分野の国際会議であるICCVにおいて発表します．

はじめに述べたように，この1年ほどでStableDiffusionやChatGPTといった「生成AI」が多数登場し，研究者のみならず，一般のユーザーも使うようになりました． その結果，多数の生成データがインターネット上にアップロードされるようになり，偽情報の補強や人種バイアスの拡大といった社会的な問題も現れてしまっています． それに対して，本研究では，生成画像が将来的にウェブから収集した画像データセットに混入する可能性が高いと考え，このような混入が画像認識などのコンピュータービジョンに対して与える影響を実験的に調べました．

具体的には，代表的なtext2img生成モデルであるStableDiffusionを用いて，ImageNetやCOCO captionという既存のデータセットを模倣し，合計200万枚程度の画像を生成しました． そして，生成された画像によって元のデータセットの画像を置き換えることで，生成画像が混入した状況を模擬的に再現し，画像認識モデルなどの学習データとした場合の影響を調べます． 以下の画像の左側はImageNetを真似るために，カテゴリ名を使って生成した画像（SD-ImageNet）の一部， 右側はCOCO caption（SD-COCO）の説明文から生成した画像の一部です． 少なくとも一見は「ちゃんとした」画像に見えます．

このような生成画像によってImageNetの画像を置き換えたデータセットによって画像分類モデル（ResNet-50）を訓練し，ImageNet評価データセット上で評価を行った際の正解率を以下の図（青線）に示しました． 参考のために，生成画像ではなく，ImageNetと同じカテゴリの画像を別途収集したWebVisionデータセットの画像を混入させた場合の正解率を橙線で示しています． 混入率（横軸）が大きくなるにつれて，生成画像の混入の方が精度（縦軸）を悪化させていることが分かります．

SwinTransformer-SmallやConvNeXt-Tinyといった現代的なモデルでも同様の分類性能は低下し，その影響はImageNet-Aなどの分布外データに対する頑健性評価のベンチマークにも見られます． また，このような生成画像特有の性能低下は画像説明文生成における様々な精度指標にも現れます． さらに，生成画像の混入したデータセットを用いて画像生成モデルを訓練するタスクにおいては，生成画像の多様性が低下が観察されました．

このような生成データのもたらす悪影響の原因として，実際の画像と比較して，生成画像の多様性が低いことが挙げられます³． 実際に，precision-recallという指標を用いた場合，SD-ImageNetの画像分布がImageNetの画像分布の一部領域に概ね含まれていることが分かっています．以下に雰囲気を示しています．

キャプションを工夫したSD-ImageNetの派生の画像も，ImageNetの画像と比べて多様性が乏しいことがわかっています． このような多様性の低下は，Shumailov et al. 2023でも指摘されているように，生成画像を含んだデータセットから生成モデルが作られるループが繰り返されることで加速していく可能性があります．

最新の生成モデルによる高品質な生成画像が厄介なのは，簡易な検出が難しく，巨大なデータセットから効率的に取り除けない点です． 例えば実画像と生成画像の周波数成分の違いに着目した検出はあまり使えなさそうです． さらに，多くの場合，人の目でも識別は困難です． 幸いにもStableDiffusionやDALL･Eなどは「透かし」を入れているので検出は可能ですが，今後も生成モデル開発者には生成画像の検出を可能にする透かしの導入が求められるでしょう． 同時に，生成画像の高速な検出方法の開発も望まれます．

論文の情報は以下の通りです．

@inproceedings{hataya2023will,
    author = {Ryuichiro Hataya and Han Bao and Hiromi Arai},
    title = {{Will Large-scale Generative Models Corrupt Future Datasets?}},
    booktitle = {ICCV},
    year = {2023},
}

この研究で生成したSD-ImageNetおよびSD-COCOは https://dmsgrdm.riken.jp:5000/c24kn/ からダウンロードできます．

本研究はJST ACT-X（JPMJAX210H）の補助を受けて行われました．