生成系AIの諸問題について、自分の考察をここにまとめる。
生成AIには画像・映像・音声・テキストなど色々あるが、この記事では主にイラスト生成AIを前提に考える。
自分はどちらかといえばAI推進派である。
具体的な規制案については下記リンク先にて書く。
もくじ
まとめ
生成モデルや生成物の利用は可、副次的であれば商用利用も可、現行許容されているグレーな行為と同様の行為はグレーだし、現行法でダメな行為はダメだろうというのが考え。
- ○ 生成モデル・AI生成物の無償配布・利用
- ○ AI生成物の副次的な利用での商用利用
- △ 特定キャラの再現モデルの無償配布・利用
- △ 特定画風の再現モデルの無償配布・利用
- ✕ 生成モデルや生成物そのままの商用利用
- ✕ 他人のAI生成物の無断利用
- ✕ img2imgによる既存絵の直接利用
- ✕ 実在人物の名誉毀損/肖像権の侵害、実在人物の再現モデルの無償配布・利用
- ✕ フェイク画像による虚偽の風説
- ✕ 特定キャラの生成物・再現モデルの商用利用
前提
無断AI学習は違法か・無法地帯か
著作権法改正によって、無断AI学習は可とされている。
現行の日本法では違法ではなく、既に整備されており無法状態ではない。
著作権法30条の4の意訳：鑑賞目的以外で著作物を利用する場合は、(それに必要な限度で)著作権者の許可なく著作物を利用してよい。
不満がある場合はこれの法改正を訴えるべき。
著作権法の一部を改正する法律（平成30年法律第30号）について | 文化庁
著作権 第三十条の四
第三十条の四 著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
著作権法 | e-Gov法令検索
一 著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
二 情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合
著作権者の権利を不当に害するなら違法
> ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
無断学習がこの「著作権者の利益を害する」部分に当てはまるかが問題。
特定作者の画風(著名性の利用)や、特定キャラの著作権者(著作権)・実在の人物(肖像権)は、その生成用途に特化したモデルに対しては訴えることができると考える。
ちなみに汎用生成モデルでも、それらの項目を生成することはできる(それらが有名なら学習量が多いため)。
ただし、汎用モデルはそれらの生成が主目的で作られていない。
そのため、汎用モデルの場合は、意図的にそれらを生成する使用者側に問題があると考える。
学習元と生成物は酷似しない
生成モデルは、(十分な学習元データの量があれば)学習元データとは違う結果を出力するはずである。
学習元と生成物が酷似していないのなら問題ないと考える。
「自分の著作物がそのモデルに使われているかを把握できない」という懸念があるが、そもそも似ていないのなら問題ないのではと考える。
ちなみに、txt2imgによる生成ではなくimg2imgのベースとして利用することは、元絵への依拠性が高いので問題がある。
AI生成物に著作権はあるか
著作権の有無は、人による創作性があるかどうかである。
生成AIの補助ツールは充実してきているため、たとえ生成された絵だとしてもそれらのツールを活用して試行錯誤しているならば十分に創作性があると考える。
(プロンプトの試行錯誤・複数の生成結果から吟味した選択・controlnetでのポーズ設定・複数のloraでの調整・img2imgでの再調整・インペイントでの部分調整・その後の画像編集など)
また、生成モデルやLoRAそのものまで自作している場合は、配合や設定の調整だけでもかなり表現に違いが出るので、創作性がある。
プロンプトだけは創作的か
プロンプトだけでは人による介入が少ないため、創作性は薄いと考える。
ただ、ガチャとプロンプト調整を繰り返して、ほしい良い絵の結果にたどり着く、というのもAI絵作りとしてはよくある。
人の意志の介入余地があるので創作性は多少はあるのではと思う。
■ 問題点
- 適当に生成して選んだ1枚と区別できない。
- 適当な生成物でも、その作者が「他にも色々手を加えている」と言ったら外からは判別できない。
■ 著作権の認めれないもの
- ✕ 創作物の表現がごく短いもの
- AI生成物の著作権の可否はここ。
- ✕ 他に表現のしようがない必然的なもの
- 単なる事実やデータ。
- ✕ 表現が平凡で、ありふれたもの
- 挨拶文や定型文など。
- ✕ アイディア
- アイディアだけでは著作権の保護対象にならない。
- プロンプト程度ではダメという理由はここ。
AI学習自体は止められない
SD WebUIのようなツールを利用すれば、だれでも自分のパソコンの中に環境を構築することができる。
そして、作られた生成モデルからは、学習元にどんなものを使ったのかほとんど把握することができない。
AI学習の拒否の意を示している作品を学習に使った所で、それが使われているかを把握することができない。
問題のない行為
多数のイラストを無断で学習したモデル
多数のイラストを無断で学習したモデルの無償配布・利用。
学習元と生成モデル・生成物は別物であるという点で問題ないと考える。
- 学習元のイラストと生成されるイラストは別のものである。
- A～Zのイラストを学習してできるものは Ω であり、A+B+CやA'ではない。
- 生成モデル内には元画像そのもののデータはなく、特徴量のみである。
- モデルのサイズは2GB～7GBと小さく、数億枚の学習元画像は元のデータとしては保持していない。
- 無断学習は法律で許可されている。
- 著作権法30条の4：鑑賞目的以外で著作物を利用する場合は、(それに必要な限度で)著作権者の許可なく著作物を利用してよい。
生成物の副次的な使い方での商用利用
イラスト制作での部分利用、マンガの絵、小説の挿絵など、あくまで作品を構成するためのAIイラスト使用は創作性があるので、商用利用可能と考える。
グレーな行為
本来ならアウトだが、グレーとして許容されている既存の行為と似たものであるものは、許容されそう。
著作権者がこれを許容できない場合は即座に配布停止されるのも同じ。
特定アーティストの画風の再現モデル
特定アーティストの画風の再現モデルの無償配布・利用。
画風は、それ自体が既存絵から模倣され発展して生まれるものであり、それ自体は規制されるべきではない。
画風に結びついている作家の人気や著名性を利用しているなら著作権者の利益を害しているので問題がある。
ただし、二次創作やパロディですでに行われているため、グレーな位置付けにあるのではと考える。
弁護士が解説するAIイラストの法律問題-AIによる機械学習が違法になるケース／ならないケース｜弁護士 谷 直樹
特定キャラの再現モデル
特定キャラ生成特化モデルの無償配布・利用。
キャラ3Dモデルの配布と同じように、無償配布であれば許容されると思う。
ただし、権利者からの配布停止指示があれば停止すべきだし、それを販売した場合は明確な著作権の侵害となる。
問題のある行為
「自分の著作物が(学習に)利用されていて不快」というのが作家の感情だが、実際に実害がある場合にこそ訴えるべきと考える。
著作物であるキャラクターや、実在の著名人・センシティブな絵を「生成可能である」こと自体は問題ではないと考える。
問題のある画像を意図的に生成して公開することが問題。
著作権の侵害
- 著作物(既存のキャラクターなど)とわかる生成物を、意図的に生成して商用利用すること。
- 例：AI生成で作ったミッキーの絵をTシャツにプリントして販売するなど。
- 既存の絵をimg2imgのベースとして利用すること。
- 構図が酷似している場合は著作権の侵害となる。
- 既に確立されてありふれた構図・ポーズは多いので、これについての是非は個々の絵ごとに変わりそう。
実在の人物の名誉毀損・肖像権の侵害
例えば、有名人は特化したモデルでなくても生成することができるが、「某国指導者が暴力を振るっている写実的な画像」を意図的に作って公開することには問題がある。
- 実在人物の生成に特化したモデルを公開すること。
- (肖像権の侵害)
- 実在人物のセンシティブな内容を作って名誉毀損すること。
- (名誉毀損)
- 特定アーティストの画風の再現モデルを利用し生成した絵を、その特定アーティストが作った作品だと騙る行為。
- 例えばセンシティブな絵を「作者本人が作った絵」と偽られることによる風評被害。
- また、そのように誤解された際に正しく周知することを怠った場合。
他人のAI生成物の直接の無断使用
AI生成物にも著作権はあると考えるため、他人のAI生成物の直接の無断使用は問題がある。
他人の生成物をAI学習に利用するのは問題ない。
フェイク画像による虚偽の風説
フェイク画像を作ることで虚偽の風説を流布すること。
- 被害が人であれば、名誉毀損罪
- 被害が企業であれば、信用毀損罪
- 被害が事件や事故であれば、偽計業務妨害罪
- 被害が国内の内乱の誘発であれば、内乱罪
学習元絵の再現性の高いモデル
学習量が少ないモデルは学習元絵の再現性の高く、生成物が酷似している場合は著作権の侵害となる。
十分な学習データがあれば起こり得ないはずである。
その他
著作権のないor承諾済みのデータを使ってクリーンな生成モデルを作る
著作権が切れていたり、AI学習利用に承諾済みのデータのみを使って、1から生成モデルを作れば、様々な問題を解消できるクリーンな生成モデルとなる。
大手フリー素材サイトのような所が運営が自作した素材のみを使用した生成モデルを作ればクリーンなモデルが作れる。
(ただ、ユーザー投稿型サイトの場合は著作者でなくても無断投稿できてしまい、それが混じってしまうという問題がある)
生成物の品質が下がって、多様性が薄くなる
学習対象を限定した場合は、無断学習よりも絶対数やデータの多様性が少ないので、生成物の品質や多様性は下がる。
アニメ風イラストのような、その素材サイトで収集しにくい系統のものは出せないので、今のAI学習に否定的な状況ではNovelAIのようなものは生まれにくい。
生成速度による市場の圧迫
AI生成は、その生成速度の速さにより、手描き絵との投稿頻度には差がありすぎる。
その量と頻度による他の手描き絵の圧迫と運営への負担があるため、フィルターでの棲み分け、あまりにも多いならそのサイトにおいてのAI投稿自体の禁止は必要に思う。
連投に関しては、通常の人の投稿と同様に規制するべき。
AIの生成速度に加え、今までサイト利用者ではなかったルールに無知な層が参入してきたことによる弊害だと思う。
AI絵師は描いてない
どうでも良いが、その通り。
AI絵は描くではなく生成している。
絵師という言葉の綾に突っかかったもので、叩き側があえて使う蔑称となっている気もする。
最近では「AI絵師」を自称するAI利用者は少なく、AI術者やAIプロンプターなどと自称される。
AIイラストは努力していない・簡単
モデルの使用のみならそのとおり。
NovelAIやMidjourneyのような画像生成サービスを利用するなら誰でも可能。
プロンプトを試行錯誤する程度では技術として浅い。
(生成絵を構成する1要素でしか無く、モデルや追加学習の方が生成結果に対するウェイトが大きい)
ただし、より多くのことができるローカルでの環境構築は、PCの知識がないと難しく、自分でモデルを作る場合はさらに高難度で、万人ができる内容ではない。
そもそも努力の量で物事を語るのは悪手。
「デジタル絵よりアナログ絵の方が」とか「アニメ塗りより厚塗りの方が」などと不毛な話になる。
絵の価値の低下
新技術の登場で古い技術の価値が低下するのは不可避で不可逆。
「ちょっとした挿絵が欲しい」程度の需要は、AI生成にシェアが奪われる。
ただ、(現段階ではまだ)破綻があったり編集可能データとしての生成はできないので、イラストレーター業との棲み分けはできる。