ミナ・アズール / Mina Azure がお送りする AICU media「#生成AIの社会と倫理 」のコーナーです。生成AIは驚くべきスピードで進化を続けています。しかし、その進化の速さゆえに、技術と社会の間には大きなギャップが生まれています。本日は、2022年のStable Diffusion公開から2026年上半期までの激動の4年間で、クリエイティブ業界に浮上してきた様々な問題を時系列で整理し、各国の法律や判例がそれらにどう対応してきたのかを俯瞰します。
著作権と学習データにおける主な論点と判例の動向
生成AIの進化によって浮かび上がってきた様々な問題のうち、まず最大の論争の一つが、学習データと著作権の関係です。画像生成AIは、インターネット上の膨大な画像データを学習して作られています。Stable Diffusionの学習に使用されたLAION-5Bデータセットには、約58億枚の画像とそのキャプションが含まれており、著作権で保護された作品も多数含まれていました。
ここで論点となっている主な問題としては、①著作者の許諾なく作品が学習データに使用されている無断学習の問題、②一度学習されたデータを削除することが技術的に困難であるオプトアウトの困難さ、③特定のアーティストのスタイルを意図的に模倣できる類似画像の生成、そして④AIが代替することで本来得られるはずだった仕事が失われる収益機会の喪失が挙げられます。
これらをめぐる訴訟の動向と重要な判例としては、2023年以降に欧米で複数の訴訟が提起されました。日本時間：2023年にはGetty Images対Stability AIの訴訟や、Andersen氏らがMidjourney、Stability AI、DeviantArtを相手取ったアーティスト集団訴訟が起こり、2025年にはディズニーやユニバーサルがMidjourneyを提訴しました。
重要な動きとして、2025年11月ごろ、イギリス高等法院はGetty Images対Stability AI訴訟で歴史的な判決を下しました。判事は、AIモデルの重みファイルは学習元画像の複製物ではないと認定し、著作権侵害、いわゆる二次的侵害の主張を棄却しました。これは、学習に使ったからといって単純に違法とはならないという図式が法的には必ずしも成立しないことを示した重要な判例となりました。ただし、古いモデルが生成したGetty Imagesのウォーターマークが含まれる画像については、商標権侵害が限定的に認められました。この判決はAI学習全般の適法性を一括して判断したものではありませんが、英国法上の具体的な争点に対する判断として注目に値します。
https://note.com/aicu/n/nbe49299f44ed
一方、アメリカでの訴訟は日本のような条文を根拠とするシビル・ローとは異なり、判例を第一次的な法源とし、裁判官の判断の積み重ねによって形成されるコモンローと呼ばれる法体系をとっています。判例主義とも呼ばれるこの体系の米国にも著作権法の条文はあり、フェアユースも条文化されていますが、判例の役割が非常に大きく、2026年現在も関連の裁判が継続中であり、判例の蓄積が進んでいます。
こうした対立の一方で、権利者側の対立から共存への動きも始まっています。2025年12月には、ディズニーがOpenAIに約1500億円を出資し、公式キャラクターのAI利用を許諾するなどの動きが見られました。一方で、2026年3月には、動画生成AIのSoraがサービスを終了しました。ディープフェイクが作れる技術は社会的インパクトが大きい一方、その問題への対処コストも大きく、サービスとしての形態を変えながら、社会との対話が進んでいると考えられます。大企業やビッグテックによる開発は目覚ましいものがありますが、消費者やクリエイターの視点に立った慎重なバランスも大切にしたいですね。
https://note.com/aicu/n/n075810d3f20c
アイデンティティと表現：画風模倣とディープフェイクの脅威
次に、アイデンティティと表現の問題についてです。生成AIは、特定の人物やキャラクターのスタイルを再現することができますが、これによりいくつかの問題が発生しています。
スタイル模倣の問題として、「〇〇風のイラストを描いて」というプロンプトで特定のアーティストのスタイルを模倣した画像を生成した場合、感覚的にはいくつかの点に配慮すべきです。①原作のアーティストが開発した画風のアイデンティティの希薄化につながること、②原作者やファンが見て、長年かけて確立してきたスタイルがAIによって無料でコピーされている感覚を与えること、③そのアーティストが描いていない作品が拡散される可能性があること、あるいは④そもそも機械学習の過程で特定の名前タグをつけて学習させていることです。
ここで法律と技術のギャップとして重要なのは、画風やスタイルは現在の各国の著作権法上では保護されないという点です。著作権法が保護するのは具体的な表現であり、表現の背後にあるアイデアやスタイルは保護対象外とされています。しかし、機械学習の技術的な観点では、名前タグを用いてAIが学習しているのはまさにスタイルそのものです。これはフォントに例えると、テキストの内容ではなく書体のアイデンティティそのものであり、声に例えると、喋っている内容ではなく声質そのものです。生成AIは、膨大なデータから他と異なる特徴、つまり、この作家らしさ、このスタイルらしさという差分を抽出し、それを再現できるように学習しています。法律上は保護されないものが、技術的にはまさに学習対象であるというギャップが、この問題を複雑にしています。
また、ディープフェイクとなりすましの問題も深刻です。アイドルの顔写真を学習させることで、本人が撮影していない画像や動画を生成することが技術的には可能ですが、これについてもいくつかの点に配慮すべきです。具体的には、肖像権の侵害、名誉毀損や詐欺への悪用、肖像提供者に生成物が無限の不利益を発生させる可能性があるという契約的な非対称性、そして性的なディープフェイクの問題です。
2024年以降、多くの国でディープフェイクに関する規制が強化されていますが、技術の進化に法整備が追いついていない状況が続いています。特に2025年末ごろ、Xで利用できるGrokのアップデートに伴い、自由度の高さを悪用した、特に女性や子供を対象とした性的な画像や動画のディープフェイクの拡散が社会問題となり、署名運動にまで発展しました。米国連邦法でも2025年5月ごろにTAKE IT DOWN法が成立していた背景もあり、これを受けて2026年1月以降、X側でも画像・動画生成機能を有料ユーザー限定へと切り替え、実在人物のセンシティブな生成を技術的に厳しくブロックするなどの規制強化に踏み切る対応を行う流れとなりました。今後もこのような、AIの機能的にできるかどうかと、実際に問題にならないかどうかという法的な観点は常に持ち続ける必要があります。
クリエイティブ業界への労働・雇用への影響と環境負荷
さらに、労働と雇用への影響や環境負荷、情報の信頼性についても多角的な課題が存在します。生成AIの登場により、クリエイティブ業界の労働環境にも変化が生じています。影響を受けている職種としては、イラストレーター、特にコンセプトアートやストックイラストの分野、グラフィックデザイナー、ストックフォト分野の写真家、翻訳者やライターといった職種が挙げられ、具体的な変化としては、案件の前駆段階であるプリプロでAI生成画像への置き換えが進行しています。
例えば、従来の広告用動画を制作するためにはまず、そのイメージにあったロケーション探しが必要でしたが、それがプロンプト一つで片付いてしまいます。従来の撮影ではそのロケーションに出演者を連れていく必要がありましたが、それも限定的になっています。商品撮影のごく一部のみが生成AIにおいてすぐには置き換えられない分野ですが、それも時間とコスト、程度問題かもしれません。
生成AIが誰でも美しい画像が作れる技術になっていくにつれ、AIを使える人材の需要増加と、従来スキルのみの人材の需要減少、あるいはAIでできるなら安くできるはずという認識による単価の下落圧力が生じており、結果として企業活動としての合理性による構造的な破壊が起きています。仮に、AIなら安くできますといった触れ込みで極端な効率化や価格破壊で導入されたツールが導入されたとします。最初はいいかもしれませんが、そのようなツールは競合他社にも導入されていきます。結果として安かろう悪かろうを是認し、クリエイティブな産業を継続する十分なリソース、具体的には賃金を確保できなくなる可能性があります。
一方で、AIを活用して生産性を高め、より高度なクリエイティブワークに集中できるようになるという肯定的な声もあります。品質についても同様で、誰でもできる技術になったとしても、商品性がある品質の動画は一定の時間やスキル、そして作り手の工夫があってこそ成立するという考え方もあります。問題は、この変化があまりにも急速で、何十年もかけてスキルを積み上げてきたワーカーが適応する時間が十分に与えられていないことです。つまり、反AIやAI推進といった一次元的な軸や感情ではなく、お互いの意見を尊重しつつ、議論を前に進めていかなければ、急速な市場の変化と市場の原理で、結果として損をするのはクリエイターになるという構図です。
また、環境負荷の問題として、欧州の反AI団体などは賃金や契約といった労働環境以外に、サステナビリティという環境問題にも目を向けています。生成AIの学習と推論には、膨大なコンピューティングリソースが必要です。大規模モデルの学習には数百から数千のGPUが数週間稼働し、1回の画像生成でも通常のWeb検索よりはるかに多くの電力を消費します。データセンターの冷却にも大量のエネルギーと水資源が必要です。この問題に対し、蒸留モデルや量子化技術といったより効率的なモデルの開発、再生可能エネルギーを使用したデータセンターの構築、ローカル実行による分散処理など、様々なアプローチが進められています。
情報の信頼性と社会への影響についても、生成AIは非常にリアルな画像や文章を作成できるため、フェイクニュースの作成が容易になり、証拠写真としての画像の信頼性が低下しています。具体的な問題としては、選挙や政治活動への干渉、詐欺への悪用といった事例が確認されており、日本時間：2024年の各国選挙では、AIで生成された偽画像や偽動画が問題となるケースが複数報告されました。一方で、かつてのディープフェイクと呼ばれた時代に比べ、誰もが画像生成を使えばできる時代になり、偽画像に対するリテラシーは向上しているのかもしれません。
日本の著作権法第30条の4と新たな枠組みの検討
ここからは、生成AIに関する法律が既に十分整備されているのか、日本の著作権法と生成AIの現状について深掘りしていきます。
日本では、2018年の著作権法改正により、機械学習のための著作物利用が一定の条件下で認められています。それが著作権法第30条の4の情報解析のための複製等の規定です。著作物は、表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず利用することができるとされています。この規定により、学習目的での著作物利用は原則として適法とされていますが、いくつかの条件に注意が必要です。①著作物の表現を楽しむ目的ではないという享受目的がないこと、②市場での競合など権利者に過度な損害を与えないという権利者の利益を不当に害さないことです。
また、生成物の著作権について、2024年の文化庁見解によれば、プロンプトの工夫や生成後の加工、選択に人間の創作性が認められるという創作的関与がある場合は著作権が発生する可能性があり、AIに丸投げした場合は著作権は発生しないとされています。
新たな枠組みの検討として、2025年12月、日本政府は人工知能基本計画を策定し、世界で最もAIを開発・活用しやすい国を目指す方針を打ち出しました。同時に、内閣府は生成AIの適切な利活用等に向けた知的財産の保護及び透明性に関するプリンシプル・コード（仮称）の策定を進めています。これは、AI事業者に対して学習データの透明性確保や、権利者、利用者への情報開示を求めるもので、30条の4を補完する新たな枠組みとして注目されています。
このように、生成AIをめぐる制度は2026年現在もなお整備の途中にあります。日本では、著作権法第30条の4を含む既存の著作権法の枠組みを前提にしながら、AIの研究開発と利活用を推進しつつ、権利保護、透明性、安全性をどのように確保するかが議論されています。ここで重要なのは、日本の制度がAIを一律に禁止する方向ではなく、イノベーションを止めずに、リスクに応じたルールやガイドラインを重ねていく方向をとっている点です。
そのため、生成AIを使うクリエイターが見るべきものは、法律の条文だけではありません。文化庁によるAIと著作権に関する考え方、AI事業者向けのガイドライン、各サービスの利用規約、投稿先や販売先のプラットフォームルール、そしてクライアントとの契約条件が重なり合って、実際の判断が決まります。たとえば、学習段階で著作物の利用が一定の範囲で認められるとしても、生成物を公開・販売する段階では、既存作品との類似性、依拠性、商標、肖像、名誉、利用規約など、別の問題が生じることがあります。
JASRACが打ち出す新たな方針と創造のサイクルへの取り組み
ここで、権利者側からの非常に重要な最新の動きをお伝えします。作詞家や作曲家、音楽出版社などの権利者から音楽の著作権を預かり、利用許諾や使用料の徴収・分配、またインターネット上や動画投稿サービスでの音楽利用、録音物や映像ソフト、出版物の製作、コンサートでの演奏、各種施設や教室での演奏上映、ブライダルや学校、映画、ゲーム、広告での音楽利用など多岐にわたる管理業務や、作品検索データベースであるJ-WIDの運用、オンラインライセンス窓口、さらにはガバナンスの公開や著作権アカデミー、JASRAC賞などの音楽文化への貢献活動、国際ネットワーク構築、採用情報の発信にいたるまで、多岐にわたる業務を担う国内最大の音楽著作権管理事業者であるJASRACは、現行の著作権法第30条の4の下では、権利者が自分の作品を学習に利用してほしくないという意思反映の機会を持ちにくいとして、同条の改正も含めた対応を求めてしてきました。
そして、2026年6月11日、JASRACは生成AIの利活用と著作権に関する方針や取り組み内容などをまとめた特設ページ「創造のサイクルとの調和がとれたAI利活用の実現に向けて」を新たに公開しました。
JASRAC創造のサイクルとの調和がとれた AI利活用の実現に向けて https://www.jasrac.or.jp/aboutus/ai.html
JASRACは、新しい音楽との出会いが続く豊かな社会であるために、クリエイターが安心して創作に専念できるAI利活用の枠組みを実現するには、著作権法第30条の4の改正も含めた抜本的な対応を早急に行う必要があるとして、著作権法の改正を求めています。現行法の下では、クリエイターは自分の作品を利用してほしくないという意思表示を汲んでもらう機会、すなわち交渉の場を持つことすらできません。これは生成AIの開発のための機械学習が、原則として作詞者、作曲者や実演家、レコード会社などの権利者の許諾を得ることなく行うことができるとされているためです。
JASRACが2026年に実施した音楽クリエイター向けアンケートでは、生成AIに自分の作品が利用されることについて、反対、あるいはどちらかといえば反対と回答したクリエイターが過半数を占めていますが、現行法がある限り、事業者はこのクリエイターの声を聴く義務がありません。人間の個性の発露として創作された著作物は、生成AIのための単なるデータとして取り扱われるべきではなく、少なくとも、学習素材として利用されることの可否をクリエイター等の権利者が判断する、選択 of 機会の確保を設けるべきだという意見です。クリエイターの懸念や不安に正面から向き合うことなく現状を放置し、著作物に代替し得るAI生成物が更に大量に流通することになれば、創造のサイクルが破壊され、文化芸術の持続的発展を阻害することが懸念されています。
JASRACが2023年7月5日の理事会決議で定めた、生成AIと著作権の問題に関する基本的な考え方は、いくつかの柱から成り立っています。
①人間の創造性を尊重し、創造のサイクルとの調和を図ることが必要であるとし、人間とは桁違いの規模やスピードで際限なく学習利用され、著作物に代替し得るAI生成物が大量に流通することになれば文化芸術の持続的発展を阻害するという点。
②フリーライドが容認されるとすればフェアではないとし、営利目的の生成AI開発に伴う著作物利用についてまで原則自由とすることは、多くのクリエイターの努力や才能、労力へのただ乗りを容認するものにほかならず、日本においてこれが容認されるとする見解が散見されることに大きな懸念を抱いているという点。
③AIには国境がないので、国際的な調和を確保すべきであるとし、享受の目的がないという整理の下に著作権を制限する法的枠組みを持つ国はG7の中で日本だけであり、国際的に共通のルールの整合性や、G7広島首脳コミュニケで掲げられた責任あるAIの推進、透明性の促進といった観点から課題に対処すべきであるという点。
④クリエイターの声を聴き、懸念の解消を図るべきであるとし、世界中のクリエイターが安心して創作活動に打ち込むことができるよう、国内の議論を充実させ広く丁寧に意見を聴くことがコンテンツビジネスの持続的発展のために必要であるという点です。
さらに、JASRACが定めたガイドラインによる、AIを利用した作品の取り扱いについても詳細が明らかになっています。まず、管理の対象とする作品について、JASRACは、AIを利用した作品のうち、人間の創作的寄与が認められるものを管理対象としています。シンプルな指示に基づいてAIが自律的に生成した歌詞や楽曲のように、人間の創作的寄与が認められない作品は、JASRACでは管理しません。また、作品に関する委託者による保証として、管理委託契約を締結しているクリエイターや音楽出版社といった委託者から提出された作品届に基づいて作品の管理を行っており、委託者には、JASRACに届け出る作品について、人が創作的に寄与した著作物であることを保証する義務があるとしています。海外の著作権管理団体等においても、クリエイターの保護に向けたさまざまな取り組みが行われており、これは、生成AIをめぐる制度設計が、単に使えるか使えないかではなく、創作のサイクル、権利者の選択の機会、利用者の透明性をどう確保するかという段階に進んでいることを示しています。
今後は、AI事業者に対して、学習データやモデルの透明性、生成物の表示、権利者や利用者への情報提供を求める流れが強まっていくと考えられます。ただし、これらは国ごとに進み方が異なります。海外の状況は参考情報として見るべきで、米国では著作権侵害やフェアユースをめぐる訴訟が続いており、AIだけで自動生成された作品には著作権保護を認めず、人間の創作的関与がある場合に限って保護の可能性を認める考え方が示されています。また、本人の同意のない性的ディープフェイクや親密画像の拡散に対しては、連邦法や州法による規制が強まりつつあります。
EUでは、AI Actによって、AIシステムをリスクに応じて分類し、特に高リスク分野や汎用目的AIモデルに対して、透明性、安全性、著作権への配慮を求める方向が明確になっています。AI生成であることの表示やモデル提供者による情報開示、学習データに関する一定の透明性、リスク管理が重要な論点になっています。これはEUの法体系と市場規制に基づくものであり、日本の個人クリエイターがそのまま同じ義務を負うという意味ではありません。中国では、生成AIサービスに対して、コンテンツ管理、学習データの適法性、個人情報保護、生成物の表示、アルゴリズムの届出などを重視する規制が進められています。韓国でも、AI基本法制やディープフェイク対策を含めた制度整備が進みつつあります。これらの動きは、生成AIが単なる便利なツールではなく、社会制度全体に影響を与える技術として扱われ始めていることを示しています。
しかし、大切なのは各国制度の細かな違いを暗記することではありません。海外の訴訟や規制は、世界ではこのような問題が起きているという警告灯として受け止めるべきものです。日本で制作し、日本で公開・販売する場合には、まず日本の法制度、利用するAIサービスの規約、モデルのライセンス、投稿先・販売先のルール、指示内容や契約条件を確認することが基本になります。
法律を超えた倫理とこれからの選択
法律だけでは解決できない問題として、生成AIをめぐる問題のすべてを法律だけで解決することはできません。技術の進化は非常に速く、法律や判例が追いつくまでには時間がかかります。また、生成AIサービスは国境を越えて提供されるため、どの国の法律や規約が関係するのかがわかりにくい場合もあります。さらに、個人がSNS上で行う小規模な違反や、短時間で広がる偽画像・偽動画をすべて検出し、止めることも容易ではありません。
また、合法であることと、社会的に受け入れられることは同じではありません。法律上は明確に禁止されていなくても、他者の作品への敬意を欠いた使い方、公式作品と誤認されやすい使い方、実在人物の尊厳を損なう使い方、見る人をだますような使い方は、トラブルや反発を招きます。生成AIは強力な道具だからこそ、利用者自身の判断と説明責任が重要になります。
そのため、生成AIを使うときには、法律, ライセンス、サービス規約、プラットフォームのルール、業界ガイドライン、そして個人の倫理観を組み合わせて考える必要があります。特に商用利用、受託制作、広告、教育、医療、公共性の高い分野で使う場合は、技術的にできるかではなく、誰にどのような影響を与えるかまで考えることが求められます。
生成AI利用に関わる諸問題について整理しました。生成AIには、著作権と学習データ、画風や作家性、肖像権やディープフェイク、二次創作、労働環境、環境負荷、情報の信頼性など、多くの論点があります。これらは、どれか一つの法律や規約だけで簡単に解決できるものではありません。日本では、著作権法第30条の4を含む既存の制度を前提に、AIの研究開発と利活用を進めながら、透明性や権利保護のあり方を検討していく流れが続いています。一方、米国、EU、中国、韓国などでは、それぞれ異なる法体系や社会的背景に基づいて、訴訟、規制、ガイドラインの整備が進んでいます。海外の事例は参考になりますが、日本のクリエイターが判断するときには、日本の制度と自分の利用状況に照らして考えることが大切です。生成AIを責任を持って使うためには、まずこれらの問題を深く知ることが不可欠です。怖がって使わないことでも、何も考えずに使うことでもなく、どのような問題があり、どこに注意すべきかを理解したうえで、自分の制作に取り入れていくことが重要だと思います。技術の進化とともに、私たちも社会のあり方にしっかりと目を向けていきたいところです。
参考リンク
- 文化庁 AIと著作権に関する考え方について
- EU AI Act 概要
- Getty Images vs Stability AI 訴訟（UK判決解説）
- ディズニー×OpenAI提携
- 人工知能基本計画
- 内閣府プリンシプル・コード
- JASRAC創造のサイクルとの調和がとれた AI利活用の実現に向けて https://www.jasrac.or.jp/aboutus/ai.html
#生成AIの社会と倫理 #著作権法第30条の4 #JASRAC #クリエイター保護 #ディープフェイク #AiCuty
Originally published at note.com/aicu on Jun 14, 2026.
Comments