Stability AI が利用規約を改訂！この3年間で何が変わったのか？7分野で詳細解説

画像生成AI「Stable Diffusion」をはじめとするオープンなモデルを公開してきたStability AI社が2025年7月31日からサービス規約を改定します。2022年8月22日にリリースされた既存の利用規約 CreativeML Open RAIL-M との違い、この3年で生成AIと社会の何か変わったのか、今後日本のユーザーが認識しておくべき要素について、解説します。

新旧の規約定義の基礎知識

新規約「Terms of Service」

https://stability.ai/terms-of-service

Stable Diffusionの利用規約
2022年8月22日にCompVis（Computer Vision and Learning LMU Munich: ミュンヘン大学のコンピュータービジョンと機械学習研究グループ）Robin Rombach、Patrick Esserと貢献者が発信した「CreativeML Open RAIL-M」がStable Diffusionのオープンリリースのライセンスとなっており、その後さまざまな画像生成AIモデルのベースとなるライセンス文書となっています。

https://github.com/CompVis/stable-diffusion

基本的な違い

まず、両者の根本的な違いは以下の通りです。

• OpenRAIL-Mライセンス（旧）: モデルという「技術（モノ）」をダウンロードして使う際のルール。オープンソースの思想が強く、利用者に大きな自由と責任を与えます。

• 新利用規約（新）: Stability AIが提供するAPIやDreamStudioなどの「サービス（コト）」を利用するための契約。企業と顧客との間の商業的な取り決めです。

この根本的な違いを踏まえた上で、日本のユーザーにとって特に重要な相違点を列挙します。

日本のユーザーが特に認識しておくべき重要要素

1. 準拠法と裁判地：紛争解決の場所が「米国カリフォルニア州」に

これが日本のユーザーにとって最も重要な変更点です。

• 【旧】OpenRAIL-M: ライセンス違反があった場合の準拠法や裁判地は明記されていませんでした。このため、もし日本国内で発生した紛争であれば、日本の法律に基づき、日本の裁判所で争える可能性がありました。

• 【新】新利用規約: 準拠法はカリフォルニア州法、紛争解決の専属的裁判地はカリフォルニア州ロサンゼルスの裁判所と、明確に指定されています（第13条j項）。

【認識しておくべきこと】

万が一、Stability AIとの間で法的な紛争（例えば、サービス利用料の請求、アカウントの不当な停止など）が発生した場合、日本の裁判所ではなく、アメリカのカリフォルニア州まで行って、現地の法律に基づいて争う必要があります。 これは、言語の壁はもちろん、米国の弁護士を雇うための高額な費用や時間的コストがかかることを意味し、個人や中小企業にとっては紛争解決のハードルが極めて高くなります。

2. 契約相手：取引するのが「米国法人」であること

• 【旧】OpenRAIL-M: ライセンスの提供者はモデルの開発者（Robin Rombach氏、Patrick Esser氏、その他貢献者）でした。

• 【新】新利用規約: 日本のユーザーが契約する相手は、**米国デラウェア州法人「Stability AI US Services Corporation」**です（第1条）。

【認識しておくべきこと】

あなたが利用しているのは英国や日本の企業ではなく、明確に米国の法人との間の契約であるという点です。これは、上記の「準拠法と裁判地」が米国に指定されていることの根拠にもなり、取引全体が米国の法制度の影響下にあることを意味します。

3. 言語：公式文書は「英語」であること

• 【旧】OpenRAIL-M: 公式文書は英語であり、有志による日本語訳が参考にされていました。

• 【新】新利用規約: 同様に、法的に拘束力を持つのは英語の原文です。

【認識しておくべきこと】

私が提供している翻訳はあくまで理解を助けるための「参考訳」です。規約の解釈に疑義が生じた場合、最終的には英語の原文のニュアンスが優先されます。万が一の紛争時において、翻訳との解釈の違いが不利に働く可能性はゼロではありません。

4. 消費者保護法との関係

• 【旧】OpenRAIL-M: ライセンスであり、消費者契約とは性質が異なります。

• 【新】新利用規約: 日本のユーザーが利用する場合、日本の「消費者契約法」が適用される可能性があります。この法律は、事業者と消費者との契約において、消費者に一方的に不利益な条項を無効とする効力があります。

【認識しておくべきこと】

例えば、新規約にある広範な免責条項や、サービスの仕様を一方的に変更できるとする条項などが、日本の消費者契約法に照らして無効と判断される可能性はあります。

しかし、この権利を主張するためには、前述の通り、カリフォルニア州の裁判所で争う必要が生じる可能性があり、そのハードルは依然として非常に高いと言わざるを得ません。

この時点でのまとめ

日本のユーザーにとって、最も大きな違いは「紛争解決の現実的な困難さ」です。2022年のライセンスは、技術を自己責任で自由に使うためのオープンなルールでしたが、2025年の新利用規約は、米国の企業が提供するグローバルな商用サービスを利用するための、より厳格で企業側に有利なルールとなっています。
日常的にサービスを利用する上では大きな問題になることは少ないかもしれませんが、特にビジネスで大規模に利用する場合や、何らかのトラブルが発生した際には、この法的な枠組みの違いが決定的に重要になることを、十分に認識しておく必要があります。
2025年7月31日発効のStability AIの新しい利用規約（Terms of Service）を以下に精訳します。

サービス利用規約(AICU参考訳)

発効日：2025年7月31日（以前のバージョンはこちら）

Stability AIへようこそ！当社のサービスにアクセスまたは利用することにより、お客様は本サービス利用規約（以下「本規約」）に同意したものとみなされます。本規約は、Dream Studio、Stable Audio、Stable Assistant、Stable Artisan、Stabilityのアプリケーション・プログラミング・インターフェース（API）、当社のウェブサイト、関連するソフトウェアアプリケーション、および基盤となる技術、ならびに将来的に本規約にリンクされるアプリやサービス（以下、総称して「本サービス」）へのお客様のアクセスと利用を規定するものです。本規約には、当社のAcceptable Use Policy（利用規定）が含まれます。また、当社が個人データをどのように処理するかを説明したPrivacy Policy（プライバシーポリシー）もご一読ください。

仲裁に関する重要なお知らせ： 米国またはカナダにお住まいのお客様は、お客様とStabilityとの間の紛争が、拘束力のある個別の仲裁によって解決されることに同意し、クラスアクション（集団訴訟）またはクラスワイド仲裁（集団仲裁）に参加する権利を放棄するものとします。いくつかの例外と、お客様がオプトアウト（拒否）する方法については、以下の第13条で説明します。

1. 当社について

Stability AI（以下「Stability」）は、お客様がコンテンツや以下で定義される「出力（Outputs）」を作成・生成するために利用できる、最先端のモデルと製品を開発するマルチモーダルな生成AI企業です。当社のサービスは、以下の契約主体によってお客様に提供されます。

• 英国、EU、またはスイスにお住まいの場合： Stability AI Ltd（英国イングランドおよびウェールズで設立された非公開有限会社、登記住所：Fora-United House, 9 Pembridge Road, London W11 3JY, England, UK）

• 英国、EU、またはスイス以外にお住まいの場合： Stability AI US Services Corporation（米国デラウェア州法人、事業所住所：10250 Constellation Blvd., Suite 2300, Los Angeles, CA 90067, United States）

2. アカウントの作成とアクセス

• a. 最低年齢： お客様は、18歳以上であるか、またはお住まいの地域で当社のサービスを利用するために要求される最低年齢のいずれか高い方の年齢に達している必要があります。

• b. お客様のアカウント： 当社のサービスを利用するためには、アカウントの作成が必要な場合があります。お客様は、正確な情報を提供し、当社が本サービスについてお客様に連絡を取ることを許可することに同意します。アカウントのログイン情報を他人と共有したり、他人がアカウントを利用できるようにしたりすることはできません。お客様は、お客様のアカウントを介してサービスにアクセスするエンドユーザーの活動を含め、すべてのアカウント活動に責任を負い、アカウントへの不正アクセスに気づいた場合は、速やかに security@stability.ai までEメールで連絡することに同意します。

• c. 企業のドメイン： お客様が雇用主または他の組織が所有するEメールアドレスを使用する場合、お客様のアカウントはその組織のエンタープライズアカウントにリンクされることがあります。その組織の管理者は、お客様の「入力（Inputs）」および「出力（Outputs）」の閲覧を含め、アカウントを監視および管理することができる場合があります。

3. 当社サービスの利用

• a. 遵守： お客様は、本規約、当社のAcceptable Use Policy（利用規定）、および当社が本サービス上で掲載する可能性のある補足的な規約やガイドラインを遵守する場合にのみ、当社のサービスにアクセスし利用することができます。本規約と、オープンソースライセンス条項など、当社の技術の一部に適用される他のStabilityまたは第三者の規約との間に矛盾がある場合は、その矛盾の範囲において、そのStability技術の部分については他の規約が優先されます。

• b. 利用制限： お客様は、以下のいかなる状況においても、当社のサービスにアクセスもしくは利用、または他者によるアクセスもしくは利用を支援してはなりません。

  1. 適用される法規制に違反する場合。

  2. Stabilityによって明示的に承認された場合を除き、人工知能、機械学習アルゴリズム、またはモデルを開発・訓練することを含め、当社のサービスと競合する製品やサービスを開発するため、または当社のサービスを再販するため。

  3. これらの制限が適用法によって禁止されている場合を除き、当社のサービスをリバースエンジニアリングするため。

  4. 当社のサービスからデータをクロールまたはスクレイピングするため、またはボットやスクリプトなどを通じて自動化された非人間的な手段で当社のサービスにアクセスするため、あるいは本規約で許可されているか、Stabilityが別途明示的に許可した場合以外の方法で当社のサービスからデータを抽出するため。

  5. 当社のサービスを利用して、いかなるシステムや情報への不正アクセスを得るため、または誰かを欺瞞・操作するため。

  6. 知的財産権またはその他の法的権利を侵害、不正利用、または違反するため。

  7. いかなる人物による当社サービスの利用を制限する、また当社（または当社のユーザー、関連会社、その他第三者や個人）が何らかの責任、損害、または（風評被害を含む）危害にさらされると当社が合理的に判断するような、その他の行為に関与するため。

  8. 当社のサービスから生成された「出力（Output）」が、そうでないにもかかわらず、人間によって生成されたものであるかのように表現または示唆するため。

  9. 当社のサービスを乱用、妨害、損害を与える、または当社のシステムやセキュリティ対策を回避するため。

  10. APIキーを第三者から、第三者へ、または第三者と売買、譲渡するため。

4. 入力（Inputs）と出力（Outputs）

お客様は、テキスト、画像、その他の入力やプロンプト（以下「入力」）を当社のサービスに送信して、その入力に基づいた対応する出力（以下「出力」）を生成することができます。

• a. 入力と出力の権利： お客様は、当社のサービスに送信するすべての入力について責任を負います。これには、お客様のエンドユーザーがお客様のアカウントを介して当社のサービスに送信する入力も含まれます。当社のサービスに入力を送信することにより、お客様は、当社のサービスに入力を提供するために必要なすべての権利、ライセンス、および許可を有していることを表明し、保証します。また、お客様による入力の送信が、本規約、当社のAcceptable Use Policy（利用規定）、または適用される法規制に違反しないことを表明し、保証します。お客様とStabilityとの間においては、適用法で許可される範囲で、お客様は送信した入力の所有権を保持します。お客様が本規約を遵守することを条件として、当社は、出力に対する当社のすべての権利、権原、および利益（もしあれば）をお客様に譲渡します。したがって、Stabilityとお客様との間では、お客様が出力を所有します（適用法で許可される範囲で）。当社のサービスおよび一般的な人工知能の仕組み上、複数のユーザーが類似の入力に基づいて類似の結果を得る可能性があります。そのため、当社がお客様に譲渡する権利は、お客様固有の出力にのみ適用され、他のユーザーや第三者の出力には適用されません。

• b. 出力への依拠： 生成AIはまだ発展途上の技術であり、出力には常に正確な情報が含まれているとは限らず、意図した通りでない場合もあります。お客様は、出力を使用または共有する前に、その正確性、合法性、および適切性を検証する単独の責任を負います。出力は、独立した人間によるレビューなしに、いかなる重要な決定にも使用されるべきではありません。また、出力はStabilityによって作成されたものではなく、Stabilityの見解を反映するものではないことにご注意ください。

• c. 当社による入力と出力の利用： 当社のPrivacy Policy（プライバシーポリシー）に記載されている通り、当社は、サービスの改善・開発（ただし、お客様は当社がモデル学習のために入力と出力を利用することをオプトアウトできます）、適用法の遵守、当社の規約とポリシーの執行、およびサービスの安全性を保つために、入力と出力を利用することがあります。

5. 補足的リソース（例：LoRA）

Dream Studioをご利用の場合、この第5条が適用されますが、他のすべての「サービス」には適用されません。 Dream Studioのユーザーは、Low-Rank Adaptations（LoRA）、Weight-Decomposed Low-Rank Adaptations（DoRA）、Bi-Dimensional Weight-Decomposed Low-Rank Adaptations（BoRA）、または類似の技術（総称して「LoRA」）を含む、パラメータ効率の良い補足的リソースを当社のサービス上で学習および共有する機能を有する場合があります。

• a. LoRAの学習者向け

  1. お客様のコンテンツ： LoRAにアップロードまたは組み込むデータは、お客様のコンテンツとみなされます。お客様とStabilityとの間において、お客様は、適用法および当社のAcceptable Use Policy（利用規定）の遵守を確保することを含め、LoRAおよびそこから生成される出力について単独で責任を負います。

  2. LoRAの共有： LoRAを共有することを選択した場合、

     1. i. お客様はStabilityに対し、本サービス上で他者に向けてホスト、使用、複製、および利用可能にするための、非独占的、世界的、取消不能、ロイヤリティフリーのライセンスを許諾します。

     2. ii. お客様は、ご自身のモデルのユーザーに対し、お客様のLoRAとその出力を使用、保存、および派生物を作成するための、非独占的、世界的、取消不能、ロイヤリティフリーのライセンスを許諾します。

     3. iii. お客様は、LoRAに関して公開する情報が、完全、正確、かつ誤解を招くものでないことを保証しなければなりません。

  3. 削除： Stabilityは、いつでも、理由の如何を問わず、予告なしにDream Studioからお客様のLoRAを削除することができます。

• b. LoRAの利用者向け： お客様は、信頼できるLoRAのみを使用すべきです。これらのLoRAはユーザーによって生成されたものであり、学習者またはStabilityによっていつでも予告なしに削除される可能性があります。当社のポリシーや適用法に違反していると思われるLoRAに遭遇した場合は、当社にご報告ください。

6. フィードバック

当社はフィードバックを歓迎します。フィードバックを提供することを選択した場合、お客様は、当社がお客様に対していかなる義務も支払いもなしにそのフィードバックを使用できることに同意します。

7. 料金、サブスクリプション、およびサービスクレジット

（このセクションは料金、自動更新、キャンセル、サービスクレジットの有効期限（1年）、譲渡禁止など、有料サービスに関する詳細を規定しています。）

8. 第三者サービス

当社のサービスは、第三者のソフトウェア、サービス、または統合機能を使用、あるいはそれらと連携して使用されることがあります。当社のサービスを使用することにより、お客様は、機能の有効化のために、お客様の入力（個人データを含む）が当該第三者サービスと共有される可能性があることを認めます。当社のサービスは、第三者のモデルやAPIを組み込むこともあります。その場合、お客様は、当該第三者と競合するモデルを訓練するために出力を使用してはなりません（例：OpenAIの規約参照）。

9. ソフトウェア

当社は、ソフトウェアの手動または自動更新を提供する場合があります。本規約と、オープンソースライセンス条項など、当社のソフトウェアの一部に適用される他のStabilityまたは第三者の規約との間に矛盾がある場合は、その矛盾の範囲において、そのStabilityソフトウェアの部分については他の規約が優先されます。

10. 所有権とDMCA（デジタルミレニアム著作権法）

当社のサービスは、当社および当社の関連会社、ライセンサー、販売代理店、およびサービスプロバイダー（総称して「プロバイダー」）によって所有、運営、提供されています。本規約で明示的に付与されたアクセス権および使用権を除き、本規約は、当社のサービスに対するいかなる権利、権原、または利益もお客様に付与するものではありません。当社は、DMCAに基づき、著作権侵害の申し立てに対応します。

11. 保証の否認、責任の制限、および補償

当社のサービスは「現状有姿（AS IS）」で提供され、適用法で許容される範囲で、いかなる保証もありません。いかなる間接的、付随的、特別、結果的、または懲罰的損害についても、Stability関係者は責任を負いません。Stability関係者の賠償責任総額は、100ドルまたはお客様が過去6ヶ月間にサービスに支払った金額のいずれか大きい方を超えないものとします。お客様は、ご自身のサービス利用、本規約違反、お客様が提供した入力や出力などに起因するあらゆる責任、損害、費用について、Stability関係者を補償し、防御し、免責することに同意します。

12. 一般条項

• a. サービス変更: 当社は、予告なくサービス機能を追加・削除するなど、定期的にサービスを更新する場合があります。

• b. 規約変更: 当社は、サービス変更の反映、セキュリティ、法的理由、または乱用防止のために、本規約を更新する場合があります。更新の通知後もサービスの利用を継続する場合、お客様は更新された規約に同意したものとみなされます。

• e. 終了: お客様はいつでもサービスの利用を停止できます。当社は、お客様が本規約に違反したと判断した場合や、法令遵守のために必要な場合など、いつでも予告なくお客様のアクセスを停止または終了させることができます。

• j. 輸出管理: お客様は、米国の禁輸対象国や、特定の制裁リストに掲載されている個人や団体に本サービスを輸出または提供してはなりません。

13. 紛争の場合

このセクションは、米国またはカナダ在住のユーザーにのみ適用されます。

• a. 強制的な仲裁: お客様とStabilityは、本規約または当社のサービスに関連するいかなる請求も、最終的かつ拘束力のある仲裁を通じて解決することに同意します。

• b. オプトアウト: お客様は、アカウント作成から30日以内に legal@stability.ai へEメールで通知することにより、この仲裁条項を拒否することができます。

• c. 非公式な紛争解決: 法的措置を取る前に、両当事者はまずEメールで非公式に紛争を解決するよう試みることに同意します。

• g. クラスアクションおよび陪審裁判の権利放棄: 両当事者は、紛争は個人ベースでのみ提起され、クラスアクション（集団訴訟）として提起されないことに同意します。両当事者は、いかなる訴訟においても陪審による裁判を受ける権利を取消不能な形で放棄します。

• j. 準拠法および専属的管轄権: 本規約は、抵触法の原則に関わらず、カリフォルニア州法に準拠します。紛争は、カリフォルニア州ロサンゼルスの州裁判所または連邦裁判所でのみ解決されるものとし、両当事者はそれらの裁判所の人的かつ専属的な管轄権に服することに同意します。

誤解されやすい要素と禁止される内容

一部メディアの報道によると、今後禁止される要素について「どの文書に書かれており、何に適用されるか」という点で、重要な誤解を招きかねない不正確な記述や誤解を招くような内容が含まれています。以下に、その解説を記載します。

指摘事項（ダウト）

誤解の例①：規約の適用範囲についての記述

これは最も重要な指摘事項であり、不正確な可能性が極めて高いです。

【事実関係】

• 今回改定される「新利用規約（Terms of Service）」は、主にDreamStudioやAPIといった、Stability AIが提供・管理する「サービス」に適用されるものです。

• ユーザーが自身のPC（ローカル環境）で動かす「オープンソースのモデル」には、この新利用規約は直接適用されません。オープンソースのモデルは、公開時に付与された個別の「ライセンス」（例：CreativeML Open RAIL-Mや、Stability AI Community Licenseなど）に従います。

【解説】

この記事は、Stability AIが関わる全ての製品（サービスとオープンソースモデル）に、この新しい単一の規約が適用されるかのような印象を与えます。しかし、実際は「サービス」と「オープンソースモデル」では、準拠すべき法的文書が異なります。

例えば、古いStable Diffusion 1.5をローカル環境で利用しているユーザーは、引き続きそのモデルに付与されたライセンス（OpenRAIL-Mなど）に従うことになり、今回の新利用規約には直接縛られません。

記事の最後の「規制の実効性を疑問視する声」という部分も、この点を混同している可能性があります。新利用規約はローカル環境の利用を規制するものではなく、あくまでStability AI社のプラットフォーム上での利用を規制するものです。

誤解の例②：禁止事項の典拠についての記述

これは厳密には間違いではありませんが、誤解を招く不正確な表現です。

【事実関係】

• 性的コンテンツやCSAM、権利侵害などの具体的な禁止事項は、「新利用規約（Terms of Service）」本体に直接列挙されているわけではありません。

• これらのルールは、「Acceptable Use Policy（AUP: 利用規定）」という別の文書に詳細が記載されています。新利用規約は、「このAUPに従ってください」と参照・組み込む形をとっています。

【解説】

記事は、読者が最も関心を持つであろう具体的な禁止事項を分かりやすく伝えるために、「新規約」という言葉に集約して説明しています。これはニュース記事としては一般的な手法ですが、もしユーザーが「新規約」の本文だけを読んでも、記事に書かれている具体的な禁止リストは見つけられません。正確な情報を探すには、利用規約からリンクされている「Acceptable Use Policy」を読む必要があります。この構造を理解しておくことは重要です。

この3年で変化した生成AIと社会を取り巻く環境

Stability AI社の新しい「Acceptable Use Policy (AUP)」（利用規定）に記載されている具体的な利用制限と、過去の「CreativeML Open RAIL-M」ライセンスに記載されていた利用制限を直接対比し、何がどう変わったのかを解説します。

端的に言うと、ルールが「抽象的な理念」から「具体的な運用基準」へと大幅に具体化・厳格化されています。これは、AIの悪用事例が数多く知られるようになった過去数年間の経験を反映したものです。

「利用制限」に関する新旧対比

以下、比較項目です。

【旧】OpenRAIL-M ライセンス (2022年)
【新】Acceptable Use Policy (AUP) (2025年)
【解説】変更のポイント

①児童の保護

【旧】「未成年者を搾取、加害する目的」での利用を禁止。

【新】より具体的・網羅的に。
「児童性的虐待コンテンツ（CSAM）、未成年者の性的搾取、グルーミング、人身売買」を名指しで禁止。未成年者の暗示的な描写や、性的脅迫目的のなりすましも禁止。

抽象的な「目的」から、国際的に問題視される具体的な行為（CSAM、グルーミング等）を列挙する形に強化。社会的な要請と法執行機関との連携を意識した、非常に強い姿勢。

②性的コンテンツ

【旧】規定なし。
（成人向けの合意ある性的コンテンツについては、直接の言及はなかった）

【新】全面的に禁止。
「性交、性的行為、性的暴力に関連するコンテンツ、または性的に露骨な素材を描写・助長するコンテンツ」を禁止。

これが最大の変更点の一つ。 以前はグレーゾーンだった成人向け性的コンテンツの生成が、明確に禁止されました。企業のブランドセーフティや、決済・インフラ提供企業からの要請が背景にあると考えられます。

③偽情報・誤情報

【旧】「他者を害する目的で、検証可能な偽情報」の生成・拡散を禁止。

【新】目的の範囲を拡大。
「個人や集団に重大な危害を及ぼす可能性のある、意図的に誤解を招く情報や偽情報」の生成を禁止。

「他者を害する目的」という立証が難しい部分がなくなり、**「重大な危害を及ぼす可能性」という、より広い範囲をカバーする表現に。選挙妨害や公衆衛生に関わる偽情報などを想定。

④嫌がらせ・ヘイト

【旧】「他者を中傷、軽蔑、または嫌がらせをする」ことを禁止。「特定の集団への差別」を禁止。

【新】より詳細に。
「個人を中傷、格下げ、いじめる、または嫌がらせをする」ことに加え、「ヘイトスピーチ」を明確に禁止。** 保護対象の特性に基づく暴力を助長・賞賛するコンテンツも禁止。

「ヘイトスピーチ」というカテゴリを新設し、現代のオンライン・ハラスメントの形態に合わせて定義を具体化。

⑤プライバシー侵害

【旧】「個人を害するために利用できる個人識別情報」の生成・拡散を禁止。

【新】具体例を追加。
「個人のプライバシーを侵害する」行為に加え、「本人の同意なく顔認証用のデータベースを作成・拡張する」といった具体的な利用例を禁止。

AIの悪用事例として問題になった「顔認識データベースの作成」などをピンポイントで禁止。より現実のユースケースに即した規制。

⑥高リスク分野

【旧】「医療アドバイス」「司法・法執行での利用」などを禁止。

【新】同様に禁止。
「資格を持つ専門家によるレビューなしに、医療、法律、金融に関するアドバイスを提供する」ことを禁止。

この点は両者で一貫しているが、新規約では「資格を持つ専門家によるレビュー」があれば許容される余地を示唆するような、より洗練された表現になっている。

⑦技術的な制限

【旧】規定なし。

【新】新たに追加。
「当社の安全対策を回避、無視、または無効にする」行為を禁止。

これも大きな追加点。 いわゆる「プロンプトインジェクション」や「ジェイルブレイク（脱獄）」のような、意図的に安全機能を突破しようとする行為自体を明確に禁止。

比較からの考察：何が本質的に変わったのか

1. 具体性と網羅性の向上

旧ライセンスの禁止事項は「〜する目的」といった、利用者の意図を問う抽象的なものが多くありました。新AUPでは、「CSAM」「ヘイトスピーチ」「顔認識DB」のように、具体的なコンテンツや行為そのものを名指しで禁止しています。これは、誰が見ても違反かどうかが判断しやすく、自動化されたコンテンツフィルタリングなど、大規模なサービス運用に適した形への進化です。

2. 新たな禁止カテゴリの追加

特に重要なのは、以下の2点が新たに追加されたことです。

• ① 明示的な性的コンテンツの禁止: これは、Stability AIが単なる技術提供者から、社会的な責任を負うサービス事業者へと立場を変えたことを象徴しています。

• ② 安全対策の回避禁止: ユーザーとの「いたちごっこ」を経験した結果、モデルを騙そうとする行為そのものをルールで禁じる必要が出てきたことを示しています。

3. 「思想」から「運用」へ

OpenRAIL-Mは、開発者が「こうあってほしい」と願うAI利用の倫理的な思想を示したライセンスでした。

一方、新AUPは、サービス運営者が日々発生する問題に対処するための、実用的な運用ポリシーです。言葉の定義がより厳格で、例外を許さない断定的な表現が多いのは、コンテンツモデレーションの現場で迅速かつ一貫した判断を下すためです。

結論として、この変化はStability AIが、理想を掲げる黎明期のプロジェクトから、現実社会のリスクと向き合う成熟した企業へと成長した証と言えます。禁止事項は、より現実に即し、より厳格で、より具体的になりました。

「つくる人をつくる」AICUでは、この夏より開始されるAICU認定講習および認定試験においても本改定を普及させていくことを検討しております。ただしい理解を深め、画像生成AIの陽の当たる場所を拡大していきたいと考えております。

https://corp.aicu.ai/ja/aicreator-20250416

Originally published at note.com/aicu on July 9, 2025.