「米大統領令、生成AIを初規制　公開前に安全評価義務づけ」その実際は

日経新聞において以下の記事が掲載されました。

■米大統領令、生成AIを初規制　公開前に安全評価義務づけ - 日本経済新聞

このような法的拘束力をもつ規制が導入されるのであれば、米国法人であるAICU社や日本のChatGPTのユーザなどにも影響が及ぶ可能性がありそうです。
実際のところはどのような内容なのでしょうか、NewYorkTimesの記事を調査してみました。

バイデン大統領は月曜日、人工知能システムに関する連邦政府初の規制の概要を示す大統領令を発表。その中には、最先端の人工知能製品が生物兵器や核兵器の製造に使用されないことを保証するためのテストを実施し、その結果を連邦政府に報告するという要件が含まれている。
過去数年間のA.I.の飛躍的な進歩がもたらした潜在的なリスクからアメリカ人を守るための、最も包括的な政府の行動として説明される予定である。この規制には、そのようなシステムによって開発された写真、ビデオ、音声には、AIによるものであることを明確にするために透かしを入れることを推奨する内容が含まれるが、義務ではない。これは、特に2024年の大統領選挙が加速するにつれて、AIによって「ディープフェイク」や説得力のある偽情報の作成がはるかに容易になるという懸念が高まっていることを反映している。
米国は最近、ChatGPTのようなプログラムを質問に対する回答や作業のスピードアップに効果的なものにしている、いわゆる大規模言語モデルの生産能力を低下させるため、中国への高性能チップの輸出を制限した。同様に、新たな規制は、クラウドサービスを運営する企業に対し、外国人顧客について政府に報告することを義務付ける。
バイデン氏の命令は、英国のリシ・スナック首相が主催する、AIの安全性に関する世界のリーダーたちの集まりの数日前に出される。AI規制の問題では、米国は新たな法律の草案を作成している。欧州連合（EU）や、規制案を発表している中国やイスラエルなどの他の国々に遅れをとっている。
昨年、AIを搭載したチャットボット「ChatGPT」が爆発的な人気を博して以来、議員や世界の規制当局は、人工知能がどのように仕事を変え、偽情報を広め、独自の知能を発達させる可能性があるかに取り組んできた。
「バイデン大統領は、AIの安全性、セキュリティ、信頼性に関して、世界のどの政府よりも強力な一連の行動を展開している」と、ホワイトハウスのブルース・リード副長官は語った。「これは、AIの利点を活用し、リスクを軽減するために、あらゆる面であらゆることを行う積極的な戦略の次のステップである。
（中略）
この規制はまた、安全性、セキュリティ、消費者保護に関する初めての基準を設定することで、テクノロジー部門に影響を与えることを意図している。財布の紐の力を使うことで、ホワイトハウスの連邦政府機関への指令は、政府の顧客によって設定された基準を遵守するよう企業に強制することを目的としている。
「これは重要な第一歩であり、重要なことは、大統領令は規範を定めるということです」と、ジョージタウン大学安全保障・新興技術センターのシニア・リサーチ・アナリスト、ローレン・カーンは言う。
この大統領令は、保健福祉省やその他の省庁に対し、AIの使用に関する明確な安全基準を作り、AIツールの購入を容易にするためのシステムを合理化するよう指示している。労働省と国家経済会議に対しては、AIが労働市場に与える影響を調査し、規制の可能性を検討するよう命じている。また、AIツールに使用されているアルゴリズムによる差別を防ぐため、家主、政府請負業者、連邦給付プログラムに対して明確なガイダンスを提供するよう各機関に求めている。
連邦取引委員会のリナ・カーン委員長はすでに、A.I.の監視役としてより積極的に行動する意向を示している。しかし、ホワイトハウスの権限は限られており、指令の中には強制力のないものもある。例えば、消費者の個人データを保護するための内部ガイドラインを強化するよう各機関に求めているが、ホワイトハウスはデータ保護を完全に確保するためにはプライバシー保護法の必要性も認めている。イノベーションを奨励し、競争を強化するため、ホワイトハウスはF.T.C.に対し、消費者保護と独占禁止法違反の監視役としての役割を強化するよう要請する。しかし、ホワイトハウスには、独立機関であるFTCに規制を作るよう指示する権限はない。
貿易委員会のリナ・カーン委員長はすでに、AIの監視役としてより積極的に行動する意向を示している。7月、同委員会はChatGPTのメーカーであるOpenAIに対し、消費者のプライバシー侵害の可能性と、個人に関する虚偽の情報を広めたという告発を理由に調査を開始した。
「これらのツールは斬新ではあるが、既存の規則から免除されるものではない。FTCは、この新しい市場であっても、我々が管理する責任を負う法律を強力に執行する」と、カーン氏は5月にニューヨーク・タイムズ紙に寄稿した。
テック業界は規制を支持すると述べているが、政府による監視のレベルについては各社で意見が分かれている。マイクロソフト、OpenAI、グーグル、メタは、第三者にシステムの脆弱性をストレステストしてもらうなど、自主的な安全性とセキュリティの約束に合意した15社のうちの1社である。
バイデン氏は、AIが医療や気候変動研究に役立つ機会を支援する一方で、悪用から守るためのガードレールを設ける規制を求めた。彼は、AIのリーダーシップをめぐる世界的な競争において、規制と米国企業への支援のバランスをとる必要性を強調している。この目的のため、今回の大統領令は、高度な技術を持つ移民や、AIの専門知識を持つ非移民が米国で就学・就労するためのビザ手続きを合理化するよう、各省庁に指示している。

米国オフィスの Koji に訊いてみました。

Koji ― 日経の記事を見ると「アメリカ国内産業を規制する」というふうにしか見えませんでしたが、NewYorkTimes（NYT）を見る限りでは、ちょっと違うかなと。（もっとも、情報が少なすぎてどこまでやるのかは不明ですが）以下がポイントではないかと読んでおります。

・米国は新たな法律の草案を作成している。「欧州連合（EU）や、規制案を発表している中国やイスラエルなどの他の国々に遅れをとっている」という表現があるがNYTが「米国内の遅れ」という論調を煽っている。

・大統領選挙が近いため、ディープフェイクを警戒している

・大統領による宣言は直接の権限はないが「連邦政府の財布の紐」の力を使うことで、政府の顧客が基準を遵守するよう企業に強制することを目的としている。

・一般向けサービスへの影響は「クラウド」に関する言及があり、これは本来であればその企業が所属する州法や利用規約によって定められるものであり、急激な「国としての対応」という捉え方をするのは危ない。

要素としてはどんな要素が言及されているか？

兵器化のテストおよび報告
高度なAI企業は、それが生物学的または核兵器の製造に使用できないことを確認するための徹底的なテストを行い、その結果を連邦政府に報告する必要があるとのこと。対象は、LLMとかエンジンを開発企業ということではないかと。日本企業だとIoT機器、ドローンの兵器転用などは注意すべき要素になるかもしれません。

輸出制限
特定の国への先進的なAI技術の輸出が制限される可能性がある。上記の記事にあった国名は明確に標的にされており、グローバルなAI利用サービス提供社は、そういう国と取引をしないという規制も将来的に設定される可能性がある。

クラウドサービスの開示
クラウドサービスを提供する企業は、外国の顧客に関する情報を政府に報告する必要がある。これもどこまでが対象になるのかこの記事では不明ですが、上記の輸出制限と関連して、各ビッグテックに対する税金の扱いや利用規約などで制限されていく可能性があります。日本の場合は、例えば生成AIを利用している反社会的勢力などが直接影響を受ける可能性がありますね。

AI生成コンテンツのウォーターマーキング
（必須ではないということですが）AIシステムによって生成された写真、ビデオ、およびオーディオにはAIによって作成されたことを示すウォーターマークを付けることが推奨されるとのことです。研究レベルではたくさんの技術が提案されており、AdobeやMicrosoftのような一社だけではなく、オープンソースなどで標準化が模索されています。

未来の規制への適応
連邦政府がAIシステムに対する明確な安全基準およびその他の規制を開発するにつれて、企業はこれらの変化に適応し、遵守していることを確認する必要が出てくるでしょう。具体的に何をさせられるのかは不明ですが、指針が出て、規制対応ということになれば、これは対応するしかなくなります。

差別の排除
AIツールで使用されるアルゴリズムによって、差別(discrimination)を防ぐための明確な指針が求められるとのこと。例えば画像生成AIで「犯罪者」を生成した場合にどんな人種が出てくるか、といった例でしょうか。これは法的規制に関わらず注意が必要な事項ですが、非常に難しい要素を含んでいます。

いずれもOpenAIとかGoogle、StabilityAIといった生成AIのエンジンを提供する企業が、主たる規制の対象になるのではないかと想像します。一方、それを活用する企業に対しては、どこまで規制するのかは不明です。具体的な指針が出てくるのを待つしかない状態です。これは大統領令なので、議会で取り消し（上書き）されたり、裁判所で無効にされる可能性はあります。この記事の読みどころとしては「議会の動きよりは早い」という点が重要。つまり、規制と言いながらも、国内産業を抑え込む、という狙いではない、と見ています。
なぜ今のタイミングなのかという話ですね。むしろ大統領選挙が近いため、ディープフェイクを警戒している可能性も読み取れます。安全保障面とか国家保護の色合いが濃く、読み手に警戒を発しているようにも読み取れます。具体的な国名として中国、イスラエル、EUを挙げて、アメリカの競争力を高めることを狙っているように見えます。

日本から見るとアメリカ一強にみえる生成AIですが、覇権を争っている中国や、中東、そしてEUの動向に対して、ビッグテックを政府調達を通して、手綱をつけようとしているということかもしれませんね。

Kojiさんありがとうございました。
AICU社では今後も、米国からみた生成AIの社会面を扱っていきたいと思います！