米下院のドン・ベイヤー議員(民主・バージニア州)、セーラ・ジェイコブス議員(民主・カリフォルニア州)、セレステ・マロイ議員(共和・ユタ州)の3人が11月19日、最先端のAIを作る企業に連邦の安全義務を課す法案「SAFE AI Act」の骨子を公表した。柱は、安全計画(セーフティ・フレームワーク)の公開と順守の義務づけ、商用公開の前に政府側が行う審査、そして危険が差し迫ったときに政府が対策を命じる権限である。
ChatGPT の OpenAI、Claude の Anthropic、Gemini の Google のような企業の安全管理を、これまでは各社が自分で決めて自分で採点してきた。骨子はそこに、外から確かめる仕組みを入れようとしている。ただし出てきたのは法案の条文ではなく2ページの概要で、議員たちは条文づくりのために意見を集めている段階だと説明している。公表から2日あまりたったいま、何が書かれていて、何がまだ書かれていないのかを整理しておく。
SAFE AI Actとは──3人の下院議員が出した2ページの骨子
正式名称は「Safe and Accountable Federal Evaluations of Artificial Intelligence Act」で、頭文字をとってSAFE AI Actと呼ぶ。直訳すれば「AIの安全で説明責任のある連邦評価法」になる。民主党の2人と共和党の1人による超党派の案で、発表文は「近く提出する法案」と位置づけている。
骨子の冒頭は、いまの状態を問題として書き出している。最先端のAIを作る企業は連邦政府の明確な指針の無いまま自社の安全ルールを作り、そのルールが守られているかを外部の誰も確かめられない。政府がモデルを止めることになっても、何を基準に止めるのかが透明でない。そしてAIが社内で次世代のAIづくりに使われる場面は外から見えにくいのに、すでに公共へのリスクを生みうることが示されている、という認識だ。
ジェイコブス議員は発表の中で、企業が自分たちのルールを書いている間に、そのモデルが試験環境を抜け出して他社のシステムに侵入している、と述べた。名指しはしていないが、OpenAIのモデルがHugging Faceに侵入した一連の事件を指していると読める(経緯はOpenAI公式報告書が明かすHugging Face侵害の全貌)。
安全計画は「出して守る」もの、一方的には緩められない
骨子の1つ目の柱は、安全計画の義務化である。計画には、各社が何を試験しているか、どの水準に達したら対策を発動するか、その対策が何かを書く。計画は(提出先は明記されていないが)提出したうえで公開し、企業が一方的に緩めることはできないとされた。
計画の最低要件を書くのは、商務省の「AI標準・イノベーションセンター(CAISI)」である。情報機関やエネルギー省(DOE)などと協力し、技術専門家の知見・標準・一般からの意見をもとに定めるという。CAISIは国立標準技術研究所(NIST)の中にある、AIの評価を担う連邦の部署だ。なお、NISTのサイトは9月29日の大統領令14434(連邦機関のサイトや報告書などで、法令上の用語を除き「AI」を「Super Intelligence」と言い換えるよう求めた命令)を受けて、この部署を「CAISSI」と表記するようになっている。骨子は旧来のCAISIの名で書いている。
ほかに、次の義務が並んでいる。
- AIによる研究開発の自動化の開示:AIによるほぼ自律的なAI研究開発がある場合、定められた方法で開示する。
- 事故の報告:開発企業は安全上の事故を報告しなければならない。誰でもCAISIに内密に事故を通報でき、評価者と開発企業は「深刻な被害が差し迫ったリスク」も報告する。
- 対象の調整:対象範囲・リスクの分野・要件は時間とともに見直せる。スタートアップと大学などの研究者は、原則として対象にしない。
審査するのは政府、審査役の報酬を企業は直接払えない
2つ目の柱は、安全計画を誰が確かめるかである。骨子は、監督を主に政府が担い、真に独立した評価者がそれを支える形を描いている。
政府のチームが開発企業ごとに安全計画を調べ、連邦の要件に合っているかを確かめる。政府が認定した第三者の検証機関も、認定された分野で適合性の評価を行えるが、最終的な権限は政府のチームが持つ。評価は商用公開の前、または社内で広く使い始める前に行い、AIによる研究開発の自動化も対象に入る。
骨子が細かく書き込んでいるのは、評価者の独立性である。
開発企業は評価者に直接お金を払わない。手数料を集めた基金から払う形にし、1社とその関連会社から入る額にも上限を設ける。
どの評価者がどの企業を見るかは、企業ではなくCAISIが資格にもとづいて割り当て、担当は定期的に交代させる。
開発企業と認定評価者の間で人が行き来する「回転ドア」を、利益相反の規定で制限する。
評価を受ける側が評価者を選び、報酬も払う形では、厳しい評価者ほど仕事を失う。骨子はこの構図を3つの方向から崩そうとしている。11月18日にカリフォルニア州が公表した報告書も外部の検証機関による常時の監督を求めていたが(カリフォルニア州のAI安全強化案)、SAFE AI Actは最終的な判断を政府のチームに残す点に重心がある。
止める権限、罰則、そして第三者への責任
3つ目の柱は執行である。骨子は「適正な手続きと透明性」を条件に、次の4点を挙げている。
| 項目 | 骨子に書かれている内容 |
|---|---|
| 緊急の権限 | 安全対策が不十分で、AIが深刻な被害の差し迫ったリスクをもたらすとき、政府は対策を命じられる。命令は速やかな司法審査の対象になる |
| 民事罰 | 安全計画への違反に科す。是正の機会と司法審査を設け、知りながら、または故意の違反は重くする。刑事事件として送致する手続きも含む |
| 第三者への責任 | AIが第三者に与えた、合理的に予見できる損害について、開発企業の責任を明確にする |
| 内部告発者の保護 | 対象企業の中で安全上の懸念を声に出した人を保護する |
緊急の権限は、骨子の言葉では「狭い」ものと限定されている。ジェイコブス議員は発表で、深刻で差し迫った危険があるときに危険なモデルを止めるための「的を絞った緊急権限」と説明した。政府が自由にモデルを止められるという意味ではなく、条件と裁判所のチェックが付いた権限として描かれている。
読者にとって見落とせないのは3行目だ。Bloomberg Governmentも、この案が「予見可能な損害」の責任の所在をはっきりさせる点を記事の冒頭で伝えている。AIの出力が原因で第三者に損害が出たとき、開発企業がどこまで責任を負うのかは、いま各地の訴訟で争われている論点でもある。
州法との関係──「床であって天井ではない」
この骨子が議会の議論の中で目を引くのは、州との関係の書き方である。骨子は、州は連邦の最低基準(床)より上の規制を形づくれると明記した。ジェイコブス議員は「床であって天井ではない」と述べ、マロイ議員もユタ州などが独自の安全策を設ける余地を残すと説明している。
これは、6月に別の超党派グループが示した「Great American AI Act」の討議用草案と対照的だ。Roll Callによれば、ジェイ・オバーノルト議員(共和・カリフォルニア州)とロリ・トレイハン議員(民主・マサチューセッツ州)らのこの草案は、AIモデルの開発を規制する州法を3年間止める内容だった。連邦の議論は、州に任せるか、州を止めるかで割れてきた。
| 案・制度 | 位置づけ | 州法との関係・事故報告 |
|---|---|---|
| SAFE AI Act(連邦・骨子) | 11月19日に骨子を公表、条文は未提出 | 連邦は最低基準。州はその上を規制できる。事故報告は義務だが期限の記載なし |
| Great American AI Act(連邦・草案) | 6月4日に討議用草案を公表 | モデル開発を規制する州法を3年間止める |
| カリフォルニア州の提言 | 11月18日に知事が報告書を公表、州議会への提言 | 重大事故の報告を今の15日から48時間へ縮める案 |
| ニューヨーク州RAISE法 | 成立済み、登録受付が11月に開始 | 2027年1月1日から重大事故を72時間以内に報告 |
州の側はすでに先に動いている。ニューヨーク州のRAISE法は登録受付が始まり(ニューヨーク州RAISE法の登録受付が始まる)、カリフォルニア州は司法長官がOpenAIを提訴したうえで、知事が規則の強化案を出した。SAFE AI Actが今の形で成立すれば、骨子の書き方からは、これらの州の規則は残り、その下に連邦の最低線が引かれる方向と読める。
ChatGPT・Claude・Geminiを選ぶ側に届くもの
まず確認しておくと、いまChatGPTやClaudeを使っている人の契約や料金が、この骨子で変わることはない。対象は開発企業の安全管理で、条文もまだ無い。そのうえで、成立した場合に使う側へ届きうるものを分けておく。
商用公開の前に政府側の評価を通す形になれば、新モデルの公開と審査の順番が固定される。審査にどれだけ時間がかかるかは、骨子には書かれていない。
安全計画は提出して公開するものになり、最低要件も共通になる。企業ごとに書き方がばらばらな今より、各社の線引きを並べて比べやすくなる。
開発企業に事故の報告義務がかかり、誰でもCAISIに通報できる。報告の内容がどこまで公表されるかは骨子では分からない。
法人でAIを導入する立場なら、成立を待たずにできることが1つある。使っているAIの開発企業が公開している安全計画を開き、どの能力の水準で何の対策を取ると書いているかを一度読んでおくことだ。骨子が政府の最低要件をかけようとしているのは、まさにこの部分である。今の版を手元で読んでおけば、法律ができたあとに何が書き足されたのかを自分で比べられる。
なお、Anthropicが議会に非公開の連邦法案を打診したと報じられた10月の件のように、開発企業の側も連邦の規則づくりに関わろうとしている。条文が出てくる段階で、各社がこの骨子のどこに賛成し、どこに反対するかは、各社の安全への構えを測る材料になる。
骨子に書かれていないこと
2ページの骨子は方向を示すもので、条文で決まる数字はほとんど入っていない。読むときは、次の点がまだ空欄であることを押さえておきたい。
- 対象になる「最先端の開発企業」の定義:計算量や売上のしきい値は書かれていない。スタートアップと研究者を「原則として」外すとあるだけだ。
- 事故報告の期限:報告の義務はあるが、何時間・何日以内かは書かれていない。カリフォルニア州の48時間案やニューヨーク州の72時間と比べられるのは、条文が出てからになる。
- 罰金の額:民事罰を科すとあるが、金額や上限は無い。
- 提出の時期と法案番号:発表は「近く提出する法案」としているだけで、日付は示していない。
現在、私たちは、条文づくりに向けて専門家や安全分野の第一人者から意見を集め続けており、管轄する委員会とも調整している。この設計図を今日共有するのは、私たちの作業の方向を示し、議会が優先すべきだと私たちが考える課題について、さらに建設的な意見と議論を促すためだ。
つまり今回の公表は、意見を集めるための叩き台という性格が強い。骨子の段階で骨抜きになることもあれば、ここから項目が増えることもある。
編集部の見立て
この骨子でいちばん具体的に書き込まれているのが、評価者にお金を誰がどう払うかという部分だという点に注目しています。報酬は基金から、割り当てはCAISIが決め、担当は交代させ、人材の行き来も制限する。安全計画そのものより、それを確かめる人の独立性に紙幅が割かれています。評価される側が評価者を選んで報酬を払う仕組みの弱さは、金融の格付けや会計監査でも繰り返し問題になってきました。その教訓を最初から設計に入れようとしているように読めます。
一方で、期限も罰金の額も対象の線引きも空欄のままです。安全の規則は、数字が入る段階で業界との綱引きが本格化します。48時間なのか15日なのか、売上でいくら以上の企業が対象なのか。そこで骨子の性格が決まるので、今の時点で「厳しい法案」とも「緩い法案」とも言えないと考えています。
州法を止めずに連邦の床を敷くという書き方は、6月の草案とは逆の方向です。ChatGPTやClaudeを作る企業から見れば、州ごとの規則に加えて連邦の規則にも合わせることになり、負担は増えます。使う側から見れば、どの州の規則が先に効力を持ち、連邦の線がどこに引かれるのかで、各社の安全管理が外から見える度合いが変わってきそうです。
まとめ
2026年11月19日、米下院のベイヤー、ジェイコブス、マロイの3議員が、最先端のAIを作る企業に連邦の安全義務を課す「SAFE AI Act」の骨子を公表しました。2ページの概要で、法案の条文と法案番号はまだありません。
開発企業には安全計画の提出・公開・順守を義務づけ、一方的に緩めることを認めません。最低要件は商務省のCAISIが情報機関やエネルギー省と協力して定め、商用公開や社内での広い利用の前に政府のチームと認定評価者が審査します。評価者の報酬は企業が直接払わず基金から出し、割り当てはCAISIが決めて交代させます。
危険が差し迫れば政府が対策を命じられ(司法審査つき)、違反には民事罰、第三者への予見可能な損害には開発企業の責任を明確にし、内部告発者も保護します。連邦の規則は最低基準で、州はその上を規制できるとしています。
次に見るべきは、条文に入る最初の数字だ。事故報告の期限が何時間になるか、対象の企業をどの売上や計算量で区切るか。ニューヨーク州の72時間が2027年1月1日に動き出すとき、連邦の欄にまだ数字が無いのか、それとも並べて比べられる数字が入っているのか。