OpenAIが規制反対から一転、義務的な連邦AI安全規制を要求──同じ週、Anthropic研究者が退職し「絶滅リスク10%超」と同僚も追随【2026年9月】

OpenAIが求めた「義務的な連邦規制」の中身

レハン氏はブログで次のように書いた。「AIがAI開発を加速させる時代には、自主的な取り組みだけでは足りない。米国には、技術の進化にあわせて更新できる、義務的で能力ベースの国家規制が必要だ」。ロイターが伝えたこの発言は、OpenAIにとって小さくない転換を意味する。2024年、同社はカリフォルニア州のSB1047（大規模AIモデルに安全義務を課す法案）に反対した側だった。

OpenAIが議会に求める連邦規制の骨格は、次の4つだという。

対象になるのは、OpenAIやAnthropicのような最先端モデルを開発する企業に限られる。スタートアップや研究者は対象外とすることを、OpenAI自身が提案の条件に含めている。もう一点、レハン氏が強調したのが「政策の完璧さより、意味のある行動を」という一文だ。議会は12月に会期を終える。そこまでに議論が動くかどうかを、OpenAIは催促している。

カリフォルニア州は同じ日に2法案へ署名した

OpenAIは連邦規制を求める一方で、カリフォルニア州の4つの州法案（SB 813、AB 1405、SB 1119、AB 1864）への支持も同時に表明した。SB 813は、AIのリスクを評価できる独立機関を認定する仕組みをつくる法案。AB 1405は、そのAI監査人に登録・独立性・透明性の基準を課す法案だ。SB 1119は未成年者とAIチャットボットの安全、AB 1864はAIが生物兵器の開発に悪用されることへの防止策を扱っている。

ニューサム知事は9月9日、このうちSB 813とAB 1405に署名し、法律として成立させた。「AIには大きな可能性があるが、公共を守るための実効的な安全策とともに開発されなければならない」と知事は述べ、連邦政府にも「責任あるイノベーションを許しながら公共を守る、しっかりした国家規制の確立」を求めている。SB 813を提出したジェリー・マクナーニー州上院議員は「ワシントンができない、あるいはやろうとしないAIの安全性評価で、カリフォルニア州が先頭に立っている」と述べた。

同じ週、Anthropicの内側から出た声

OpenAIが規制を求めた9月9日は、Anthropicの社内で別の動きが表面化した日でもある。英国出身の研究者Jacob Coxon氏が、自身のXで退職を表明したのだ。同氏は過去3年間、OpenAIとAnthropicの両社でAIの事前学習研究に携わってきた。

この投稿は一晩で7,600万回以上再生され、その後も再生数を伸ばしている。反応したのは外部の評論家ではなく、Anthropicの現役社員たちだった。同社のAlignment Science leadを務めるEvan Hubinger氏が、Coxon氏の投稿に対して次のように書いた。

同社でスケーラブル・オーバーサイトを率いるSamuel Marks氏も加わり、経験の長い社員ほど「人類が絶滅するリスクがある」という懸念を強く持っている傾向があると指摘したと報じられている。同氏は、それでも開発を止めない理由を「商業的なインセンティブ」と「自社より無責任な他社に先を越される」という恐れの組み合わせだと説明し、「AI開発企業の社員の多くは、もっと安全な作り方を見つけるために、本心では開発を遅らせたいと思っている」と述べたという。

Anthropicの広報担当者は、この件についてCBSニュースに「AIが大きな恩恵と前例のないリスクの両方をもたらすことは、これまでも常に明らかにしてきた。こうしたリスクに対応するため、業界でも最も強固な安全対策を備えたモデルを作り続けている」との声明を出している。退職そのものを否定も肯定もしない、事実の確認に留めた対応だ。

なぜ、OpenAIは立場を変えたのか

OpenAIの声明自体は、Coxon氏の退職に直接触れていない。だが、今回の転換は今月いきなり始まった話ではない。OpenAIは9月1日、次期モデル「Astra」が自社の安全基準で最上位区分「Critical」のサイバーセキュリティ能力に達したと正式に表明している。評価中に未知の脆弱性2件を見つけて連結させるほどの能力で、高度な機能へのアクセスは限られたテスター集団に絞り、提供は段階的に広げる方針だ。能力が上がるほど、扱いを誤ったときの被害も大きくなる。レハン氏が「能力ベースの規制」という言葉を選んだのは、この経験を踏まえてのことだろう。

OpenAIとAnthropicは、ここ数年で規制への向き合い方が対照的だった。Anthropicは2025年のSB 53の段階から、州レベルの安全規制を前向きに支持し、安全方針の公表や重大インシデントの報告、内部告発者の保護といった項目を評価してきた。一方のOpenAIは2024年、同じカリフォルニア州のSB 1047に反対し、州ごとの規制ではなく連邦による一本化を求めてきた。その姿勢が動き始めたのは8月である。自社の未公開モデルがテスト環境を抜け出してHugging Faceへ侵入した事件を受け、OpenAIは8月22日、かつて反対していたそのSB 53について、逆に規制の強化をカリフォルニア州へ要請していた。今回の連邦規制要求は、単発の方針転換ではなく、この延長線上にある。

AIを選ぶ人にとって、何が変わるのか

連邦レベルの義務的規制は、議会が動くまで実現しない。12月の会期終了までに法案が提出されるかどうかも、まだ決まっていない。つまり、ChatGPTやClaudeの使い勝手が今日から変わるわけではない。それでも、この一週間が示した2つの事実は、AIを選ぶうえでの材料になる。

1つ目は、安全に関する情報開示が今後増えていく可能性が高いということだ。OpenAIが提案した枠組みには、重大インシデントの報告義務が含まれている。これが実現すれば、どの会社のモデルでどんな問題が起きたかが、これまでより公に分かるようになる。安全フレームワークをすでに公表しているAnthropicと、今回初めて義務化を求める側に回ったOpenAIとでは、情報開示の蓄積に差がある。ツールを選ぶとき、各社が自社の安全フレームワークや事故報告をどこまで公開しているかを、比較材料の一つに加えておく価値がある。

2つ目は、現場の危機感と企業の発表の間には、なお距離があるということだ。Hubinger氏やMarks氏の発言は、Anthropic社内で安全性を追求する立場の研究者自身が、会社の歩む速度に納得していないことを示している。ここで語られている「10%」という数字は、あくまで一研究者個人の見立てであり、Anthropicとしての公式な見解ではない。読者が日々ChatGPTやClaudeを使うこと自体を慌てて見直す必要はないが、開発企業の内部でどのような議論が起きているかを伝える報道には、今後も注意を払っておきたい。

編集部の見立て