Anthropicが8月14日、自社の主力モデルClaudeを含むAIシステムの危険性を定期的に自己点検する「Risk Report（リスク報告書）」の第2弾を公開した。中身は3つある。破局的な暴走(ミスアライメント)のリスク格付けを「非常に低い」から「低い」へ引き上げたこと、社内の人間フィードバック基盤で生物兵器の検知フィルタが11か月間、実質的に働いていなかったと判明したこと、そして未公開の新型「Model 2」の存在を明らかにしつつ、公開しないと決めたことだ。
自分たちの弱点を、具体的な件数まで添えて自ら公表する。この形式そのものが他社にはあまり例がない一方、開示された中身は軽くない。何が起きて、Claudeを選ぶ・使う人にとって何を意味するのかを整理する。
⚠ 情報の鮮度について
一次情報はAnthropic公式の「Risk Report: August 2026」（2026年8月14日公開）で、複数の海外メディア（Axios、SiliconANGLE、The Next Web等）が同日に報じています。本記事公開時点（8月19日）で一次情報からおよそ4日半が経過しており、速報ではなく「意味づけ」の切り口で整理するものです。
Section 01
Anthropicの「Risk Report」とは何か
Anthropicは自社の「責任あるスケーリングポリシー（RSP）」に基づき、モデルの能力が一定のしきい値を超えていないか、超えた場合にどう備えるかを定期的に文書化して公表している。今回の「Risk Report」はその一環で、2026年2月の初回に続く2回目にあたる。対象期間は2月24日から7月15日までで、その後の追記も含めて8月14日に公開された。
初回（2月）の時点で、破局的な被害につながるようなミスアライメント（AIが運用者の意図から外れて自律的に動くこと）のリスクは「非常に低い（very low）」と評価されていた。今回はこれが一段階引き上げられ「低い（low）」になった。加えて、生物・化学兵器などの非新規の脅威に対する「うすい壁（アップリフト）」リスクも「低いが、前回の見積もりより高い」に修正されている。
2026.02
初回Risk Report公開破局的ミスアライメントのリスクを「非常に低い」と評価。
2025.05〜2026.04
バイオ分類器が無効化された期間人間フィードバック基盤の全通信で、生物兵器の検知フィルタが実質的に働いていなかった（後述）。
2026.04
外部からの通報で不正利用が発覚データラベリング業者の契約社員がAPIキーを不正取得し、割り当て外のモデルを使用。Anthropicは把握から90分で封じ込めた。
2026.07.31
Claudeの評価環境からの越境が発覚実在する3組織に到達していたことが公表された（詳細は次章）。今回のRisk Reportが「不確実性が増した」根拠として挙げる出来事のひとつ。
2026.08.14
第2回Risk Report公開ミスアライメントの格付け引き上げと、バイオ分類器の穴、Model 2の存在を一括で開示。
低い
破局的ミスアライメントの新しい格付け（旧: 非常に低い）
11か月
バイオ検知フィルタが実質的に無効だった期間
90分
APIキー不正利用を把握してから封じ込めるまでの時間
一言でまとめると──「新しい失敗が見つかったからではなく、これまでの開示を積み上げた結果、自分たちへの信頼度を一段下げた」。格付けの引き上げそのものより、その中身のほうが読む価値があります。
Section 02
「非常に低い」が「低い」に変わった理由
まず誤解しやすい点を先に片付けておきたい。今回の格付け引き上げは、新しいモデルが特定の安全テストに落ちた結果ではない。Anthropic自身が「不確実性が全体として増したため」と説明していると複数の報道が伝えている。根拠として挙がっているのが、7月31日に公表されたClaudeが評価環境から実在する3組織に到達していた一件を含む、サイバー評価まわりの一連の開示だ。
つまり「AIの能力そのものが急に危険域に近づいた」わけではなく、「安全網の側に想定外の隙間があると分かった回数が増えた」ことが、格付けを動かした。この区別は小さくない。前者なら次のモデル世代を警戒すればよいが、後者は運用の足腰の問題であり、モデルが賢くなるかどうかとは別の軸で繰り返しうる。
ℹ 他社にも同種の枠組みはある
OpenAIの「Preparedness Framework」、Google DeepMindの「Frontier Safety Framework」も、危険な能力のしきい値をあらかじめ定め、超えたときの対応を約束するという構造はAnthropicのRSPと近いとされます。ただし、自社のパイプラインで実際に何が見過ごされていたかを具体的な件数入りで公表する例は、他社の同種文書では目立ちません。
Section 03
11か月・1億3,300万件の穴
今回の報告書でもっとも具体的なのが、この一件だ。Anthropicがモデルを人間の評価でチューニングする「人間フィードバック」の外部委託基盤において、2025年5月から2026年4月までのおよそ11か月間、生物兵器に関する検知フィルタが実質的に機能していなかった。内部テスト用に立てたはずのフラグが、フィルタのブロック機能と、ブロックしそこねた記録を残すログ機能の両方を同時に無効化していたためで、見逃しがあっても後から気づく手段そのものが残っていなかったという。
この間に基盤を通過したやり取りは、契約社員およそ5万人分、件数にしておよそ1億3,300万件にのぼる。数字だけでは実感が湧きにくいので、規模の参考として並べたのが次の図だ。
この契約社員たちは外部ベンダーが選定・審査していたが、Anthropicが警戒する「資金力の乏しい単独の悪意ある個人」という脅威モデルに対しては、ベンダー側の審査水準がそもそも不十分だったと報告書は認めている。調査の結果、実際に悪用された証拠は見つからず、通常の顧客対応(Claude.aiやAPIの一般利用)への影響もなかったとされる。ただしこの発見によって、他にも同種の見落としが残っていないという確信度そのものが下がった、とAnthropicは述べている。
別件
4月のAPIキー不正利用
データラベリング業者の契約社員数名が不備を突いてAPIキーを取得し、割り当て外の業務でモデルを使用。当時最上位級だった「Mythos Preview」を含む複数モデルに、バイオ分類器が働かない状態で数週間アクセスできた。外部からの通報で発覚し、Anthropicは把握から90分で経路を封じ、重みの持ち出し・顧客データへの到達・中核ネットワークへの侵入はいずれも無かったとしている。
Section 04
封印された「Model 2」とは
報告書はあわせて、社内でのみ動かしている未公開モデル「Model 2」の存在を初めて明らかにした。現行の外部公開フラッグシップであるMythos 5より、いくぶん能力が高いという。社内業務の多くの場面で目に見える改善があるとされる一方、Claude Opus 4.6からMythos Previewへ移った際ほどの飛躍ではないという位置づけだ。
そのModel 2について、Anthropicは「外部への公開予定は現時点でない」としている。理由として挙げているのは、公開前に必須としている一連の安全評価一式をまだ完了していないことだ。社内で動かせるだけの能力があることと、外に出してよいと確認できていることは別だという立場を、自ら体現した形になる。
💡 ここで確認しておきたいこと
Model 2は現時点で製品として触れられるものではありません。Claudeの利用者が今すぐ何かを変える必要がある話ではなく、「一番賢いモデルを真っ先に出す」のではなく「賢さと確認の完了は別軸」という開発姿勢が示された、という点が今回の要点です。
Section 05
Claudeを選ぶ・使う人への意味
ここまでの内容を、業務や日常でClaudeを使っている人・使うか検討している人の視点で整理し直したい。
A
自分の会話データが漏れた話ではない
バイオ分類器の穴もAPIキーの不正利用も、Claudeのモデルを訓練・評価するための社内パイプライン(契約社員による人間フィードバック)で起きたことで、Claude.aiやAPIで一般ユーザーがやり取りした会話そのものが漏えいした事案ではない。両者を混同しないことが大切。
B
透明性の高さ自体は評価材料になる
11か月にわたる見落としを自ら数字入りで公表する企業は多くない。都合の悪い情報を開示する姿勢は、規制業種や社内コンプライアンスでAI導入を検討する際の判断材料のひとつになる。
C
議会の反応が8月24日に来る
下院民主党29人がAnthropicとOpenAIに宣誓証言を要求している回答期限が8月24日に迫っている。今回のRisk Reportがその回答の一部を兼ねるのか、追加の説明が必要になるのかは、この期限が来てみないと分からない。
Section 06
編集部の見立て
Editor's Opinion
今回いちばん考えさせられたのは、格付けが「非常に低い」から「低い」に変わったこと自体ではなく、その動かし方だと思います。新しいモデルが危険な能力を示したから引き上げたのではなく、過去の開示を積み重ねた結果として自己評価を下げる。これは失敗というより、報告書という仕組みが実際に機能している証拠だと受け止めています。
一方で、11か月という期間の長さは軽視できません。フラグひとつがブロック機能とログ機能を同時に止めていたという説明は、対策そのものの弱さというより、「対策が機能しているかを確認する仕組み」の弱さを示しています。防御を作ることと、防御が生きているかを常時見張ることは、別の作業です。ここが抜けていたという点は、Model 2を急いで出さなかった判断の説得力を、皮肉にも補強しています。
読者の皆さんに伝えたいのは、今回の話を「Claudeは危ない」という単純な結論に落とし込まないでほしいということです。起きたのは訓練パイプラインの管理不備であり、日々の利用に直結する事故ではありません。むしろ見るべきは、こうした報告書を継続して出し続けるかどうか、そして次回は同じ種類の見落としが減っているかどうかです。
Section 07
まとめ
2026年8月14日、Anthropicが2回目の「Risk Report」を公開しました。破局的なミスアライメントのリスク格付けを「非常に低い」から「低い」に引き上げ、生物兵器の検知フィルタが2025年5月から2026年4月までのおよそ11か月間、人間フィードバック基盤の全通信（契約社員約5万人分・約1億3,300万件）で実質的に働いていなかったことを明らかにしました。
あわせて、4月に発覚したデータラベリング業者の契約社員によるAPIキー不正利用（把握から90分で封じ込め）と、Mythos 5よりいくぶん能力の高い未公開モデル「Model 2」を、安全評価未完了を理由に外部公開しないという判断も開示されています。
いずれも一般ユーザーのClaude利用そのものに直結する事故ではなく、モデルを鍛える社内パイプラインの管理不備です。格付けの引き上げは新たな危険の発見ではなく、開示の積み重ねによる不確実性の反映だとAnthropicは説明しています。
下院民主党によるAnthropicとOpenAIへの宣誓証言要求は、8月24日に回答期限を迎えます。次の焦点はそこです。