Grok の画像生成機能「Grok Imagine」を、米ミネソタ州の「ヌード化」禁止法から守れるか──最初の実体審理が、2日後の8月19日に迫っている。同法が予定通り施行された8月1日時点の状況は前回の記事で伝えた通りだ。あれから2週間半、法廷の外では新たな訴訟が加わり、法廷の中では双方の主張書面がほぼ出そろった。
審理まで、あと2日
ミネソタ州の「ヌード化」禁止法HF1606は8月1日に予定通り施行された。Grokを開発するxAIが求めた緊急差し止め(TRO)は7月31日付でフランク判事に却下されている。ただし却下の理由は法律の中身ではなく「提訴のタイミングが遅すぎた」という手続き上の判断にとどまり、法律が第一修正(表現の自由)に違反するかどうかという本丸の審理は、まだ始まっていなかった。
その本丸の審理が、8月19日にセントポールの連邦地裁で開かれる。フランク判事はxAIの申立てを正式な仮処分(preliminary injunction)請求として扱うことを決め、双方に主張書面の提出期限を切った。ミネソタ州司法長官キース・エリソン氏の反対意見書は8月12日に提出済み、xAI側の反論書面の期限は本日8月17日である。
HF1606が施行Grok Imagineはミネソタ州向けに画像編集機能の制限を開始した(前回記事で既報)。
エリソン司法長官が反対意見書を提出仮処分に値する「回復不能な被害」をxAIは示せていないという趣旨の主張を展開した。
アーカンソー州で新たな連邦訴訟未成年を被写体にした性的な画像をGrokが生成したとして、同州西部地区連邦地裁に新たな訴えが起こされた。
xAIの反論書面の提出期限本記事公開日。エリソン氏の反対意見書への回答が期限を迎える。
仮処分審理HF1606の厳格責任という設計そのものが、第一修正の審査に初めて付される。
xAIの主張──「同意ありの1枚」も同じ罰金でいいのか
xAIが7月27日に提出した38ページの訴状は、州の目的そのものは否定していない。非同意の裸体加工画像が拡散する被害を防ぐというミネソタ州の利益は正当だと認めた上で、法律の作り方を問題にしている。争点は主にふたつだ。
本法は、非同意の裸体画像の拡散を防ぐという正当な利益と何のつながりも持たない、性的でなく・同意があり・拡散もされていない表現までも禁じている。
ひとつ目はセーフハーバー(安全港)の不在だ。利用規約でヌード化を明確に禁じ、最新の検知フィルターを導入し、実際に誤用をほぼゼロまで抑えていたとしても、HF1606のもとでは免責されない。ふたつ目は認識要件(scienter)の不在で、事業者側の故意や過失を一切問わない。xAIの主張によれば、本人の同意があり、しかも作成者本人しか見ていない1枚の画像と、世界中に拡散した画像とで、法律上の罰則が区別されない設計になっているという。
規約で禁止し、フィルターを入れていても、法律上の責任は免除されない。対策の有無が結果に反映されない設計だとxAIは主張する。
事業者が知っていたか・防げたかを問わない厳格責任。ユーザーの行為だけで、提供元の責任が自動的に発生する仕組みだという。
画像に何が写っているかを判断しないと法律を適用できない以上、これは内容に基づく規制であり、2015年のReed対Gilbert町最高裁判決に照らして厳格審査に服すべきだと主張する。
エリソン司法長官の反論
8月12日に提出されたエリソン氏の反対意見書は、法律の合憲性そのものを正面から論じるものではない。今回争われているのはあくまで仮処分を認めるべきかどうかという手続きの段階であり、エリソン氏の主張は「xAIが主張する被害は回復不能ではない」という一点に絞られている。
意見書の骨子は次の3つだ。第一に、xAI側が主張する経済的な不利益は金銭で補償可能であり、仮処分の要件である「回復不能な被害」に当たらない。第二に、xAIは製品の仕様を調整することで法律への抵触を避けられる立場にある。第三に、前回のTRO却下と同じく、提訴からここまでの動き方の遅さそのものが、被害の切迫性を欠くことを示している。
増え続ける訴訟──今月だけで新たに1件
ミネソタ州の一件と並行して、Grok Imagineを巡る訴訟は米英で増え続けている。最初の提訴を報じた時点から数えて、xAIは現在、米国内の複数の家族による訴訟と、英国下院議員による高等法院への申立てを含め、少なくとも6件の関連する法的措置に直面している。
8月13日には、アーカンソー州西部地区の連邦地裁に新たな訴訟が提起された。未成年を被写体にした性的な画像をGrokが生成したとする内容で、同州では7月にも同種の訴訟が起こされており、今回が2件目にあたる。いずれの訴訟も、AI生成の児童性的虐待コンテンツの疑いで訴追された地元の写真業者を発端としている。この写真業者は200件を超える罪状について無罪を主張しており、刑事手続きとは別に、被害者側からxAIへの民事訴訟が続いている構図だ。
画像生成AIを選ぶ人への意味
この一件がミネソタ州1州の話で終わらない理由は、規制の設計そのものが「テンプレート」になりうるからだ。テキサス州やカリフォルニア州の同種の法律は、事業者側の故意や認識を問う余地を残している。ミネソタ州が採ったセーフハーバーなしの厳格責任は、現時点で最も強い規制モデルであり、これが8月19日の審理で崩れずに残るなら、他州の議会が同じ設計を採用する呼び水になる可能性がある。
実務的な意味は明確だ。MidjourneyやChatGPTの画像生成機能も、実在の人物を性的に加工する用途は利用規約で一律に禁止している。ただしこれまでの規制は規約違反をしたユーザー個人を追うものが中心で、提供元の事業者が金銭的な責任を直接負う場面は限られていた。ミネソタ州の法律は、その責任の所在を提供元に移す最初の実例であり、同じアカウント・同じプランでも、居住する州や国によって使える編集機能が変わるという状況を今まさに作り出している。
編集部の見立て
今回の争いで見落とされがちなのは、xAIが州の目的そのものには反対していない点です。非同意の裸体画像の拡散を防ぐという利益を認めた上で、法律の「作り方」だけを問題にしている構図は、この訴訟が単純な規制賛成・反対の対立ではないことを示しています。争われているのは、悪意のあるユーザーとまじめに対策を講じた事業者を、法律が同じ扱いにしてよいのかという、もっと技術的な設計の問題です。
8月19日の審理が注目に値するのは、勝ち負けそのものより、判事がこの設計論にどう答えるかにあります。セーフハーバーなしの厳格責任が第一修正の審査を通るなら、他州の立法者にとって「この書き方でも通る」という前例になります。通らないなら、各州は認識要件や安全港を組み込んだ、より緩やかな設計に書き直さざるを得なくなるでしょう。どちらに転んでも、その結果は画像生成AI各社が今後どこまでの安全対策を「やっておけば免責される」設計として持つべきかに直結します。
読者にとっての実務的な変化は、すでに始まっています。同じサービスの同じプランでも、居住地によって使える機能が変わる場面は今後も増えるはずです。次に見るべきなのは、8月19日の法廷でフランク判事がこの技術的な設計論をどう評価するか、その一点です。
まとめ
ミネソタ州の「ヌード化」禁止法HF1606を巡るxAIの訴訟が、8月19日に最初の実体審理を迎えます。7月31日の緊急差し止め却下は手続き上の判断にとどまり、法律が第一修正に違反するかどうかという本丸の争いは、これから始まります。
xAIは、非同意の裸体画像拡散を防ぐという州の目的自体は認めつつ、セーフハーバーの不在と認識要件の不在という設計を問題視しています。対するミネソタ州司法長官エリソン氏は、8月12日の反対意見書でxAI側の「回復不能な被害」の主張を退けました。xAI側の反論書面の期限は本記事公開日の8月17日です。
この間、Grok Imagineを巡る訴訟は増え続けており、8月13日にはアーカンソー州で新たな連邦訴訟が提起されました。xAIが米英で抱える関連の法的措置は、少なくとも6件に上ります。
8月19日、セントポールの法廷で示される判断は、ミネソタ州だけでなく、画像生成AIの安全対策がどこまで法的な免責につながるのかという、業界全体の設計の分かれ目になります。