ChatGPTの利用者が入力した実際の会話を、契約社員が読んで返信の出来を採点していた──米国のテックメディア404 Mediaが2026年9月14日、そんな実態を報じた。社内では「Project Lily」と呼ばれているという。

利用規約の奥に書かれた一文ではなく、数百人規模の外部の人間が、日々の会話を実際に読んでいるという話である。しかも、その人材を仲介している会社は、5カ月前に自身が大規模な情報漏えいを起こし、いまも複数の訴訟を抱えている当事者でもある。

⚠ 情報の鮮度について
一次情報は米国のテックメディア404 Mediaによる調査報道（2026年9月14日公開）です。同日中にTechRepublicやTom's Hardwareなど複数の海外メディアが詳細を伝え、9月15日にはMalwarebytesが対処法の記事を出しています。本記事公開時点で一次報道から約2日が経過しています。
Section 01

「Project Lily」とは何か

404 Mediaが入手した内部資料によれば、ChatGPTの回答の質を改善する目的で、実際のユーザーの会話を読む契約社員が数百人規模で雇われている。作業は3段階に分かれるという。ユーザーの入力内容を読む、その人が何を求めていたかを要約する、そのうえでChatGPTが返した複数の候補を比べて採点する、という流れだ。

採点は1〜7の段階で行われ、報道では1点が「使い物にならない水準」、7点が「これ以上ほとんど改善のしようがない水準」に相当すると伝えられている（※観測。一次資料は有料会員限定のため、複数媒体の伝聞にとどまる）。狙われている改善点は具体的で、迎合的すぎる返答（過度な同調）を減らすこと、絵文字の多用を控えること、機械的で「いかにもAIらしい」言い回しを減らし、より抑制されたプロフェッショナルな言葉づかいにすることだという。

50ドル+ 契約社員の時給（報道による）
1〜7 回答を採点する段階
数百人 レビューに関わる契約社員の規模
一言でまとめると──ChatGPTに入力した会話は、モデルだけでなく人にも読まれている場合があります。しかも、それを担う契約社員は、外部の仲介会社を通じて集められています。
Section 02

誰が、どうやって読んでいるのか

この作業を担う契約社員は、OpenAIが直接雇っているわけではない。Crossing Hurdlesという会社が人材を集め、実際の契約と支払いはAIトレーニング企業のMercorが行っている。404 Mediaに対し、ある作業者は「自分の会話を、どこかの契約社員が分析しているとは、ユーザーは想像していないと思う」と話したという。

OpenAIの側も、この仕組み自体は否定していない。404 Mediaの取材に対し、会話が契約社員に届く前に自社の「プライバシーフィルター」で個人情報を取り除こうとしていると説明した一方で、次のようにも認めている。

OpenAIは、会話が契約社員に届く前に個人情報を取り除こうと試みているが、機微な情報がそれでもすり抜ける場合があることを認めている。

— 404 Media（2026年9月14日）より

報道によれば、作業ガイドの一部には、会話の中に個人情報を見つけた場合はその作業を上に報告するよう契約社員に指示する記述もあるという。裏を返せば、フィルターをすり抜けた個人情報は、機械ではなく人の目に触れて初めて対処される設計だということでもある。

01
読まれているのはChatGPTだけではない

TechRepublicの報道では、AnthropicやGoogleのGeminiも同様の人力レビューを行っているとされる（※観測。本記事では独自の裏取りはしていない）。程度や運用は各社で異なるが、「人が読む」こと自体は業界で珍しくない。

02
仲介先は一社ではない

Mercorのような人材・データ委託企業は、複数のAI企業から同種の業務を請け負っている。1社の情報管理の甘さが、利用者の知らないところで複数社のリスクにつながりうる構造がある。

03
設定への気づきやすさが分かれ目

同じ「既定でオン」でも、その設定に利用者がどれだけ気づきやすいかは各社で異なる。この違いは第4章で整理する。

Section 03

このレビュー網には、すでに一度事故がある

今回の報道でとりわけ気になるのは、契約社員への支払いを担うMercorという会社そのものの経歴だ。この会社は2026年4月、すでに一度大規模な情報漏えいを起こしている。

2026年4月

Mercorが情報漏えいを起こすオープンソースのLiteLLMの脆弱性を突いた攻撃を受け、社会保障番号や生体情報、面接の録画データなどを含む大量の情報が流出したと報じられた。Lapsus$を名乗るグループが関与を主張し、盗んだデータを闇市場で取引したとされる。Metaはこれを受けて同社との業務委託を停止した。

2026年4月以降

契約社員らが相次いで提訴個人情報が適切に保護されていなかったとして、Mercorを相手取った集団訴訟が連邦裁判所に複数起こされた。原告側は、必要な安全管理を怠ったなどと主張している。

2026年9月14日

「Project Lily」の実態が報じられるそのMercorが仲介する契約社員が、実際のChatGPT利用者の会話を読んで採点していたと404 Mediaが報じた。

ⓘ 漏えいと今回の報道は別の出来事です
4月の情報漏えいで流出したのは、主にMercor自身が抱える契約社員の個人情報や、AI各社の学習手法に関する内部資料で、ChatGPT利用者の会話そのものが流出したという報道は今のところありません。ここで注目すべきは、情報管理に一度問題を起こした会社が、いまも利用者の機微な会話を扱う仲介役を続けているという構造そのものです。
Section 04

ChatGPTとClaudeで、学習データの扱いはどう違うのか

ChatGPTもClaudeも、現在は会話を学習に使う設定が既定で「オン」になっている点は共通している。違うのは、その既定に利用者がどう向き合わされるかのほうだ。

比較項目 ChatGPT Claude
既定の設定 無料・Plus・Proのいずれも、学習への協力が既定でオン 無料・Pro・Maxのいずれも、2025年8月の規約変更以降は既定でオン
利用者への提示のされ方 設定画面の奥にあり、自分で探さない限り目にしにくい ログイン時にポップアップで提示され、選ばないとサービスを使い続けられない
オフにした場合 以後の会話は学習に使われなくなる 新規の会話に加え、過去の会話も今後の学習対象から外れる
それでも人が見る場合 不正利用の調査・サポート対応・法的な要請への対応 安全性の観点でフラグが付いた会話への対応

Anthropicは2025年8月28日、無料・Pro・Maxプランの利用者に学習利用の可否を選ばせる規約変更を発表し、公式発表では2025年10月8日までに選ばなければClaudeを使い続けられなくなるとしていた。ポップアップの初期状態は「協力する」側になっており、外すには利用者自身がトグルを操作する必要がある。ChatGPTを何も設定を変えずに使っている場合も、Claudeでポップアップをそのまま承諾した場合も、今回報じられたような人力レビューの対象に入っている可能性がある。

Section 05

今すぐ確認できること

💡 学習利用をオフにする手順
ChatGPTでは、画面右上のプロフィールアイコンから「設定」→「データ コントロール」と進み、「すべての人のためにモデルを改善する」をオフにします。Claudeでは「設定」→「プライバシー」と進み、「Help improve Claude（Claudeの改善にご協力ください）」をオフにすると、新規の会話に加えて過去の会話も今後の学習対象から外れます。どちらの設定も、不正利用対策や法的対応のための確認までは止められない点に注意してください。
⚠ 設定を変えても消えないもの
学習利用をオフにしても、会話の保存自体が止まるわけではありません。サポート対応や法的な要請があれば、設定にかかわらず人が確認する場合があります。本当に見られたくない内容は、そもそも入力しないという判断も、選択肢の一つです。
Section 06

編集部の見立て

Editor's Opinion

今回の件で驚くべきなのは、人がAIの回答を読んでいたこと自体ではないと考えます。地道な人力レビューは、どの会社のAIでも品質改善に欠かせない工程です。むしろ気になるのは、そのレビューを支える仲介会社が、5カ月前に一度情報管理で失敗し、いまも訴訟を抱えたままだという点です。

AIの安全性というと、モデル自体の暴走や誤答にばかり目が向きがちです。しかし今回の話は、モデルの外側、つまり「誰が、どの会社を通じて、あなたの会話に触れているか」という、表からは見えにくい論点を思い出させます。この観点は、AIを選ぶときにモデルの賢さと同じくらい確かめる価値があると考えます。

ChatGPTとClaudeがどちらも既定で「学習に協力する」側から始まっていたことも、示唆的です。それでもAnthropicがログイン時のポップアップで選択を迫った一方、OpenAIは設定画面の奥に置いたままだったという提示の仕方の違いは、その会社が利用者にどこまで気づいてほしいと考えているかの表れでもあります。

設定画面をいますぐ開き、自分がどちらの状態で使っているかを確かめてみてください。今回、読者にできる具体的な行動はそれに尽きます。

Section 07

まとめ

2026年9月14日、米国のテックメディア404 Mediaが、OpenAIが「Project Lily」と呼ぶ社内プロジェクトで、数百人規模の契約社員が実際のChatGPTユーザーの会話を読み、回答を1〜7段階で採点していたと報じました。契約社員はCrossing HurdlesとMercorという仲介会社を通じて集められ、時給50ドル超で働いているとされます。

OpenAIはプライバシーフィルターで個人情報を除去しようとしていると説明する一方、機微な情報がすり抜ける場合があることも認めています。加えて、支払いを担うMercorは2026年4月に大規模な情報漏えいを起こし、いまも複数の集団訴訟を抱えている会社でもあります。

ChatGPTもClaudeも、学習への協力は現在いずれも既定でオンになっています。違うのは提示のされ方で、Claudeはログイン時のポップアップで選択を迫るのに対し、ChatGPTは設定画面の奥に置かれたままです。報道ではAnthropicやGoogleのGeminiも同様の人力レビューを行っているとされています。気になる場合は、それぞれの設定画面から「モデルの改善への協力」の項目を確認してください。

このレビュー網の運用がどこまで見直されるのか、そして情報漏えいを起こした仲介会社への依存がいつまで続くのか。8月にはChatGPTの入力内容がMeta・Googleに渡っていたとする集団訴訟も伝えましたが、ChatGPTを巡るプライバシーの論点は今回で終わりではなさそうです。