OpenAI、法執行機関への通報は四半期で200件超。ChatGPTの未成年保護をさらに締め、安全報告は半年ごとの定期公表へ

まず初めに

AIチャットが「警察に通報される場所」になった、と聞くと物騒だが、今回の主役は事件そのものではなく数字の出し方である。四半期で200件超という通報件数を、OpenAIは自ら進んで表に出した。安全対策は「やっています」の一言で済ませがちな分野で、件数と報告の周期まで約束してしまうのは、なかなかの度胸だ。もちろん、数字を出す側が数字の定義も握っている、というお約束の留保は付く。それでも、出さない自由を捨てたことは評価していい。

※個人の感想です

何が発表されたのか

OpenAIは公式ブログ「Community safety report and new protections for teens」で、2つの発表を行いました。1つは、暴力防止をはじめとするコミュニティの安全に関する報告書「Community Safety Report」の立ち上げです。もう1つは、未成年（18歳未満）向けの銃器など武器関連コンテンツの制限強化を中心とする、ポリシーの境界線の引き直しです。

同社は、ChatGPTが世界で最も広く使われるAI製品の一つであり、潜在的な危害の検出、懸念のある活動の審査、信頼できる脅威へのエスカレーションに業界でも先進的なシステムを構築してきた、と説明しています。今回の発表は、その取り組みの透明性を高める位置付けです。

初めて出た数字——四半期で200件超の通報

公式ブログによると、OpenAIは切迫した暴力の脅威を法執行機関へ知らせる取り組みを行っており、2026年第3四半期には200件を超える通報を行いました。同社は、これらの通報が暴力的な計画の阻止に実際に役立っているとし、難しい事案の評価ではメンタルヘルスや行動科学の専門家の助言も得ているとしています。

この「200件超」は、同社の発表に基づく数字であり、国別の内訳や、その後に逮捕などへつながった件数が今回あわせて公表されたわけではありません。件数の受け止め方を考える手掛かりとして、同社が新設する定期報告が位置付けられています。

安全報告は半年ごと、初回は2027年初頭

Community Safety Reportは、暴力防止やその他のコミュニティの安全の問題、そして同社の安全対策がどれだけ機能しているかを扱う報告書です。公式ブログでは、システムが安全上の問題を検出・調査・対応するためにどう訓練されているかの説明、暴力に関連する危害が実際にどう現れるかの匿名化された事例、新しい緩和策やポリシー変更、そしてそれらを裏付ける関連データを含める方針が示されています。

初回の報告は2027年初頭に公表され、対象期間は2026年下半期です。その後は半年ごとに更新されます。「意味のある知見を共有する」というのが同社の言い方で、具体的な指標の中身は初回の報告を待つことになります。

全利用者向けの制限——過去の事件の「再構成」を締める

全利用者に適用される変更も発表されました。OpenAIのモデルは、暴力の計画や実行を助ける指示を出さないよう訓練されています。今回これに加えて、過去の大量襲撃事件とその実行者に関する質問への回答に、追加の制限が置かれます。他のオンライン情報源で入手できる内容であっても、ChatGPTはより詳細の少ない情報を提供する方向にモデルを誘導する、というものです。

制限の対象として挙げられたのは、過去の襲撃の詳細な再構成です。使用された武器や装備とその入手方法の詳細、加害者の名声を高めかねない危害の規模の詳細な比較などが含まれます。これは年齢や質問の理由を問わず適用されます。一方で、事件そのものを理解したい、被害者やコミュニティへの影響を知りたい、警告サインの見分け方や将来の暴力の防止を学びたい、といった問いへの回答は引き続き可能だとしています。

警告サインがある会話への対応——自動で会話を終える仕組みも

発表では、会話の文脈を使った対応も強化されます。同社は5月に、過去の警告サインの短い事実ベースの要約を使って、その後の会話でより慎重に応答する仕組みを公表していました。今回はこれを土台に、最近の会話に暴力の可能性を示す警告サインがある場合、悪用され得る情報を共有する場面で、より保守的に応答するようになります。さらに、18歳未満と予測される利用者については、警告サインが無くても、より厳しい制限を適用する方向です。

踏み込んだ仕組みとして、会話の中で誰かが暴力や他者への深刻な危害に固執している兆候が見られる場合、ChatGPTがその場で会話を自動的に終了できるようになる、としています。同じ理由で複数回の会話が終了した場合は、アカウントが一時的に停止されることもあるとのことです。暴力行為に関するポリシー違反と判断したアカウントの停止は既に行われており、専門家と連携して、より早期に介入する自動化の方法も開発中だとしています。

未成年向けの追加制限と、年齢予測の強化

18歳未満向けの「ChatGPT for Teens」には、年齢に応じた安全対策と、センシティブな内容への露出を減らす追加の制限が既に適用されています。今回は、未成年に提供する武器関連の情報をさらに制限し、一見無害に見える質問でも対象になる、と発表されました。

従来のポリシーでも、暴力の計画・実行の手助けは全利用者について禁止され、未成年が武器を見つけたり入手したりする手助けも制限されています。今回の拡張は、暴力を助長するために悪用され得る武器やセキュリティシステムに関する実践的な情報を、暴力の意図の兆候が無い場合でも制限する、というものです。なお、未成年でも、暴力の防止や鎮静化、支援を求めること、信頼できる大人につながることにChatGPTを使うことは引き続きできます。

振り分けの土台となる年齢予測については、行動パターンなどの複数のシグナルから18歳未満かどうかを推定する仕組みを昨年導入しており、今回は新しいシグナルを継続的に評価し、適切な場合に未成年向けの体験へ移すよう強化した、としています。誤って未成年向けに振り分けられた利用者は、年齢確認パートナーのPersonaを通じて、プライバシーに配慮した方法で成人であることを確認し、追加の保護を外すことができます。

保護者向けの仕組みでは、保護者が自分のChatGPTアカウントと子どものアカウントを連携し、安全設定を一緒に管理できます。専門の審査員が深刻な自傷の懸念や摂食障害に関連し得る行動を特定した場合に送られる安全アラートも含まれます。今年7月には、子どものアカウントが暴力に関する利用ポリシー違反で無効化された場合に保護者へ通知する拡張が行われました。今回の発表では、子どものアカウントが暴力を繰り返し話題にしたことで一時停止された場合にも、保護者へ通知する仕組みの導入に取り組んでいるとしています。

対策	対象	内容
過去の襲撃事件の詳細な再構成の制限	全利用者	武器・装備や入手方法の詳細、規模の詳細な比較などを絞る
警告サインがある場合の慎重な応答	全利用者（予測で18歳未満の場合はより厳格）	以前の会話の警告サインを踏まえ、悪用され得る情報の共有を保守的に
会話の自動終了と一時停止	全利用者	暴力への固執の兆候で会話を自動終了。繰り返すとアカウントの一時停止も
武器・セキュリティシステムの実践的情報の制限	18歳未満	意図の兆候が無く一見無害な質問でも制限。防止や支援の相談は引き続き可能
Community Safety Report	公表	初回は2027年初頭（対象は2026年下半期）、以降は半年ごと

IT Postの見方——「件数を出した」ことが一番のニュース

IT Postでは、今回の一番のニュースは制限の追加そのものではなく、通報件数という具体的な数字と、半年ごとの報告という周期を、会社側が自分から約束した点だと考えます。安全対策の発表は、どこの会社も「強化しました」で終わらせたがる。強化の中身を後から検証できる形——件数と定期報告——で出したのは、それだけで一歩前だ。

ただし、留保もはっきりしている。200件超という数字はOpenAI自身の集計であり、定義も分母も同社が握っている。四半期に何件の会話が審査対象になり、そのうち何割が通報に至ったのかは、初回の安全報告が出るまで分からない。自動で会話を終える仕組みや年齢予測は、誤作動した側の体験——何もしていないのに会話を切られる、成人なのに未成年扱いされる——をどこまで小さくできるかが実力の見せ所になる。年齢確認で外せる導線が用意されたのは良いが、「外せる」と「外す手間が軽い」は別の話だ。

※個人の感想です

今後どうなりそうか

発表された安全対策は、今後数週間かけて順次展開される予定です。焦点は3つあります。2027年初頭の初回Community Safety Reportに、通報件数の内訳や審査の規模など、検証可能な数字がどこまで載るか。会話の自動終了と年齢予測の誤判定が、実際の利用でどの程度起きるか。そして、保護者への一時停止通知がいつ実装されるか、です。

IT Postでは、続報が公表された場合は本記事を更新します。