Appleがアプリ審査で狙い撃ちにした「ヌード生成」と「あとだし機能」とは何か。App Storeの新ルールを読み解く

まず初めに

考えてもみてほしい。審査担当者の前では「写真を上手に編集できる便利アプリです」という清楚な顔をして審査に通り、OKが出た瞬間に牙を剥いて本人の同意なんて知らない生成機能を実装する——これが「あとだし」と呼ばれる手口だ。ルールの行間を読む限り、Appleの審査チームはこの手の猫をかぶったアプリにずいぶん手こずらされてきたのだろう。だからこそ、今回わざわざ「お前らのことだぞ」と名指しするルールを追加する羽目になった。ズルを完全に防げるルールなど存在しないが、少なくとも「知らなかった」で逃げる余地は、これでまた一つ狭くなったはずだ。※個人の感想です

何が起きているのか

Appleは2026年10月16日、App Store審査ガイドラインの更新を公式サイトで発表しました。発表文では、App Storeでは以前からポルノぽるの的な素材が禁止されており、これには実在する個人の同意なく性的な画像やヌードを生成する「nudification(ヌード生成)」アプリも含まれるとしています。また、利用者が投稿した内容(UGC)を扱うアプリには、問題のある内容をフィルタリングする仕組み、利用者が不適切な内容を報告する手段、迷惑な利用者をブロックする手段を用意することが求められています。

今回新たに明確化されたのが、審査を欺く「隠し機能」への対応です。Appleは、アプリが審査の過程で自らの目的を偽り、承認された後になって初めて有害な機能(nudificationを名指し)を明らかにする手口を「あとだし(bait-and-switch)」と呼び、これを禁止対象として扱ってきたとしています。発表された具体的な変更点は次の3つです。

1点目は、ルール1.2です。コンテンツモデレーション(内容の監視・管理)の要件が、AIツールを使って生成されたものを含む「本人の同意のない性的な画像」を、アプリが積極的に防止・削除すべき対象として明示的に含めると改められました。十分な対策を実装しない、または通知を受けても違反を改めない開発者は、Developer Code of Conduct(開発者行動規範)違反として、App Storeから除名されるリスクがあるとしています。2点目は、ルール2.5.19です。審査時にアプリの目的や機能を偽り、承認後に提出版になかった機能を追加したり、隠していた機能を有効化したりする審査逃れを禁じる、既存の方針を明確化する内容です。通常の審査を受けるアップデート一般を禁止するものではありません。該当した場合、App Storeからの削除とApple Developer Programからの除名の対象になるとしています。3点目は、Section 5です。人身売買や児童の性的搾取(児童性的虐待物を含む)を助長するアプリについて、従来からApp Storeで禁止・削除の対象でしたが、今回の更新でSection 5の規定が明確化され、該当するアプリはApp Storeからの削除に加えて、代替配信だいたい はいしん(alternative distribution、EUなどで義務化されている、App Store以外の経路でのアプリ配布)からも遮断されると明記されました。

Appleは発表の中で、昨年1年間の実績として、安全上の問題があるアプリ15万件超が利用者に届く前に阻止されたこと、不正・悪用に関わった開発者アカウント19万3000件超が停止されたことを紹介しています。発表文は、これらの違反の背景には悪意のある行為者(場合によっては組織的な詐欺グループ)がおり、承認後にだけ有害な内容が動き出すよう手口を隠す形で巧妙化していると説明し、Apple側もそれに対応する形で検知の仕組みを進化させ続けているとしています。

なぜ重要なのか

今回の更新が重要なのは、AIで画像を生成する技術が広く使えるようになったことで、実在する人物の同意のない性的な画像をつくる被害が社会的な問題として各国で取り上げられるようになっている背景があるためです。プラットフォーム側であるAppleが、こうした画像を生成するアプリの存在を正面から名指しし、ルール上の対象として明文化したこと自体が、業界的な対応の一例として注目されます。

あわせて見過ごせないのが、審査逃れの手口そのものへの対応です。「承認時には無害なふりをして、後から機能を追加する」というbait-and-switchの手口は、App Store(あるいは類似の審査制度を持つ他社のストア)にとって本質的に対処が難しい問題です。一度きりの審査で全てを見抜くことはできないため、ルール上「審査で示さなかった機能を承認後に追加・有効化する審査逃れ」を違反として扱えるようにした今回の明確化は、今後似た手口を使うアプリを取り締まる際の根拠になります。

また、Section 5の更新で「App Store以外の配信経路(alternative distribution)からも遮断する」という一文が加わった点も重要です。EUのデジタル市場法(DMA)などにより、Appleは一部地域でApp Store以外の経路でのアプリ配布(代替ストアやサイドローディング)を認めるよう求められています。今回の更新は、仕組みそのものが広がる中でも、人身売買や児童性的搾取に関わる最も悪質なアプリについては、App Storeの審査を迂回する経路も含めて封じる姿勢を明確にしたものだと言えます。

私たちへの影響

今回の発表は開発者向けのルール変更であり、一般の利用者が設定を変えたり、何らかの操作をする必要はありません。既存のApp Store利用規約に基づく取り締まりの強化という位置づけで、スマートフォンの使い方が変わるものではありません。

一方で、こうした規制強化が必要になった背景には、AI生成画像による被害が実際に起きているという事実があります。発表文にあるとおり、利用者投稿型のアプリには「問題のある内容を報告する手段」「迷惑な利用者をブロックする手段」を用意することが求められています。もし身に覚えのない形で自分の画像を悪用されるようなアプリや投稿を見つけた場合は、該当アプリの報告機能や、App Store内の「アプリを報告」機能を使って通報できることを知っておくとよいでしょう。

初心者が知っておくべきこと

「nudification(ヌード生成)」とは、実在する人物の写真を元に、本人の同意なく性的な画像を生成する行為やそのためのアプリ・サービスを指す言葉です。AIによる画像生成技術の精度が上がったことで、こうした悪用が技術的に容易になり、社会問題として各国で取り上げられるようになっています。

「bait-and-switch(あとだし)」とは、もともと商取引で「おとりの条件で引き寄せ、後から条件を変える」手口を指す言葉ですが、アプリ審査の文脈では「審査中は実態を隠し、承認後に提出版になかった機能を追加したり、隠した機能を有効化したりする」手口を指して使われています。Appleの審査(App Review)は、提出されたアプリの内容を人間の審査担当者と自動化された仕組みの両方で確認する制度ですが、提出時と公開後で挙動を変えるアプリに対しては、一度の審査だけでは見抜きにくいという弱点があり、今回のルール明確化はこの弱点を補うための対応だと理解できます。

Q. 自分が使っているアプリがこのルール変更の影響を受けることはありますか。 A. 発表の内容は開発者向けのガイドライン更新であり、ルールに違反していないアプリであれば、利用者側に影響はありません。発表文では、違反したアプリや開発者アカウントがApp Storeから削除・停止される対象になるとされています。

IT Postの見方――「あとだし」業者に、やっと正式な指名手配書が回った話

IT Postは、今回の更新を「遅ればせながら、ようやく正面から名指しした」という受け止め方をしている。これまでもApp Storeの規約にはポルノ的なコンテンツの禁止規定があったはずなのに、わざわざ「AIが生成した画像も対象だ」「審査時に目的や機能を偽り、承認後に機能を追加・有効化する審査逃れが違反だ」と明文化しなければならなかったということは、裏を返せば、そこを突いてくるズルい業者がそれなりの数いたという証拠でもある。審査担当者たちがどれだけ「このアプリ、何か隠してない?」と疑いながら日々の審査をこなしてきたかを想像すると、今回のルール追加は彼らにとっての実務上の勝利と言っていい。

もっとも、IT Postはこれで一安心とは思わない。ルールを一つ具体化すれば、業者側はまた別の言い回し、別の手口で網をすり抜けようとするのが、この種のイタチごっこの基本構造だ。昨年の摘発件数(安全上の問題があるアプリ15万件超、不正な開発者アカウント19万3000件超)という数字の大きさは、Appleの対応力の高さを示す一方で、それだけの数の「ズルをしようとする側」が存在し続けているという裏の事実でもある。名指しされた側がどう動くかを、IT Postは今後も見ていきたい。※個人の感想です

今後どうなりそうか

Appleは今回の発表時点で、ルール変更後の摘発件数の推移や、EUなど代替配信が認められている地域での運用実態について、具体的な言及をしていません。IT Postでは、関連する続報が確認され次第、あらためて取り上げます。