Metaが2026年10月7日に発表した広告安全対策は、単独の広告素材から、その周囲の経路へと審査単位を広げるものだ。同社は、一見普通でも児童の性的搾取コンテンツや関連する有害行為へ密かに誘導する広告を、新しいAIで検出するとしている。禁止された有料広告が繰り返し発見され、削除後に戻るキャンペーンも確認されたことが背景にある。
問われるのは、別のモデルが明白な違反画像を認識できるかだけではない。配信前に広告、遷移先、運営者を結び付けられるか、そして無関係な執行総数ではなく改善の証拠を示せるかだ。
5つの対策がキャンペーンの各段階を狙う
Metaは「signposting」専用の大規模言語モデルを説明した。単独では無害に見えるが、搾取へ密かに誘導する内容を指す。単語、記号、文脈は遷移先や広告主の行動と合わせると意味が変わる。モデルはキーワードだけでなく、その関係を認識することを目指す。
第2の対策は広告の遷移先情報を増やし、違反サイトと誘導アカウントへの措置につなげる。第3は既存広告をAIで再調査し、以前の対策が見逃した素材を探す。新しい回避パターンの発見に応じてシグナルを拡張する予定で、新規投稿の審査だけでなく遡及調査も含む。
第4は犯罪者が大規模に悪用する前に防御を探るレッドチーミングAIエージェント、第5は代替アカウントで戻る広告主の再犯検出強化だ。発見、遷移先への措置、過去の見逃し、防御テスト、再登場する運営者を分担する。ただしMetaは、新要素の再現率、誤検知率、独立した有効性試験を公表していない。
リンクをたどると問題が変わる
広告でMetaの利用者に接触し、禁止素材は外部サイトやアプリで提供する場合がある。審査者と利用者が別の内容を見る仕組みは、Metaが詐欺広告で調査するクローキングに似る。遷移先は状況や時間でも変わり、最初のページが適法に見えても全経路の安全性は確定しない。
遷移先審査はページとキャンペーンの関連を調べられるが、サービスの移動や挙動変更には限界がある。Metaによると、禁止素材を掲載・生成する外部サイトを遮断し、その住所を含む広告、投稿、コメントを検索する。遮断済みリンクの広告は投稿時に拒否されるべきだという。既知の住所の封じ込めと、誰かが遭遇する前に未知の有害な遷移先を識別することは異なる課題だ。
文脈分析は、Metaが2011年から使うPhotoDNAなどの照合技術を置き換えず補完する。デジタル指紋は既知のファイルやほぼ同じ複製に有用だが、普通の外観、新規生成素材、短時間の有害な場面が虐待の経路の一部かどうかは別問題になる。
MetaはTech CoalitionのLanternを通じ、一部の違反シグナルも共有する。経路はMeta、AppleやGoogleのアプリストア、民間サイト、メッセージ、決済・ドメインサービスにまたがり、仲介者の責任は異なる。Metaの利用者へのアクセスを断つことで集客を減らせても、基盤サービスをインターネットから除去することにはならない。
発表以前の失敗記録
Tech Transparency Project（TTP）は2025年末以降、350件超の虐待的な動画広告を発見したと報告した。最初のグループが2026年8月に注目を集めた後も、250件超の追加広告が配信され、一部はMetaが削除した素材を再利用したという。これは調査の経過を表す数値で、黙って足し合わせ、独立して重複除去した総数と主張すべきではない。
広告はFacebook、Instagram、Messenger、Threads、Metaの広い広告網に出た。研究者によれば、多くは同意のない親密な画像を生成できるAI画像・動画アプリを宣伝した。また4人の未成年者の画像を、公開SNS写真、ストック素材、欧州王室の人物の公式写真までさかのぼって特定した。合成出力でも、識別できる子どもへの被害がなくなるわけではない。
9月の調査は、EUで2万9,000超、英国で約7,000のアカウントへの到達を報告した。他の市場は広告件数で、米国250件超、豪州120件、インド80件だった。到達アカウントと広告数は別指標で、全市場に比較可能な表示回数があるわけではない。地域の広告数を足して世界の独立キャンペーン数とすることもできない。
Metaは、大半が200表示未満で、研究者が特定したグループからの収入は5,000ドル未満だったとした。TTPは、一部の通報済み広告が最長1週間表示され続け、その間も閲覧を増やしたと述べた。収入や表示が少なくても、有料広告が審査を通過した理由や、通報から削除までの時間は説明できない。
Metaは容認の示唆を否定する。広報担当者は児童搾取に積極的に対処し、指摘広告の多くを既に削除したと述べた。未成年者が短時間だけ、またはぼかされて映るため分類しにくい動画もあるという。広告規定は児童搾取・虐待・ヌードと、同意のない親密画像の生成サービスを禁止している。争点は書面の禁止の有無ではなく実行だ。
当局の説明要求は最終認定ではない
9月、サンフランシスコ市法務官David Chiuは停止通告書を送り、審査の失敗、再犯広告主、上位対応、児童安全当局への通報について情報を要求した。Metaは、当該広告が同市に到達したとデータで示されないとして管轄を疑問視した。要求も管轄上の異議も、それだけでは執行の事実を解決しない。
ミシガン、フロリダの当局者は報告を調べているとし、豪州eSafetyは情報を要求した。インドの児童権利当局は、同社プラットフォームの搾取素材をめぐる疑惑を受け、9月にMeta India幹部を召喚した。いずれも報道された調査・情報収集であり、10月のシステムの成功や失敗に関する最終的な法的認定ではない。
Metaは別途、2026年上半期にインドのFacebookとInstagramで530万件の児童性的搾取コンテンツへ措置を取り、98%超を先に発見したとする。これは会社申告の広範なコンテンツ執行指標で、広告検出の再現率でも、未知の有害リンクの指標でも、全違反の独立推計でもない。大量削除と、有料配信の継続的な穴は両立しうる。
削除、通報、人工調査は異なる役割
NCMECは、2023年1月から2025年12月に受理した画像・動画の15万8,000件超をAI生成と分類し、生成AI関連の通報も急増したとする。提出された媒体数、通報数、固有の被害者数は交換できない。同団体の指針は、合成画像でも識別可能な子どもを搾取し、他の侵害を支援しうると強調する。
Metaは法的義務がある場合に疑われる児童搾取素材をNCMECへ通報し、インドの事案をNational Cyber Crime Reporting Portalへ直接報告すると発表した。広告削除は配信を制限する。証拠保存と行動に結び付く通報は、被害者、広告主、関係網の特定を支える。分類や文脈が不十分なら、件数が多いほど良いとは限らない。
元FBI捜査官が略奪的なアカウント網を手作業で調査しているともいう。自動化で大量の信号を結べても、高リスク判断には人工確認、証拠の質、異議申し立ての課題が残る。厳しいしきい値は正当なアカウントを誤って遮断し、緩いしきい値は被害を長引かせうる。新しきい値も、最高リスク案件を人間が確認する頻度も未公表だ。
改善を示すには
内部レッドチームは手作業より速く変種を試せるが、Metaが選んだ前提や環境に制約される。違反者も承認、拒否、削除から学ぶ。再犯検出は代替アカウントを禁止運営者と結び、その循環を断つ狙いだ。インフラ、決済、管理行動などが関連になりうるが、Metaは実際の信号を詳述していない。例示は公開されたシステム仕様ではない。
意味があるのは同じ素材の反復削除ではなく、繰り返すキャンペーンの減少だ。広告に特化した開示で、公開前遮断と配信後削除、露出時間中央値、再犯広告主率、文脈検出と既知素材照合を分けられる。遷移先・関連アカウントへの措置、誤検知、異議申し立て、人工対応も、回避を助ける詳細を求めず評価する材料になる。これらは必要な証拠であって、発表済みの成果ではない。
独立調査者は今後数か月、最初の掲載、通報、削除時刻を記録できる。発見減少だけでは完全予防を証明できない。研究者が見るのは残る失敗であり、成功した全遮断や試行総数ではない。当局の対応、報告の速度と有用性も検証になる。10月の設計はキャンペーン構造に対応するが、信用は既知の有害経路が機能しなくなるかにかかる。モデル説明や無関係な数百万の削除ではない。
出典
Metaの10月の対策 · Metaの7月の児童安全対策 · Wiredの9月調査 · Wiredの市当局に関する報道 · NCMEC指針 · TechCrunch報道 · TechCrunch発見時の報道