年齢確認を“すり抜けた”子どもをどう守るのか。ゲーム内のグルーミングや犯罪への勧誘を，技術と運用の現場から考える［gamescom］

　gamescom devで行われたセッション「What Happens When Age Assurance Fails: Grooming, Extremism, and the Real Cost to Gaming Platforms」では，年齢保証をすり抜けた未成年者を，ゲームやオンラインコミュニティの中でどう守るのかが議論された。


　登壇したのは，TELUS DigitalでTrust & Safety部門を担当するCarolyn Fox氏と，ノルウェーのAI企業Aibaを共同設立したHege Tokerud氏だ。
　TELUS Digitalは，モデレーターや調査担当者による確認，エスカレーション，関係機関への報告といった運用を担う。一方Aibaは，ゲームやオンラインサービス上の会話と行動から，グルーミングや有害行為につながるシグナルを検出し，確認が必要な案件を人間へ渡す技術を開発している。
　つまり両者は，安全をめぐる理念だけを語る立場ではない。機械が何を検出できるのか，それを受け取った人間がどう判断し，どう行動するのかという，技術と運用の現場にいる人たちだ。セッションも道徳的な主張というより，実装した仕組みが破られることを前提にした実務的な内容だった。

年齢確認から行動の検出，人による介入まで。オンラインの子どもをどう守るか

　背景にあるのは，オンラインサービスに対する規制の変化だ。
　英国では「Online Safety Act 2023」が成立し，年齢保証に関する主要な義務が2025年から段階的に適用された。ポルノを扱う対象サービスなどには，単に利用者が年齢を自己申告するだけではなく，年齢確認や年齢推定を用いた「実効性の高い年齢保証」が求められている。違反した事業者には，世界売上高を基準にした高額な制裁が科される可能性もある。

　セッション内では「自己申告から年齢証明へ」と要約されていたが，正確には公的身分証の提出だけが唯一の方法ではない。年齢推定を含め，子どもが対象コンテンツへ通常はアクセスできない状態を作ることが求められている。Ofcomのガイダンス（リンク）にも，その考え方が示されている。

　ただし，入口を厳しくすれば問題が解決するわけではない。
　年齢確認を設けても，子どもが保護者や年上のきょうだいの身分証，アカウントを借りて通過するパターンもある。家族に認証してもらう場合もあれば，本人に無断で情報を使う場合もある。入口で確認された年齢が，実際にサービスを利用している人の年齢とは限らないのだ。
　また，規制の本格適用直後に英国からVPNサービスへの新規登録が急増した例も語られている。ただし，これは一企業の登録データであり，利用目的まで明らかになっているわけではない。

　Fox氏とTokerud氏が繰り返したのは，年齢保証を登録時に一度だけ閉じるゲートとして考えてはいけないということだった。登録前後を含め，サービス内での行動を継続的に観察し，危険な兆候を見つける必要がある。

　ゲームやオンラインコミュニティには，子どもだけでなく大人もいる。そこで未成年者が不適切なコンテンツに触れたり，面識のない大人と接触したりする可能性がある。その接触は，必ずしも最初から露骨な犯罪の形を取るわけではない。
　小さな頼みごとをする。褒めたり，アイテムを贈ったりして信頼を得る。少しだけ規則に反することをさせ，その証拠を使って次の行為を迫る。こうした段階的な操作は，性的なグルーミングだけでなく，詐欺や犯罪への勧誘にも共通している。

　現在では，犯罪組織がSNSや暗号化されたメッセージサービス，ゲーム内チャットなどを通じて若者へ接触し，運搬や詐欺，暴力行為などへ勧誘する問題も確認されている。Europolは，暴力行為の実行を請け負わせる「Violence-as-a-Service」への対策タスクフォースに関する発表で，勧誘役が暗号化されたメッセージアプリやゲーム／チャットプラットフォームを通じ，実行役となる若者へ接触する構図を報告している（リンク）。

　最初はゲームのクエストにも似た，簡単で楽しそうな頼みごととして提示されることがある。そこから金銭，仲間意識，秘密の共有などを通じて関係を深め，本人が抜けにくい状況を作っていく。だからこそ，明確な犯罪行為が発生してからではなく，その前段階にある行動の変化を検出する必要がある。

　では，AIによる自動検出だけで対応できるのか。
　エンジニア出身のTokerud氏は，当初は技術によって問題の大部分を自動化できると考えていたという。しかし実際のコミュニケーションには，機械だけでは判断しにくいグレーゾーンが多い。
　友人同士の冗談なのか，嫌がらせなのか。子ども同士の悪ふざけなのか，大人が少しずつ距離を詰めているのか。同じ言葉でも，ゲームの内容やコミュニティの文化，これまでの会話によって意味が変わる。

　Fox氏も，機械は大量のデータから行動パターンを見つけ，人間が見るべき案件を絞り込むことには優れていると話す。一方で，発言の裏にある意図や「何かがおかしい」という感覚まで完全に置き換えることは難しい。

　そこで必要になるのが，人間を判断の過程に残す「Human in the Loop」の考え方だ。
　AIが異変を見つけ，人間が前後関係や意図を確認する。必要であれば利用者へ警告し，機能を制限し，深刻な案件は専門部署や捜査機関へ引き継ぐ。完全自動化か人力かという二択ではなく，それぞれが得意な部分を組み合わせる必要がある。

　ただし，人間を残せば済むわけでもない。
　モデレーターや調査担当者は，虐待や性的搾取，暴力といった深刻なコンテンツへ触れる可能性がある。AIによって軽微な案件の処理が自動化されるほど，人間のもとには判断が難しく，心理的負担の大きい案件が集中しやすくなる。

　「利用者を守る人を，誰が守るのか」は，この分野で避けて通れない問題だ。
　画像をぼかす，グレースケールにする，既知の違法コンテンツを照合技術で自動判定するといった仕組みに加え，専門的なメンタルヘルス支援や定期的な配置転換も必要になる。Fox氏によると，TELUS Digitalではメンタルヘルス支援を用意するだけでなく，担当者が雇用を失う不安を抱えず，センシティブな業務から外れることを選べる体制を設けているという。

　また，対応は利用者を追い出すことだけを目的にすべきではないとTokerud氏は語った。問題行動を起こす利用者が少数であっても，放置すればコミュニティ全体の基準が変わってしまう。早い段階で警告し，「この場所では，その話し方は認められない」と伝えることには意味がある。
　利用者へ行動を改める機会を与え，望ましいコミュニティの一員になってもらう。そのためのフィードバックまで含めて，安全の仕組みを設計する必要があるというわけだ。

　質疑応答では，規制対応が小規模な開発会社の参入障壁になりかねないという懸念や，年齢確認のために身分証や顔写真を各サービスへ渡すことへの不安が示された。
　安全のための仕組みが，新たな個人情報流出や詐欺の入口になっては本末転倒だ。大規模なプラットフォームや金融機関が持つ認証基盤をどこまで共有できるのか。年齢だけを証明し，氏名や身分証そのものはサービスへ渡さない仕組みを作れるのか。年齢保証を普及させるには，安全性だけでなく，利用者が納得できるプライバシー設計も必要になる。

　最後には「子どもの安全は，まず親の責任ではないか」という質問も出た。
　もちろん，親が子どもの遊んでいるゲームを知り，話を聞くことは重要だ。しかし，技術やサービスの変化をすべて追いかけることは難しい。仕事などの事情から，子どものオンラインでの行動を常に見守れる家庭ばかりでもない。

　筆者自身，子を持つ親として考えさせられることも多かった。仕事柄，ゲームの表現やサービスの仕組み，セキュリティ，オンラインコミュニティで注意すべきことは，比較的知っているほうだと思う。
　それでも，子どもがゲーム内で交わす会話や人間関係まで，すべて把握することはできない。子ども自身も，例えば何かのトラブルに巻き込まれたとき，信頼していた相手との関係がいつ危険なものへ変わったのかうまく説明できないことがあるだろう。サービスや遊び方，そこで起きる問題が変わり続ける以上，親も分かっているつもりにならず，認識を更新していく必要がある。
　だからこそ，子どもの安全を親だけ，あるいはプラットフォームだけの責任にするのでは足りない。親による関与や知識の更新，子どもへの教育，コミュニティガイドライン，技術的な検出，人間による介入，そして適切な規制を重ねていく必要がある。

　本セッションに近い話に，2024年に掲載した特集記事「ゲームのテーマやモチーフにも使われる『陰謀論』はどのように触れればいいのか。ウォッチャーの雨宮 純氏にその特性や注意すべきことを聞いた」がある。同企画では，ゲームやDiscord上の交流を通じて親密な関係を築き，陰謀論のコミュニティへ引き込む手法について雨宮氏に話を聞いている。

　一緒にゲームを遊び，同じ目標へ取り組むなかで，少しずつ親近感を築き，そのうえで閉じたグループへ誘導する。これは，ゲームが持つ協力や交流の楽しさを，勧誘の手段として悪用するものだ。対象になるのは子どもだけではない。大人も，孤独や不満，居場所のなさなどにつけ込まれ，問題のある団体や，差別的，暴力的な思想へ引き込まれる可能性がある。


　ゲームで誰かとつながること自体を恐れる必要はない。むしろ，その楽しさとつながりを守るために，それがどのように悪用され得るのかを知っておくことが大事なのだと思う。
　年齢確認は重要だが，それだけで安全が完成するわけではない。確認をすり抜けるケースがあることを前提に，行動の変化を見つけ，人が判断し，必要な対応へつなげる。今回のセッションは，その当たり前だが難しい仕事を，技術と運用の両側から考えるものだった。