ZEPETO Safety Center

オンライングルーミングとは、加害者がオンラインで未成年者とつながり、信頼を獲得したうえで最終的に性的行動(性的画像を共有する、性的会話に持ち込む、直接会うなど)を強要する一連の手口を指します。

子どもたちを性的虐待から守る技術およびプログラムの構築に取り組んでいる非営利団体、Thornが1,200人の若者(9~17歳)を対象に行った調査によると、「親しくなって操ろうとしている」と思われる人物に接近されたことのある人は、回答者の40%にのぼることが明らかになりました。さらに、未成年者が「オンラインだけでしか連絡のない人から、公開の対話の場を離れ1対1の環境に移動するよう定期的に促されている」ことも浮き彫りになりました。[1]

グルーミングは、グルーミングを行う者と子どもとの間の会話が必ずしも性的に露骨な性質のものとも、年齢を中心に展開されるものとも限らないため、発見が極めて困難な行為です。大人同士であれば交換しても問題のないメッセージの内容であっても、大人と未成年との間でのやりとりではグルーミングとみなされるものもあります。ZEPETO(ゼペット)のプラットフォームでは毎日1,000万件近くのチャットメッセージが交換されており、テキストベースの会話の中からオンライングルーミングを技術的に検出することは、犯罪者を特定および排除し、ユーザーにとってより安全な環境を確立するうえで非常に重要です。

ZEPETOの取り組み

ZEPETO(ゼペット)では現在、オンライングルーミングおよび子どもの性的搾取の防止および検知に関して、当プラットフォームにおける次の2つの重要な側面について社内能力の強化に取り組んでいます。

1.  グルーミングの予防的検出に関するZEPETOの技術的アプローチの拡充

ZEPETO(ゼペット)は現在、Thornと協力してこの複雑な問題に対処しています。Thornは、機械学習テクノロジーを活用してグルーミングと思われる会話を検知するために、Thorn Grooming Classifier全体を構成する一連の3つのモデルを開発しました。ZEPETO(ゼペット)はこのツールを当プラットフォーム上のチャット機能に組み込み、グルーミング行為の初期指標をより効果的に特定し、専任のコンテンツモデレーターチームにエスカレーションできるようにします。エスカレーションされた問題を審査したうえで、ZEPETO(ゼペット)はグルーミング行為とみなされる会話を行ったアカウントには厳正に対処し、現地の法律、ルール、規制に従って速やかに当局へ報告します。

2.  自動的および人的なモデレーションによる児童性的虐待のコンテンツ(CSAM)の継続的な撲滅

オンライングルーミングで最も有害なやりとりのひとつが、CSAMの交換です。[2] 当プラットフォームにおいてそのような行為が起こるのを防止するために、ZEPETO(ゼペット)では自動化および人的なモデレーションを導入して児童の性的搾取に関わる画像および動画の検出および削除を実施しています。

ZEPETO(ゼペット)は自動化された検出方法の改良に継続的に取り組んでいますが、これらのツールには限界があります。グルーミングは複雑な行為であり、テクノロジーだけでは、当プラットフォーム上における犯罪者の行動を防ぐことはできません。

オンライングルーミングと闘い、ユーザーやより広いデジタルコミュニティにとってより安全で楽しい体験を創出できるようにするために、コミュニティ全体が力を合わせる必要があります。ZEPETO(ゼペット)のコミュニティとしてオンライングルーミングと闘うためのガイドを読み、注意すべきグルーミングの危険信号を頭に入れ、自分自身や子どもを守るために自分にできることと、助けを求める方法についてご確認ください。

ZEPETO(ゼペット)は、当プラットフォームにおける子どものグルーミングを容認していません。信頼と安全(Trust and Safety)チームが未成年者の安全を約束し、当プラットフォームが若年層のユーザーとコミュニティ全体にとって安全な環境となるように取り組んでいます。

[1] https://info.thorn.org/hubfs/Research/2022_Online_Grooming_Report.pdf

[2] https://www.inhope.org/EN/articles/the-impact-of-online-grooming

By Sophia Yoo – Senior Data Analyst, Trust & Safety

Translate »
%d bloggers like this: