ZEPETO Safety Center

온라인 그루밍은 인터넷을 통해 아동 · 청소년이 성적인 행위(성적인 이미지 공유, 성적인 대화 유도, 심지어 만나는 것까지)를 하도록, 가해자가 피해자의 신뢰를 얻기 위해 사용하는 일련의 전술을 말합니다. 

Thorn(아동 · 청소년을 성적 착취와 학대로부터 보호하기 위해 기술과 프로그램을 개발하는 비영리단체)의 설문조사(9-17세, 1,200명)에 따르면, 응답자의 40%는 ‘친구로 만들고 조종하려 시도하는 누군가로부터 접근’을 받은 경험이 있는 것으로 나타났습니다.. 또한, ‘공개된 온라인 채널에서 비공개 / 1:1 온라인 채널로 옮기자’는 제안을 자주 받는다고 강조했죠. [1]

온라인 그루밍은 (1) 가해자와 아동 · 청소년의 대화가 항상 성적인 것이 아닌 점,  (2) 익명성을 중심으로 이루어지는 점 때문에 발견하기 매우 어려운 범죄입니다. 성인 2명이 주고받을 때 괜찮은 메시지도 성인과 아동 · 청소년이 주고받으면 그루밍으로 여겨지는 경우도 있습니다. 제페토에서는 매일 약 1,000만 개가 넘는 메시지가 오가고 있습니다. 이런 상황에서 온라인 그루밍의 정황을 기술적으로 감지하는 것은 예비 가해자를 탐지/제거하고, 예비 피해자 및 유저들에게 더 안전한 메타버스 환경을 제공하는 데 매우 중요한 일입니다.

우리가 하는 일

제페토는 온라인 그루밍을 비롯한 아동 · 청소년에 대한 성적 착취를 방지하고 탐지하기 위해, 두 가지 핵심 영역에서 노력하고 있습니다.

  1. 온라인 그루밍을 탐지하고 예방하기 위한 기술적 접근

제페토는 온라인 그루밍을 방지하기 위해 Thorn과 협력하고 있습니다. Thorn은 머신러닝을 통해 그루밍 대화를 스캔하는 안티 그루밍 기술(Thorn Grooming Classifier)을 개발하였습니다. 제페토는 이 솔루션을 채팅 기능에 포함하여, 그루밍의 초기 지표를 빠르고 효과적으로 탐지해 전담팀에 전달하고 있습니다. 전담팀에서 검토를 마치면 해당 계정에 엄정한 조치를 취하고, 현지법 · 규칙 · 규정에 따라 당국에 신고하고 있습니다.

  1. 자동화 탐지 방법 + 전문 모더레이터를 통한 아동 · 청소년 성착취물(CSAM) 예방

온라인 그루밍의 악질 행위 중 하나는 아동 · 청소년 성착취물(CSAM) 공유입니다. [2]
자동화 탐지 방법을 개선하기 위해 지속적으로 노력하고 있지만, 이런 솔루션에는 분명히 한계가 존재합니다. 온라인 그루밍은 매우 복잡한 방법으로 이루어지며, 기술에 의지하는 것만으로는 가해자들이 우리 플랫폼에서 활동하는 것을 완전히 막을 순 없습니다. 이런 일이 발생하는 것을 방지하기 위해, 제페토에서는 CSAM 콘텐츠를 감지하고 제거하기 위한 기술과 전문 인력을 모두 동원하고 있습니다.

맺음말

온라인 그루밍에 슬기롭게 대처하고, 더 안전하고 즐거운 온라인 커뮤니티를 만들기 위해서는 함께 협력해야 합니다. 우리의 가이드인 하나의 커뮤니티로 온라인 그루밍에 대처하기를 꼭 읽어보고 나와 가족, 친구들과 아이들을 보호하기 위해 무엇을 할 수 있고 어떻게 도움을 요청할 수 있는지 살펴보세요.

제페토는 아동 · 청소년에 대한 온라인 그루밍을 절대 용납하지 않습니다. 안전 전문 팀(Trust and Safety team)을 비롯한 회사의 모든 구성원은 아동 · 청소년의 안전을 위해 최선을 다하고 있으며, 유저들이 더 안전한 환경에서 메타버스 세상을 즐길 수 있도록 노력하겠습니다.

[1] https://info.thorn.org/hubfs/Research/2022_Online_Grooming_Report.pdf

[2] https://www.inhope.org/EN/articles/the-impact-of-online-grooming

By Sophia Yoo – Senior Data Analyst, Trust & Safety

Translate »
%d bloggers like this: