ZEPETO Safety Center

새해를 앞둔 연말에는 지난 열두 달 동안 해낸 일들을 되돌아보게 되는 무언가가 있는 것 같습니다.

올해 제페토 팀은 진정 즐겁고 재미있는 경험을 제공하겠다는 신념을 가지고 전속력으로 달려왔습니다. Trust and Safety 팀, 개발 팀, 기획 팀, 콘텐츠 팀, 그로스 팀 등 모든 팀이 각자의 역할을 통해 커뮤니티를 활성화하고 안전한 메타버스를 구축하겠다는 공동의 목표를 위해 노력했습니다.

지난 3월 10일, 우리는 안전 블로그의 첫 번째 포스팅을 게시하며 신뢰와 안전을 제페토 커뮤니티의 기반으로 삼겠다고 약속했습니다. 제페토의 안전을 위해 자체적인 설계를 할 것을 약속했으며, 그에 따라 주요한 우선 과제들을 강조했습니다. 그리고 이제, 그 진전의 결과를 공유할 수 있어 감사하게 생각합니다.

  • Trust and Safety팀 운영
    • 정책, 콘텐츠 모더레이션, 운영, 프로그램 매니지먼트, 데이터 분석, 리스크 인텔리전스 및 엔지니어링에 걸쳐 다양한 분야의 전문가로 구성된 팀을 구성하기 위해 적극적으로 투자했습니다. Trust and Safety 전담 인력이 300% 늘었으며, 2023년에는 더욱 신중하고 전략적으로 유저를 보호하는 방법들을 개발할 수 있을 것입니다.
  • 커뮤니티 가이드라인 업데이트
  • 기술 강화
    • 다양한 유형의 어뷰징 행위를 더욱 효율적으로 식별하고 분류하기 위한 감지 기능을 확장했으며, 잠재적인 유해 미디어와 텍스트를 더 정밀하고 정확하게 찾아내기 위한 네트워크를 구축했습니다. 또한 증가하는 미성년자 대상의 온라인 그루밍의 위협에 대항해 Thorn과의 협력을 통해 안티 그루밍 기술을 도입했습니다.
  • 전문가와의 협업
  • 신고 기능 개선
    • 새로운 앱 내 신고 인터페이스를 통해 유저가 더욱 간편하고, 포괄적이고, 일관적으로 모든 기능 화면에서 신고를 할 수 있도록 개선했습니다. 신고 과정에서 유저를 차단할 수 있는 접점을 추가했으며, 사이버 범죄와 저작권 위반, 자살/자해 예방 등에 관한 자료를 확인할 수 있는 서포트 페이지 링크를 제공했습니다.
    • 특정한 위반 행위에 대한 무관용 정책을 수립했습니다. 이는 단 한번의 위반으로도  계정이 즉각적이고 영구적으로 정지된다는 것을 의미합니다. 무관용 정책이 적용되는 항목들은 커뮤니티 가이드라인을 통해 확인할 수 있습니다.
  • 메타버스 세상에 안전 내재화
    • 언제나 유저들과 함께 존재하며, 그들이 안전 문제에 있어 절대 외면받지 않을 것이라고 느끼게 하기 위한 방법들을 고민했습니다. 그렇게 메타버스 기업 최초로 안전 담당자 아바타, ‘소테리아’를 개발했습니다. 제페토 커뮤니티의 일원들에게 제페토 팀을 대표하는 동시에 제페토가 지향하는 가치를 담을 수 있는 인물을 상상해보도록 했고, 소테리아 세계관을 소개했습니다.
  • 교육과 투명성 확보에 집중

새해를 앞둔 이 시점에 다시 한번 우리의 지향점과 방향성을 되새기며 목표를 다잡고자 합니다. 2023년의 계획에 대한 몇 가지 인사이트를 공유하겠습니다.

  • 커뮤니티 모더레이션
    • 좋은 행위는 유도하고 나쁜 행위는 줄이며, 제페토에서의 경험을 개선하는 데에 도움이 될 수 있는 시스템을 개발하고 있습니다. 또한, 소테리아와 함께 적극적으로 어뷰징 문제를 신고하며 안전 서포터즈 역할을 할 수 있는 신의 있고 훌륭한 유저들을 발굴할 것입니다.
  • 차단 기능 개선
    • 유저가 원치 않는 커뮤니케이션을 더욱 쉽게 방지할 수 있도록 차단 기능을 정비할 계획입니다.
  • 유저와의 더 명확한 커뮤니케이션
    • 커뮤니티 가이드라인을 위반한 유저에게 보내는 알림 메시지를 업데이트해 어떤 정책을 위반했는지와 그 결과를 명확하게 안내함으로써 제페토가 허용하거나 허용하지 않는 콘텐츠 및 행위에 대해 더 적극적으로 교육할 것입니다.
    • 경고 및 징계 결과에 동의하지 않는 유저가 있다면 보다 쉽게 재고 요청을 할 수 있도록 검토 요청 절차를 개선할 계획입니다.
  • 데이터, 기술, 투명성에 집중
    • 1년 동안의 적극적인 연구와 데이터 분석을 통해 우리의 차세대 기술을 향한 첫 단계가 거의 완료되었습니다. 과거부터 현재까지의 데이터를 분석함으로써 어뷰징에 대한 이해를 높이고, 어뷰징의 새로운 경향을 정확하게 예측하고, 그렇게 얻은 지식을 활용해 내년에는 특정 문제들에 대한 예방과 감지 기술을 개선하고 향상할 수 있기를 희망합니다.
    • 또한 이러한 데이터를 활용해 2023년에 첫 번째 투명성 보고서를 발표할 예정입니다.이를 통해 우리 플랫폼이 마주하고 있는 위험과 현실, 그리고 더 안전한 메타버스를 구축하기 위한 우리의 노력에 대한 가시성을 제공할 수 있게 되어 기쁘게 생각합니다.

지난 1년간 제페토 커뮤니티 여러분의 성원에 진심으로 감사드리며, 여러분의 안전하고 즐겁고 따뜻한 경험을 보장할 수 있도록 앞으로도 온 마음을 다해 노력할 것을 약속합니다.

여러분 모두 즐거운 연휴와 행복한 새해를 보내시길 기원합니다!

Translate »
%d bloggers like this: