[환경포커스=서울] 서울시가 온라인 그루밍으로부터 아동‧청소년을 보호하기 위해 전국 최초로 AI에 기반한 ‘서울 안심아이(eye)’를 개발하여 24시간 탐지 및 대응에 나선다고 전했다.
‘서울 안심아이(eye)’는 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간으로 탐지, 위험 징후 포착 즉시 피해지원기관에 긴급 알림을 전송하면 피해지원기관에서 개입해 피해 확산을 초기에 차단하는 기술이다.
피해지원기관(다시함께상담센터 등)에서는 피해 확산 방지와 예방 조치가 적극적으로 이뤄질 수 있도록 전문 상담사를 배정해 초기 대처법을 안내하고, 상담과 수사 지원까지 한다. 또한 지속적‧반복적으로 온라인 그루밍을 시도하는 계정에 대해서는 신고‧고발을 병행하는 등 실질적인 대응에 나설 예정이다.
온라인 그루밍 범죄의 심각성에도 불구하고, 지금까지는 아동·청소년에 대한 성착취 목적의 대화가 실제 성적인 행위로 이어진 경우에 주로 처벌이 이뤄져 왔다. 그러나 최근「아동·청소년의성보호에관한법률」제15조의2의 제3항에 미수범 처벌 조항이 신설(2025.4.22.)됨에 따라 아동·청소년에게 성적 욕망을 가진 대화를 시도하는 초기 단계부터 처벌이 가능해져 범죄 초기 단계의 접근을 효과적으로 차단하고 처벌의 실효성을 높일 수 있을 것으로 기대된다.
이와 관련해 시는 앞서 지난 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입한데 이어, 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발하여 성착취물을 선제적으로 삭제지원했다. 올해는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발할 계획이다.
해당 기술은 대화 흐름 속에서 “사진 보낼래?”, “영상통화 할까?”, “집이 싫으면 가출해 보심?”, “용돈 받고 뭐 원하는 거 해주고 그러는 거야”와 같이 성범죄의 트리거가 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다.
이와 관련해 서울시는 AI 기반 온라인 그루밍 탐지 기술과 함께 온라인 그루밍에 대한 사회적 인식 확산과 대응방안 모색을 위한 토론회를 12월 2일(화) 오전 10시 서울시청 서소문청사 제1동 13층 대회의실에서 개최한다.
이번 토론회는 앞서 시가 올해 6월 ‘아동‧청소년 디지털 성범죄 통합대응정책’으로 전 세계 도시들의 혁신정책 올림픽 ‘2025 글로벌 메이어스 챌린지(Global Mayors Challenge)’ 결선 도시에 선정된 것과 관련해 아동·청소년 온라인 성착취에 대한 사회적 인식 제고를 위해 마련됐다.
토론회에서는 서울연구원 김준철 연구위원이 ‘AI 기반 온라인 그루밍 탐지 및 선제 대응 기술’을, 서울시여성가족재단 김보화 책임연구원이 ‘서울시 아동·청소년 온라인 그루밍 실태와 정책방향’에 대해 각각 발표한다. 이어서, KBS <시사기획 창>의 김도영 기자, 한국형사·법무정책연구원 성유리 부연구위원, 시립다시함께상담센터 이은정 부소장이 참여해 랜덤채팅 실태, 피해사례 등을 공유한다.
서울시는 이날 토론회에서 ‘온라인 그루밍 예방 가이드’를 배포하고 아동·청소년 성착취를 효과적으로 예방하는 정책을 소개한다.
예방 가이드는 온라인에서 낯선 이의 친밀감 구축 시도, 선물·보상 제안, 신체 노출·사진 전송 요구, 비밀 유지 강요 등 대표적 그루밍 신호에 대한 판단 질문과 즉시 멈춤·차단·신고 요령을 담았다. 양육자용 가이드는 경청 문장, 채증·기록 방법, 플랫폼·경찰 신고와 전문기관 상담 절차, 사건 이후의 심리 반응 대처 방안을 단계별로 안내한다.
한편, 서울시가 서울시여성가족재단에 의뢰해 실시한 온라인 그루밍 설문조사(서울시내 초등학교 5학년~고등학교 3학년 총 2,316명 대상, 2025년)에 따르면, 응답자의 19%가 ‘온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등’ 온라인 그루밍 접근을 경험한 것으로 나타났다. 접근 경로는 SNS, 1:1·오픈채팅, 게임 순으로 빈도가 높았다. 접근한 사람의 특징으로는 ‘온라인에서 처음 만났고 전혀 모르는 사람’이 35.5%로 가장 많았고 ‘친구·선후배 등의 또래’가 34.2%였다.
주로 이야기를 나눈 온라인 플랫폼은 ‘SNS(엑스(X, 옛 트위터)･인스타그램･페이스북 등)’가 33.3%로 가장 높았고 1:1 채팅방, 오픈채팅방이 31.1%, 게임이 15.6%로 나타났다.
온라인에서 대화나 만남을 제안받거나 돈·선물 등 대가를 제공하겠다는 ‘적극적인 유인’ 형태의 온라인 그루밍 피해를 경험한 아동·청소년 은 11.7%(270명)이었고, 이러한 ‘적극적 유인’에 대답한 적이 있다고 응답한 비율은 16.7%로 나타났다. 그 중 오프라인에서 실제로 만난 경험이 있는 아동·청소년은 28.9%였으며, 직접 만난 이유로는 ‘친절하고 말이 잘 통해서 친구가 되거나 사귀게 됨’이라는 응답이 58.3%로 가장 높았다.
적극적 유인에 대답한 적이 있는 아동･청소년 중 40%의 응답자는 그것이 피해라고 생각했고, 그 이유는 ‘상대방이 나이나 신분 등의 개인정보를 속였기 때문에’(33.3%), ‘계속 성과 관련된 이야기를 하거나 성적인 관계를 맺자고 해서’(16.7%), ‘원하지 않는데도 신체적인 접촉을 하려고 해서’(16.7%) 등이었다.
마채숙 서울시 여성가족실장은 “디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보이고 있다”라며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼, 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 최선을 디하겠다”라고 말했다.
