다시 뛰는 공정도시 서울!

최근 텔레그램을 통한 딥페이크 성범죄 피해가 확산되고 있는 가운데, 서울시와 방송통신심의위원회(방심위)가 상호 협력하여 딥페이크 범죄피해에 신속 대응하기로 하였다.

서울시와 방심위는 8월 28일 긴급 회동하여 딥페이크 영상물을 신속하게 삭제하기 위해 지자체 최초로 방송통신심의위원회와 핫라인을 구축하는 것을 내용으로 하는 협약을 체결하였다.

우선, 폐쇄형 SNS 내에 있는 딥페이크 불법영상물이 성인사이트·SNS 등 공개사이트에 유포될 경우 24시간 내에 신속하게 모니터링 및 삭제·차단될 수 있도록 조치한다는 계획이다.

기존에는 시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 각종 증빙자료를 제출해야 했으나 핫라인을 구축하게 되면 시스템으로 연계하여 대량 건수를 일시에 삭제 요청할 수 있게 된다. 특히, 텔레그램 내에서 발견된 불법영상물도 방심위를 통하면 삭제율이 현저히 높아진다.

이와 함께 서울시는 급증하는 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 오늘부터 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설하고 피해지원관(2명)을 배치하여 신고방법 및 범죄 채증방법 등을 안내한다. 또한, 수사·법률지원 등 피해자에게 필요한 통합지원을 위해 서울 디지털성범죄 안심지원센터로 링크 연결되도록 한다.

그동안 시는 2022년 3월 서울 디지털성범죄 안심지원센터를 개소해 피해자 보호 시스템을 구축해왔으며, 초기상담, 수사·법률·심리·의료 및 삭제지원 등 1,437명의 피해자를 원스톱으로 지원해왔다.

시는 피해상황을 24시간 모니터링할 뿐 아니라 자동으로 삭제신고 하는 시스템을 연말까지 구축하고, 딥페이크 검출기술도 개발 적용하여 피해영상물 삭제지원 건수를 획기적으로 늘릴 계획이다.

또한, 경찰 조사를 통해 드러난 딥페이크 범죄혐의 전체 피의자 중 10대가 차지하는 비중이 75.8%로 드러난 가운데, 딥페이크를 호기심이나 장난으로 여기는 아동청소년을 대상으로 한 교육을 강화한다.