딥페이크 참고인 조사만 했는데... 고교생 투신 소동

안동소방서

최근 딥페이크 범죄와 관련된 사건들이 잇따라 발생하며 청소년들의 피해와 가해 사례가 급증하고 있다.

지난 6일 오전 경북 안동의 한 고등학생이 딥페이크 영상 관련 혐의로 참고인 조사를 받은 뒤 극단적 선택을 시도하는 사건이 발생했다.

다행히 경찰과 소방 당국의 설득으로 무사히 내려왔지만, 이 사건은 딥페이크 영상 범죄가 청소년들에게 미치는 심각한 영향을 여실히 보여줬다. A군은 딥페이크 영상을 제작한 것이 아닌, 타인이 만든 영상을 보거나 유포한 혐의로 경찰 조사를 받았다.

경찰 관계자는 "A군은 양심의 가책으로 극단적 선택을 시도한 것으로 보인다"며 "청소년들에게 딥페이크의 위험성을 교육하는 것이 시급하다"고 강조했다.

딥페이크는 인공지능 기술을 이용해 특정 인물의 얼굴이나 신체를 합성한 영상물을 만드는 기술로 주로 성 착취물 제작에 악용되고 있다.

6일 오후 서울 종로구 보신각 일대에서 열린 텔레그램 딥페이크 성폭력 대응 긴급 집회 ‘불안과 두려움이 아닌 일상을 쟁취하자!'에서 참석자들이 구호를 외치고 있다. 2024.9.6/뉴스1

'딥페이크 온상' 텔레그램 규제 목소리↑

특히 최근 들어 딥페이크 성 착취물 유포가 증가하면서 청소년들의 피해가 급증하고 있다. 모바일인덱스에 따르면 지난달 텔레그램의 월간 활성 이용자는 347만 명을 넘어섰으며 특히 10대 이용자가 10만 명 가까이 급증했다.

이는 전체 증가 폭의 32.1%에 해당하며 딥페이크 성 착취물 유포의 주요 플랫폼으로 지목되는 텔레그램에서 청소년들이 주된 이용자로 부상하고 있음을 보여준다.

청소년들이 딥페이크 범죄의 가해자와 피해자 양측에서 급증하고 있는 점은 더욱 우려를 낳고 있다.

경찰청이 지난 7월 집중단속을 벌인 결과, 딥페이크 범죄 신고 118건 중 피의자 33명 중 31명이 10대였으며 검거된 7명 중 6명도 10대로 파악됐다. 당국은 딥페이크 범죄를 막기 위한 대책을 강화하고 있지만, SNS 특성상 법적 규제와 협조가 쉽지 않은 상황이다.

방송통신심의위원회는 최근 텔레그램 측이 디지털 성범죄 영상물 25건을 긴급 삭제하고 사과 의사를 전한 사실을 발표했지만, 근본적인 문제 해결을 위해선 보다 강력한 제도적 개선과 청소년 교육이 필요하다는 목소리가 높다.

딥페이크 범죄의 피해자와 가해자로 청소년들이 다수 포함된 만큼, 이들이 안전한 환경에서 성장할 수 있도록 사회적 대책 마련이 시급하다.