인터넷 공간 전체의 문제로 봐야…통제와 자유의 표준 새롭게 설정할 필요 있어
2020년, 전국을 떠들썩하게 만든 ‘N번방’ 사건이 공론화되었다. 전 국민적 공분을 일으킨 이 사건에 검경이 수사 역량을 집중해 최소한 가시권에 들어온 범죄자들에 대해서는 신속한 검거가 가능했다. 하지만 검거와 처벌 이후에도 사건의 여파는 계속 남았다. 특히 이런 사건이 재발하지 않게끔 제도적인 대책을 어떻게 세울 것인지의 문제가 가장 중요한 과제로 떠올랐다. 국회에서는 ‘N번방 방지법’이 발의되었고, 곧이어 해당 법안이 인터넷 검열 조치인지 아닌지에 대한 논쟁으로 이어지기도 했다.
N번방 사건 이후 4년, 지금 우리 사회에는 디지털 성착취물이 다시 화두로 등장했다. 사실 전조는 4년 전에도 이미 있었다. N번방 사건 당시 텔레그램 성범죄에 대한 집중적 조사가 이루어졌고, 이른바 ‘지인제보·능욕방’이라는 텔레그램 채팅방에서 주위 여성들의 사진을 이용해 불법적인 사진과 영상을 제작·유포하고 있음이 밝혀졌기 때문이다. 이후에도 전국 각지에서 피해자들의 지속적인 제보와 신고가 이루어졌고, 올해 1월에는 서울대 졸업생들이 동문 여학생들의 사진을 이용한 딥페이크 불법 영상물을 제작·유포한 사건이 공론화되기도 했다.
기술 접근성과 활용 능력, 신세대일수록 커져
이런 와중에 지난 8월부터 학교를 배경으로 한 딥페이크 불법 영상물이 새로이 공론화되고 있다. 대학교·군대·직장을 가리지 않고 적발된 딥페이크 불법 영상물이 이제 10대의 공간인 학교로 넘어와서, 주변 여학생과 교원들을 대상으로 제작되고 있다는 사실이 우리 사회에 다시 큰 충격을 안겨주었다.
더욱 놀라웠던 것은 불법 영상물 범죄 수사를 통해 검거된 피의자 상당수가 10대였다는 사실이다. 경찰청에 따르면 올해 1월1일부터 9월10일까지 검거된 피의자 318명 중 약 79%에 달하는 251명이 10대인 것으로 나타났다. 특히 이 중 만 14세 미만인 ‘촉법소년’이 63명이었다. 적어도 딥페이크 불법 영상물이 갈수록 더 어린 세대에서 유행하고 있다는 점은 사실로 밝혀진 듯하다.
10대에까지도 딥페이크 범죄가 확산된 이유는 무엇일까. 원인 자체는 단순하다. 인공지능(AI) 기술이 급속도로 발전했기 때문이다. AI에 학습시킬 적절한 데이터와 요청사항, 충분한 연산 능력이 있는 컴퓨터만 있으면 단순한 질의응답부터 외국어 통번역, 이미지 생성까지 전례 없는 속도와 정확성으로 결과물을 출력시킬 수 있게 되었다. 하지만 기술의 발전은 결코 사회에 긍정적인 방향으로만 활용되지 않는 법이다. 질문에 대한 답변을 내놓는 AI는 사진 자료와 클릭 몇 번만으로도 불법 영상물을 내놓는 것 또한 가능케 했다. 접근성과 편의성이 상승하자 빠르게 발전하는 인터넷 환경과 신기능에 훨씬 잘 적응하는 10대들이 더욱 적극적으로 AI를 사용하게 되었고, 안타깝게도 그중에는 범죄적인 방향으로 사용하는 이들도 등장했다.
인터넷 범죄를 창궐하게 만든 두 번째 이유는 탐지와 포착이 어려워지는 온라인 공간에서의 의사소통이 급증한 데 있었다. ‘표현의 자유’를 제1의 가치로 천명하며 각국 정부와의 수사 공조를 거부해온 메신저 플랫폼 텔레그램은 처음에는 독재국가에서 자유로운 의사소통을 보장해 주는 플랫폼으로 찬사를 받았다. 하지만 이젠 딥페이크는 물론이고 마약이나 아동성범죄 등 각종 범죄의 온상이라는 이미지가 더 강해졌다.
정부의 통제를 받지 않는 ‘탈(脫)중앙’ 거래 수단인 비트코인을 위시한 암호화폐의 일상화는 온라인 범죄를 신속히 그리고 은밀하게 수익화할 수 있게 해주는 도구가 되었다. 종합하자면 몹시 편리해진 기술이 범죄에도 쓰일 만큼 강력해졌고, 그 범죄를 적발하기는 어려워진 상태에서 범죄가 주는 이득도 커졌다. 자연스레 기술에 대한 접근성과 활용 능력이 좋은 신세대로 갈수록, 이득을 위해서뿐 아니라 단순 유희를 위해서도 범죄에 연루되기가 용이해진 것이다.
해외에선 SNS 사용에 연령제한 방침 마련
그렇다면 10대에까지 확산된 신기술 범죄에 어떻게 대처해야 할까. 범죄에 대한 문화적 계도와 처벌 강화라는 전통적 수단은 점점 효력이 떨어지는 것 같다. 온라인에서 자율적인 영역을 구축하고, 기성세대보다 더욱 빠르게 새로운 기술 환경에 적응하는 신세대들을 ‘계도’할 수 있는 수단과 능력이 마땅치 않다. AI가 갈수록 더 발전할 것은 분명한 만큼 앞으로는 더욱 적은 이미지 샘플을 통해 더욱 정교한 불법 영상물을 만드는 것도 가능해질 전망이다. 이에 따른 처벌 강화는 당연히 필요하지만, 애초에 감시망에 잡히지 않는 온라인상의 불법 활동이 갈수록 진화하고 있어 당분간은 실효적인 대책이 부재한 상태다.
뾰족한 대책이 없는 것은 세계적으로 마찬가지다. 그래서 최근 선진국 정부들이 인터넷 공간과 기업을 향해 본격적으로 개입하는 방향을 선택한 듯하다. 8월24일 텔레그램 CEO 파벨 두로프가 프랑스에서 체포되었고, 방송통신심의위원회는 프랑스 수사 당국에 텔레그램 범죄와 관련한 수사 공조를 요청했다. 국경을 넘어서는 온라인 범죄의 창궐에 각국 정부들이 칼을 빼든 모양새다. ‘프라이버시의 상징’인 텔레그램이 규제되기 시작하면 새로운 대체 플랫폼이 등장해도 이전만큼 광범위하게 확산되기는 어려워질 듯하다.
마찬가지 맥락에서 청소년의 SNS 사용을 규제하려는 움직임도 커지고 있다. 9월10일, 앤서니 앨버니지 호주 총리는 연내 SNS에 연령제한을 둘 것이라는 발언을 했다. SNS 이용에 14세 혹은 16세의 연령제한을 둠으로써 미숙한 청소년을 사이버 공간의 유해성으로부터 일정 기간 보호하겠다는 취지에서다. 북미나 유럽의 여타 정부도 마찬가지 방향으로 움직이고 있다.
딥페이크 불법 영상물과 텔레그램을 통한 아동 성착취물 유포, 청소년 정신건강과 SNS의 유해성 등 스마트폰과 함께 자라난 디지털 네이티브 세대가 부상하며 온라인 공간 규제의 필요성이 세계적인 관심의 대상이 되고 있다. 그럴수록 이 문제가 청소년의 문제로 끝나지 않음을 인식하는 게 중요하다. 애초에 청소년이 범죄에 가담, 연루될 수 있도록 온라인 환경을 조성한 이들은 기성세대였다. 반대로 이제는 디지털 생태계에 익숙한 청소년이 만든 범죄 인프라 위에서 성인들이 활동하기도 하는 세상이다. 즉 딥페이크 범죄는 가담자 중에서 청소년들이 차지하는 비중이 크다 하더라도 종국적으로는 모든 세대와 연관돼 있는 인터넷 공간 그 자체의 문제인 것이다.
딥페이크 범죄에 외신들도 한국을 주목하는 지금, 이는 단순히 ‘학교’와 ‘10대’에 국한되는 이슈가 아니라 인터넷 공간에서 통제와 자유의 표준을 새롭게 설정하는 세계적 차원의 문제임을 인식할 필요가 있다.