‘딥페이크 성범죄’ 소름 끼치는 제작 현장, 직접 들여다봤다

“인공지능(AI)은 핵폭탄보다 더 위험하다.” 테슬라 최고경영자 일론 머스크는 이같이 경고했다. 허술한 규제 속 대중에게 쥐어진 AI는 그야말로 ‘양날의 검’이라는 것이다. 이미 AI에 사진 한 장을 넣으면 전 세계 누구든지 불특정 다수의 옷을 벗기고, 단 1분 만에 성착취물로 만드는 것이 가능해졌다. “인간이 AI로 악마를 소환하고 있다”는 머스크의 말이 현실화한 모습이다.

“졸업사진 한 장이면 어떤 합성물도 가능” 

‘딥페이크(Deepfake) 성착취물’의 공포가 대한민국을 뒤덮고 있다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로, AI 기반의 인간 이미지 합성 기술을 뜻한다. 이 기술을 악용해 지인·친척 등의 얼굴에 성착취물을 합성해 허위 영상을 제작·유포한 범죄가 성행하고 있다. 피해자 중에는 대학생·여군·교사에 이어 미성년자까지 속출하고 있다.

교육부에 따르면 올해 접수된 학교 딥페이크 피해자 수가 196명(학생 186명, 교원 10명)에 달했다. 특히 전체 딥페이크 성범죄 피의자 중 대다수가 10대라는 사실이 드러나면서 전국 초·중·고교가 초긴장 상태다. 그간 손을 놓고 있던 정부는 뒤늦게 강력 대응에 나섰다. 다만 누구나 딥페이크 성착취물을 만들 수 있는 손쉬운 수준의 접근성에, 대책 실효성을 두고 의문이 제기된다. 8월27일 기자는 전문가와 함께 딥페이크 영상을 직접 제작해 보며 그 실상을 목격했다.

“너무 충격입니다. ‘현타’ 오네요.” 김덕진 IT커뮤니케이션연구소 소장은 딥페이크 영상 제작 시연을 위해 기자와 만나자마자 이같이 말했다. 김 소장은 최근 뉴스를 통해 딥페이크 성범죄의 심각성을 느낀 뒤 관련 사이트 및 활용 기술을 조사해 봤다고 한다. 그는 “딥페이크 기술이 악용되더라도 이렇게 (성착취물 제작) 서비스가 만들어질 줄 몰랐다”면서 “마치 인터넷이 처음 등장했을 때 포르노가 IT 발전을 가속화하던 때를 다시 보는 기분”이라며 안타까워했다.

현실은 처참했다. 이미 수많은 해외 웹사이트에선 딥페이크 포르노 제작 서비스가 제공되고 있었다. 한 웹사이트는 합성 대상의 인스타그램 등 SNS 링크만 입력해도 성착취물을 만들어낸다. 심지어 대상의 자세, 몸매, 생식기나 신체 일부의 크기 등을 사용자가 직접 조절하는 기능도 있다. 단순 합성을 넘어 신체를 생성하는 수준이다. 설정을 끝낸 뒤 “벗기기” 버트만 누르면 AI가 성착취물을 만들어내는 방식이다. 이 모든 과정에 2분이 채 걸리지 않는다.

김덕진 소장은 “인터넷 쇼핑몰에서 ‘옷 입히기’ 등 순기능으로 사용되던 기술이 역으로 옷을 벗기는 데 악용되고 있다”며 씁쓸함을 전했다. 그러면서 “최근 딥페이크가 너무 강력해졌다”며 “AI가 기존에 학습한 데이터를 기반으로 훨씬 빠르고 상세하게 결과물을 생성한다. 과거에는 1시간 걸리던 걸 이젠 단 한 번의 클릭으로 1분 만에 만들어낸다”고 설명했다.

합성 과정에 SNS가 꼭 필요한 것도 아니다. 기자가 시연 현장에서 찍은 얼굴 사진을 중국의 한 딥페이크 애플리케이션에 입력하자, 30초 만에 합성물이 완성됐다. 방법은 쉬웠다. ‘보기’로 제시된 여러 영상 중 하나를 선택한 뒤 사진을 입력하면 끝이다. 곧바로 연인이 애정 행각을 하고 있는 영상 속에 기자 얼굴이 합성됐다. 표정과 입 모양도 다양하게 연출됐다. 김덕진 소장은 “졸업사진 한 장이면 어떤 합성물이든 만들 수 있다”며 “CCTV, 블랙박스 등 내 사진이 언제 어디서 떠돌지 모르는 온라인 기반 세상에서 단순히 SNS 프로필을 내리는 건 의미가 없게 됐다”고 지적했다.

심지어 ‘실시간’ 딥페이크 영상 제작도 가능했다. 김덕진 소장이 오픈소스(개방형)에서 저장한 실시간 딥페이크 프로그램에 일론 머스크의 사진 한 장을 넣자, 김 소장의 얼굴이 곧바로 바뀌었다. 마치 라이브 방송에 일론 머스크가 출연한 듯한 광경이었다. 이 프로그램은 웹캠이나 비디오 소스에서 실시간으로 얼굴을 감지한 뒤 훈련된 모델을 사용해 다른 얼굴로 교체했다.

성범죄 소굴 된 텔레그램, CEO에게 책임 물어

가장 큰 문제는 딥페이크 성착취물의 유통 수단인 텔레그램이다. 로그인 등 기록이 남는 웹사이트·앱과 달리 텔레그램은 암호화된 비밀 채팅 기능으로 강력한 보안성을 갖췄다. 텔레그램이 수사기관의 추적을 피해 디지털 성범죄의 소굴로 전락하게 된 이유다. 미성년자·교사 대상으로 성착취물을 제작하고, 현역 군인들이 여군을 딥페이크로 합성하고, 수십 개 대학에서 ‘겹지인’을 능욕하는 등 최근 발생한 딥페이크 범죄 모두 텔레그램에서 발생했다.

텔레그램 내 딥페이크 성범죄엔 주로 ‘봇(Bot)’이 사용된다. 가해자가 딥페이크 성착취물 제작 툴을 만든 뒤 이를 봇을 통해 배포하는 식이다. 딥페이크 제작 툴을 만든 방법도 간단하다. 단순 코딩 지식만 있으면 바로 제작할 수 있을 만큼 쉽다. 특히 누구나 자유롭게 이용할 수 있는 오픈소스 AI 모델을 무료 다운로드하거나, 챗GPT 등 생성형 AI에 질문해 딥페이크 제작 툴을 만들 수 있다. 완성된 딥페이크 성착취물 제작 툴을 봇에 연결하면 사람들이 웹사이트에 들어오는 것과 같은 구조로 음란물을 만들 수 있다.

이 같은 봇은 수백 개씩 발견됐다. 서울경찰청 사이버범죄수사대는 8월28일 기준 딥페이크 관련 봇 8개를 확인하고 조사에 나섰다. 이들 봇에는 많게는 40만 명이 들어가 있는 것으로 알려졌다. 처음에는 무료로 딥페이크 합성물을 만들어주다가 이후 ‘다이아’를 내야 합성을 의뢰할 수 있는 구조다. ‘다이아’는 텔레그램에서 사용되는 화폐로, 익명성 보장을 위해 특정 가상화폐로만 구매할 수 있다. 기자가 확인해 본 봇은 친척 사진을 합성해 준다며, ‘옷 벗기기’ 시행을 위한 ‘코인’이 없을 경우 새로운 사용자를 초대해 코인을 획득하도록 홍보하기도 했다.

이러한 가운데 8월28일 프랑스 정부가 텔레그램의 공동 창업자 겸 최고경영자(CEO) 파벨 두로프를 예비 기소하면서 ‘범죄 방조’ 책임론도 불거졌다. 프랑스 수사 당국은 전 세계 9억 명의 사용자를 보유한 텔레그램이 마약 밀매, 조직범죄, 테러 조장, 사이버 폭력 등 각종 범죄 도구로 활용되고 있음에도 두로프가 적절한 조치를 취하지 않았다고 판단했다. 이에 두로프에 대한 출국 금지 명령도 내렸다. 한국뿐만 아니라 전 세계적으로 텔레그램 기반의 유사 범죄가 발생하고 있다는 방증이다. 이번 사건은 SNS CEO가 해당 플랫폼에서 벌어지는 범죄행위에 대해 형사적 책임을 요구받을 수 있단 점을 시사해 파장이 주목된다. 

국내에서도 본격 텔레그램 대응에 나섰다. 텔레그램은 그동안 국내 서버가 없어 규제 사각지대에 놓여 있었다. 이에 방송통신심의위원회는 텔레그램에 대해 직접 상시 협의할 수 있는 핫라인 확보, 시정 요청 협력 대상 업체에 공식 등재해 자율 삭제를 유도할 계획이다. 방심위는 또 페이스북·엑스(X)·인스타그램·유튜브 등 해외 플랫폼 사업자들과 협의체를 구성하고 영상 삭제·차단 조치 및 자율적인 규제를 강화할 방침이다.

처벌 수위 높여야 한다는 목소리 커져

딥페이크 성범죄는 수년 전부터 지속돼 왔다. 딥페이크 기술의 장벽이 점차 낮아지면서 10대 청소년들 사이에선 “한번쯤 해볼까”라는 호기심도 커진 모습이다. 그러나 이를 묵인해온 허술한 규제로 인해 “소 잃고 외양간 고치는 꼴”이라는 비난이 커지고 있다. 사안의 심각성에 비해 국내 처벌 수준이 낮다는 지적도 제기된다. 앞서 8월28일 법원은 서울대 졸업생들이 동문 여성의 얼굴을 합성한 성착취물을 제작·유포한 이른바 ‘서울대 N번방’ 사건의 공범에게 징역 5년을 선고했다. 재판부가 “허위 영상물 내용은 입에 담기 어려운 역겨운 내용”이라고 판단한 데 비해 솜방망이 처벌이라는 비판이 나온다.

현행법상 딥페이크 성범죄를 처벌할 수 있는 조항은 ‘성폭력 범죄 처벌에 관한 특례법 14조의 2’뿐이다. 이마저도 딥페이크 성착취물을 제작만 하고 유포할 목적이 입증되지 않으면 처벌할 수 없다. 해당 조항은 2019년 ‘N번방’ 사건이 터진 뒤에야 만들어졌다. 반면 해외에선 제작만으로도 처벌이 가능하도록 딥페이크 관련 법률을 손보고 있다. 최근 영국 법무부는 공유·유포 여부와 상관없이 딥페이크로 음란물을 만들기만 해도 처벌할 계획이라고 밝혔다. 미국 상원 의회에선 지난달 딥페이크 성착취물 피해자들의 피해를 보상하는 법안이 통과되기도 했다.

미성년자 대상 딥페이크 성범죄의 처벌 수위도 높여야 한다는 목소리가 크다. 김덕진 소장은 “성인물에 관대한 국가들도 미성년자를 성착취물로 만든 범죄만큼은 징역 1~2년 정도가 아닌 (인생을) 박살내는 수준으로 처벌하고, 사회적인 지탄도 매우 크다”며 “우리나라의 처벌은 그 정도가 아니라서 안타깝다”고 지적했다.

경찰청은 내년 3월까지 7개월간 특별 집중단속을 실시한다. 특히 초비상이 걸린 청소년들의 딥페이크 성범죄에 대한 총력전에 나설 방침이다. 경찰청에 따르면 올 1~7월 발생한 관련 범죄 전체 피의자 중 10대 비중은 무려 73.6%였다. 이에 대응해 경찰은 학교전담경찰관(SPO)을 중심으로 범죄첩보 수집, 경각심 제고를 위한 사례 중심 예방 교육·홍보 등의 활동을 병행하기로 했다.

교육부 또한 ‘학교 딥페이크 대응 긴급 전담 조직’(TF)을 운영하고, 가해 학생에 대해 최대 퇴학까지도 가능하다는 입장을 내놓았다. 한동훈 국민의힘 대표는 최근 알려진 가해자 일부가 촉법소년이기에 제대로 된 처벌이 어려울 수 있다는 지적이 나오자 “촉법소년 연령 하향 문제도 같이 생각해 봐야 한다”고 밝히기도 했다. 앞서 윤석열 대통령도 이번 사태와 관련해 디지털 성범죄에 대한 강력 대응을 촉구했고, 한덕수 국무총리  역시 “마약과 같은 수준의 단속부터 시작돼야 한다”고 강조했다.

한편 업계에선 ‘딥페이크를 걸러내는 기술’을 강화하려는 움직임도 나타난다. 국내 AI 스타트업인 딥브레인AI는 ‘딥페이크 탐지 솔루션’ 즉, 가짜영상과 진짜영상을 5~10분 이내로 탐지해 알려주는 기술을 내놓았다. 딥브레인AI는 “딥페이크 관련 범죄 피해를 최소화하고 원활한 수사 및 대응을 돕겠다”며 “초·중·고·대학을 비롯한 교육기관과 관공서 등에 딥페이크 탐지 솔루션을 1개월간 무료 지원할 것”이라고 밝혔다.