원래 딥페이크 기술은 다른 사람 알몸에 연예인 얼굴 합성한 포르노 영상에 이용
최근, 딥페이크 이용한 사기 피싱 등장...움직이며 말하는 자식 얼굴에 안 속는 부모 없다
"보는 것이 믿는 것이다"라는 말이 있다. 하지만 기술의 발전에 따라 AI(인공지능)가 발달하면서 자신이 보고 있는 것이 진짜인지 가짜인지 구분조차 할 수 없는 시대가 오고 있다.
지난 2월 말, SBS 시사교양 프로그램 ‘그것이 알고싶다’에서는 ‘딥페이크 범죄’를 다뤘다. 방송에서는 딥페이크로 인한 다양한 피해 사례와 실험을 통해 딥페이크 범죄의 심각성을 보여줬다. 방송 이후 시청자들은 딥페이크의 양면성에 큰 충격을 받고 경각심을 높이고 있다.
딥페이크(deepfake)란 딥러닝(deep learning)과 페이크(fake)의 합성어로 인공지능 기술을 이용해 제작된 가짜 동영상을 일컫는다. 사진에서나 가능한 사람 몸과 얼굴을 다른 사람 것으로 합성하는 기술이, 인공지능 기반의 딥페이크 기술을 이용하면 영상에서도 사람의 몸과 얼굴이 움직이는 상태로 고스란히 다른 사람 것으로 합성된 가짜영상을 뚝딱 만들어낼 수 있다.
이런 첨단 조작 기술을 악용해 다양한 범죄들이 일어나고 있는데, 대표적으로 포르노 영상이 있다. 한 네덜란드 보안업체가 만든 보고서에 따르면, 전 세계 온라인 딥페이크 사용 목적의 96%가 포르노 영상이라는 것. 주로 한 여자 연예인들 얼굴과 다른 여성의 알몸 영상을 합성하여 딥페이크 영상을 만든다. CNN에 따르면, 이렇게 만들어진 포르노 영상을 판매하는 업체들도 생겨나 영상 하나당 3달러 약 3580원에 판매되고 있다.
최근에는 피해 범위가 연예인에서 일반인으로까지 광범위해지고 있다. 심지어 일반인에게는 금전을 요구하며 거부할 시 딥페이크 음란물을 퍼뜨리겠다는 협박까지 이뤄지고 있다. 협박을 당한 피해자들은 정신적 스트레스와 불안증세 심하면 우울증에도 시달리지만 정작 가해자들은 모니터 뒤에 숨어서 여전히 범죄를 저지르고 있다.
딥페이크를 이용한 범죄는 신종사기수법으로 발전될 가능성도 크다. SBS 시사교양 프로그램 ‘그것이 알고싶다’ 2월 27일 방영분에서는 딥페이크 피싱 실험을 진행했다. 영상에는 20대 실험 참가자 세 명이 등장했고 제작진은 참가자들 부모에게 참가자의 얼굴이 딥페이크된 영상을 보낸 뒤 신용카드 사진을 요구했다. 그러자 참가자 세 명 중 두 명의 부모가 큰 의심 없이 신용카드 사진을 찍어서 보냈다. 이에 참가자들은 “영상을 자세히 보지 않는 이상은 영상 속의 아들이 친자식이 아닌지 구분하기가 어려울 것 같다”며 “모르는 번호로 영상이 오면 피싱인지 아닌지부터 의심을 해야 할 것 같다”고 말했다.
하지만 딥페이크 기술이 꼭 범죄에만 사용되는 것은 아니다. 최근 일반인들도 딥페이크를 쉽게 할 수 있는 애플리케이션도 등장했다. ‘Avatarify’라는 앱을 이용하면 사진 한 장만으로 움직이는 영상을 만들 수 있다. 해당 앱의 한 이용자는 2019년에 돌아가신 아버지의 동영상이 하나도 없었는데 이 앱 덕분에 움직이는 아버지를 볼 수 있게 돼서 너무 행복하다고 리뷰를 남겼다. 그는 “늘 웃고 있는 사진이 눈도 감기고 입 모양도 바뀌며 움직이는 걸 보니 너무 행복하고 눈물이 난다”며 “딥페이크 앱에 감사하다”고 전했다.
이렇듯 딥페이크 기술은 잘 사용하면 긍정적인 도움을 줄 수 있지만 악용하게 되면 독이 될 수도 있다. 대학생 김예진(23) 씨는 “딥페이크의 미래는 무궁무진한데 범죄에만 계속 사용하게 되면 기술의 발전을 가로막을 수도 있을 것 같다”며 “딥페이크 범죄에 관한 법률을 강화하던가 단속을 철저히 해야 할 것 같다”고 전했다.
지난해 n번방 사건 이후 디지털 성범죄에 관련한 많은 논란으로 현재 관련 법도 제정된 상태다. 작년 10월 20일에 공포된 성폭력 특별법에 따라 허위영상 제작반포는 처벌이 가능해졌으며 그전에는 디지털 성범죄에 대해서는 보안처분이 없었지만, 제정 이후 성범죄 유죄처분을 받게된 가해자는 신상정보공개, 전자장치 부착, 취업 제한 등의 불이익이 있다.
한편 지난 10일 청와대는 딥페이크 기술을 통한 불법 합성물 반포행위는 명백한 범죄행위라며 끝까지 추적해 엄단하겠다고 발표한 바 있다.
