AI로 만들어진 음란물 넘쳐나... 법적 규제도 안돼
기술이 발전함에 따라 콘텐츠를 제작하는 도구로써 인공지능 기술도 발전하고 있다. 인공지능 기술은 누구나 쉽게 접근하고 사용할 수 있다는 장점이 있다. 하지만 음란물과 같은 부작용이 사회 문제가 되고 있다.
생성 AI(Artificial Intelligence)는 텍스트, 이미지, 오디오 등 기존에 존재하던 콘텐츠를 활용해 이와 유사한 콘텐츠를 새롭게 만드는 인공지능 기술이다. AI를 이용한 그림은 평범한 사람들도 쉽게 이용할 수 있다. 프로그램에 따라 무료로 이용이 가능하고, 키워드만 입력하면 이용자가 원하는 그림을 만들어낼 수 있다.
하지만 그에 따른 부작용도 나타난다. 쉽게 접근하고 이용할 수 있다는 장점을 이용해 많은 양의 음란물이 제작되고 있는 것이다. 또한 여러 커뮤니티에서 이렇게 만들어진 음란물들이 쉽게 공유되고 있다. 한 포털사이트에는 관련 단어만 검색해도 눈살이 찌푸려지는 사진들이 나온다.
또한 AI가 그린 음란물의 모델이 실제 유명인과 비슷한 모습을 띄는 경우도 많아 논란이 되고 있다. 이러한 사진들을 본 이 모(25, 부산 해운대구)씨는 “많이 불쾌하다. 그리고 내 얼굴도 이렇게 나올 수가 있다는 건데 생각만 해도 기분이 나쁘다”고 전했다.
현재 이같은 행위를 법적으로 규제할 방법이 없다. AI가 그림을 만드는 방식은 인터넷에 돌아다니는 수많은 사진, 그림을 학습하고 조합하여 그려낸다. 이렇게 만들어진 그림은 여러 그림들을 무작위로 조합한 것이기 때문에 저작권, 초상권 같은 개념에서 벗어나게 된다.
2020년, 사람의 신체나 얼굴 등을 AI 기술을 이용해 기존에 존재하는 영상물에 입히는 ‘딥페이크’에 관한 법이 국회를 통과했다. 하지만 해당 법안은 딥페이크 이외에는 적용이 되지 않는다. 한 소프트웨어 관계자는 “기존의 것들을 합쳐 새로운 것을 만들어내는 생성AI에 관한 규범이 빨리 적용되지 않으면 기술의 발전에 따라 계속해서 논란이 생길 것이다”고 전했다.