기존 음란물 필러팅 시스템 개조해 음란물 차단 적중률 99.5%로 진화
음란물의 4가지 등급인 정상, 음란, 성인, 선정 모두 구분 가능
n번방 사건 등 성범죄, 성착취물 관련 디지털 범죄가 등장하면서 건전한 인터넷 사용이 요구되는 가운데, 국내 대표 포털인 네이버가 음란 이미지 검색 노출을 막아주는 인공지능(AI)을 7월부터 적용하고 있다.
네이버는 연중 24시간 음란 이미지가 네이버에 등록되면, 이를 실시간으로 감지해 검색 노출을 막아주는 ‘엑스아이(X-eye) 2.0’을 7월부터 적용한다고 밝혔다.
네이버에 따르면, 지난 2017년 처음 선보인 음란물 필터링 AI 시스템 엑스아이는 네이버에 축적된 방대한 400여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했다. 엑스아이는 98.1%의 높은 적중률로 유해한 사진, 동영상을 실시간으로 걸러낸 바 있다. 기존에는 이미지 모니터링 담당자들이 조치를 취할 때까지 유해물이 노출된다는 단점이 있었다.
새롭게 선보이는 ‘엑스아이 2.0’은 기존 엑스아이 적중률 98.1%를 99.5%로 높여 판단 정확도가 진화했다. 네이버 AI 랩과 클로바가 진행한 선행 이미지 인식 기술 연구 결과들이 활용돼 적중률이 더욱 고도화된 것. 여기에 사용된 AI 기술로는 ▲속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 ‘렉스넷(ReXNet)’, ▲AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 ‘컷믹스(CutMix)’, ▲더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 ‘AdamP’ 등이 적용됐다.
특히 엑스아이 2.0은 구분할 수 있는 음란물의 등급도 확대됐다. 기존 엑스아이 1.0은 정상과 음란으로만 구분해낼 수 있었지만, 엑스아이 2.0은 정상, 음란, 성인, 선정 등 4가지 음란물 등급을 모두 판단할 수 있다.
또한 잘못 탐지할 가능성이 높은 사례를 보완하고 빠르게 자동 학습이 가능하도록 설계됐다. 이번 엑스아이 2.0은 문제되는 부분이 지나치게 작게 나오거나 희미한 경우, 극히 일부의 놓친 이미지 등도 정확하게 판단 가능하도록 고도화됐다.
소식을 접한 네티즌들은 “기술의 발전이다”, “성인인증 강화도 아니고 전면 차단하는 건가?”, “대박이다. AI 너무 신기하다니깐”, “유튜브에서 벌써 하고 있는 거 아니었나”, “AI 기술은 이렇게 좋아지는데 디지털 범죄 관련 처벌도 같이 좀 발전했으면 한다”, “진짜 4차 산업혁명 시대가 열린 건가” 등 다양한 반응을 보였다.
네이버 관계자는 “건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법 촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다”며 “추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정”이라고 전했다.
