보리스, “AI 이미지는 사진과 이런 대회에서 경쟁하면 안 돼” 수상 거부
생성 AI 사용해 ‘AI 대필’ 문제점... 여러 방법으로 대응하지만 한계 있어
AI가 만든 사진이 한 국제대회 사진전에서 우승작으로 선정되었다. 그러나 해당 사진의 작가는 “AI 이미지는 사진과 이런 곳에서 경쟁해서는 안된다”며 수상을 거부했다. 생성 AI로 인한 문제가 곳곳에서 터져 나오고 있다.
인공지능(AI) 기술이 전 세계의 이목을 끌고 있다. 생성 AI로 만들어낸 콘텐츠들이 인간이 만든 것보다 빠르고 훌륭하다는 것은 여러 실험을 통해 알려졌다. 최근 국제 사진전 ‘2023 소니 월드 포토그래피 어워드’에서 AI로 만든 이미지 ‘기억환각 : 전기기술자’가 우승작으로 선정되기도 했다.
해당 사진의 작가 보리스 엘닥센(Boris Eldagsen)은 AI로 만든 이미지라며 수상을 거부했다. 보리스 엘닥센은 “이런 대회들이 AI 이미지를 받아들일 준비가 되었는지 확인하고자 출품했다”며 “수상을 거부함으로써 해당 논쟁의 속도를 높이고 싶다”고 전했다.
‘기억환각 : 전기기술자’와 같이 AI로 만들어낸 이미지는 인터넷에 넘쳐나고 있다. 포털사이트에 ‘AI 그림“이라고 검색하면 AI로 그림을 만드는 사이트를 찾을 수 있다. 이렇게 콘텐츠 등을 만드는 AI를 ’생성 AI‘라고 한다. 생성 AI는 그림뿐 아니라 영상, 글 등 여러 방면에서 활용할 수 있다.
실제로 생성 AI를 통해 글을 작성해 봤다. 한 무료로 이용 가능한 생성 AI를 이용해 ‘꽃가루 주의보’라는 키워드를 입력한 후 ‘개요 가져오기’ 버튼을 클릭했다. ⓵ 꽃가루란 무엇이며 우리에게 어떤 영향을 미칩니까? ⓶ 꽃가루 알레르기의 일반적인 증상 ⓷꽃가루 알레르기 관리 요령, 3가지 개요가 나온 것을 확인 후 글을 생성했다.
약 3분 뒤, 사진 하나와 함께 약 2300자의 글이 하나 완성되었다. 중복되는 내용 삭제, 높임말을 낮춤말로 변경, 괄호 안에 담긴 출처 정보 삭제 3가지만 수정을 했다. 수정된 글을 모 대학교 미디어커뮤니케이션학과의 A교수에게 평가를 부탁했다.
A교수는 “전체적으로 괜찮은데, 몇몇 부분에서 주술관계가 이상하고, 평어체를 사용하다가 경어체로 바뀌는 것은 글의 통일성이란 측면에서 오점”이라며 “만약 이런 부분을 고쳐서 학생이 직접 작성한 것처럼 제출한다면 B+~A 정도 학점이 나올 것 같다”고 전했다.
이후 한 번 더 똑같은 조건으로 개요를 생성했다. 놀랍게도 이전과 다른 개요가 나온 것을 확인할 수 있었다. 다른 PC에서 다른 계정을 이용해 한 번 더 글을 생성해 본 결과에서도 전혀 다른 개요와 글이 생성되었다.
이처럼 과제나 시험 등을 생성 AI에 맡기는 ‘AI 대필’이 세계적으로 문제가 되고 있다. 일부 학교에서는 자필로 시험장에서 직접 시험지 작성, 교내의 Wi-Fi를 이용 시 생성 AI의 사이트 접속을 차단하는 등의 방법으로 AI 대필에 대응하고 있다. 하지만 대처가 불가능한 상황도 여럿 존재한다.
한편 AI 개발사 ‘오픈 AI’는 AI가 참여해 만든 텍스트인지 판별하는 AI인 ‘클래시파이어’를 개발했다고 지난 1월 밝혔다. 비슷한 기능을 가진 ‘GPT제로’, ‘디텍트GPT’ 등의 ‘AI 판별기’들이 꾸준히 개발되고 있다.
AI 대필 외에도 인류의 일자리 대체, 초상권 등 해당 기술이 발전하면서 여러 문제점들이 부각되고 있다. 이에 미국 비영리단체 ‘미래생명연구소’는 AI 개발을 잠시 중단하자는 서한을 공개했다. 2023년 4월 20일 오후 3시 52분 기준 해당 서한에는 2만 7572명이 서명했다.
