독도 헤엄치는 핑크 돌고래가 나타났다... 챗GPT 명령 1분만에 벌어진 일

"독도 앞을 헤엄치는 핑크 돌고래 사진을 만들어줘. 핑크색이 너무 진하면 그림 같으니 그림 같지 않게 사실적으로 만들어줘."

기자가 직접 챗GPT에 명령어를 입력해 만든 핑크 돌고래 이미지.

23일 본지 기자가 대화형 AI(인공지능) 서비스 '챗GPT'에 명령어를 넣은 지 1분도 채 안 걸려 주문에 딱 맞는 사진이 생성됐다.

독도를 상징하는 돌섬을 배경으로 핑크 돌고래 두 마리가 바다 수면 위로 얼굴을 내밀고 있는 모습이었다.

이 사진에 등장한 핑크 돌고래의 모습은 최근 미국 노스캐롤라이나 해안에서 발견됐다며 온라인상에서 입소문이 난 핑크 돌고래의 모습과 똑같이 닮아 있었다. 어떻게 된 일일까.

미국 노스캐롤라이나 해안에서 발견됐다는 핑크 돌고래의 사진이 페이스북 등 소셜미디어를 통해 확산됐다. 페이스북

◇美 해변에 핑크돌고래 등장... 모두를 속인 AI 생성 사진

최근 미국 노스캐롤라이나 해안에서 발견됐다는 핑크 돌고래의 사진이 페이스북 등 소셜미디어를 통해 확산되며 크게 화제가 됐다. 19일경 핑크 돌고래가 바다를 헤엄치는 사진이 엑스에, 핑크 돌고래가 해변으로 밀려온 사진이 페이스북에서 각각 공유되면서 "미국 노스캐롤라이나에 핑크 돌고래가 나타났다"는 확인되지 않은 소문까지 돌게 됐다. 여린 핑크빛을 띤 매끈한 피부를 지닌 돌고래의 모습은 너무너 현실성이 없어 보였지만, 돌고래가 헤엄치는 바다와 석양이 지는 해변의 모습이 너무나 사실 같았기에 이 사진의 진위 여부를 두고 의견이 분분했다.

네티즌들은 "분홍돌고래는 아마존에 서식하지 않나. 왜 노스캐롤라이나에 있나" "분홍돌고래는 담수에서만 서식하며 대부분 아마존강에서 발견된다. 어떻게 해변에 올 수 있는 건가" "담수 돌고래는 여기까지 오기 전 이미 죽었을 것" 등의 의문을 나타냈다. 일부 네티즌들은 "사람들이 얼마나 쉽게 속는 지 우습다" "아직도 이 페이지에 올라온 사진을 진짜라고 믿나" "돌고래가 유니콘을 타고 돌아갔다고 한다" 등 해당 사진이 가짜라고 주장했다.

이 사진의 진위 여부는 해외 팩트체크 사이트 '스놉스'를 통해 드러났다. 스놉스는 AI 감지 소프트웨어인 Hive를 통해 이미지를 실행한 결과 99%가 AI로 생성된 것으로 나타났다고 전했다. 스놉스는 "2024년 6월 19일, 노스캐롤라이나 해안에서 발견된 것으로 추정되는 분홍색 돌고래를 묘사한 일련의 이미지가 페이스북, 엑스, 틱톡, 인스타그램을 포함한 여러 소셜 미디어 플랫폼에서 입소문이 났다"고 소개했다. 특히 이 이미지는 페이스북 계정 'Alex Lex(알렉스 렉스)'가 만든 것으로 보이는데, 이 계정에서 만든 이미지가 다른 페이스북 계정 '아우터 뱅크스 바이브스(Outer Banks Vibes)'을 통해 급속하게 확산된 것으로 보인다.

분홍 돌고래는 존재하지만 극히 드물다. 두 가지 주요 종류가 있는데 아마존 강돌고래와 알비노 큰돌고래다. 아마존 강돌고래는 담수에서만 서식하며 주로 아마존 강 유역 등에서 발견된다. 아마존강 돌고래의 모습은 AI가 생성한 이미지에서 볼 수 있는 큰돌고래와는 확연히 다른 모습을 보인다. 일례로 아마존 강돌고래는 단색 회색부터 얼룩덜룩한 회색과 분홍색, 분홍색까지 다양하지만 AI가 생성한 이미지에서 묘사한 분홍색과는 차이가 있다.

◇"AI 이용한 가짜 이미지 급증" 우려도

인공지능(AI)이 만들어낸 이미지를 이용한 허위 정보가 지난해 초 이후 급증했다는 연구 결과도 있다. 지난달 29일(현지시간) 미 NBC 방송 등에 따르면 구글과 듀크대 연구팀은 팩트체크 사이트 및 미디어 단체와 최근 공동으로 집필한 논문에서 AI가 생성한 가짜 이미지가 2023년 초 이후 크게 늘어났다고 밝혔다.
연구팀은 팩트체크 매체 스노프스(Snopes)가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6천건의 팩트체크 사례를 분석했다. 논문에 따르면 지난해 3월 프란치스코 교황이 허리춤이 강조된 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 퍼지기 전만 해도 AI로 생성하는 가짜 이미지는 거의 없었다. 그러나 이후에는 AI가 생성하는 가짜 이미지는 텍스트나 포토샵 등 전통적인 방법으로 만들어지는 허위 정보와 비슷한 수준이 될 정도로 급격히 늘었다. 연구팀은 "허위 정보 가운데 AI가 생성한 콘텐츠가 크게 증가한 것은 빠르게 변화하는 환경을 보여준다"고 분석했다. 알렉시오스 만찰리스 국제팩트체킹네트워크 전 국장은 "생성형 AI 도구로 거의 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있게 됐다고 말했다.