[한국심리학신문=배유원 ]

딥페이크 영상물과 중학생들

‘딥페이크 피해학교 지도’가 2024년 8월 27일, 온라인에 나타났다. 이는 생성형 인공지능(AI)의 딥페이크 기술을 활용해 만든 영상물 등에 대해 피해를 당했다고 신고된 초∙중∙고등학교와 대학교의 위치, 이름을 보여준다. 지도의 제작과 운영을 하는 중학생 개발자인 ‘데이터스택’은 28일 “이날 오전까지 피해 신고가 접수된 학교는 588곳”이라고 밝혔다. 경찰청에 따르면 허위 영상물 등에 관련된 범죄는 지난 2021년 156건을 시작으로 해마다 늘고 있다. 특히 10대들이 관련 범죄에 많이 연루되고 있다. 올해 7월 기준 허위 영상물 등 범죄 피의자 전체 178명 중 10대는 73.6%(131명)를 차지한다. 작년에는 120명 중 75.8%(91명)이었다. 

여기 또 다른 중학생이 있다. 중학교 2학년 남학생이 또래 여학생을 대상으로 딥페이크 성 착취물을 제작해 수사 기관 조사를 받는 중 해외로 출국해 피해자들이 분통을 터뜨렸다. 2024년 8월 29일, 뉴스 1에 따르면 경기 용인서부경찰서는 지난 20일 아동∙청소년의 성보호에 관한 법률 위반(딥페이크를 이용한 성 착취물 제작) 혐의로 김 모(14) 군을 수원지검에 불구속 송치했다. 김군은 해외 이민이 예정되어 있었기 때문에, 피해자 측은 도주 가능성을 우려하여 지난달 1일 경찰에 고소장을 제출하고 신속한 수사와 출국금지 신청을 요청했지만, 수사를 받는 도중 출국 정지 기간인 1달이 지났고, 이후 출국한 것이다. 이처럼, 기술의 발전으로 만들어지는 허위 영상물이 많은 사람에게 피해를 주고, 사회적으로도 큰 문제가 되고 있다. 

딥페이크 기술을 이용한 가짜 뉴스의 급증

 2024년, 미국은 대선을 앞두고 딥페이크와 AI 기술을 활용한 가짜 사진, 영상들이 쏟아져 나오면서 많은 사람들이 골머리를 앓고 있다. 2023년 5월, 미국 국방성 펜타곤에서 폭발이 일어났다는 설명과 함께 화재가 일어난 사진 한 장이 트위터(엑스)에 게시되었다. 이 게시글을 올린 계정은 트위터(엑스) 본사에서 믿을 만한 계정이라고 공식 인증한, 이른바 ’블루 체크’ 마크가 찍혀 있었고, 해당 게시물은 빠르게 퍼져 나가며 한때 뉴욕 증시가 급락하는 현상도 있었다. 하지만, 이 사진 역시 AI가 만든 가짜 사진이었다. AI 기술은 진짜와 가짜를 구분하는 것이 힘들 정도로 정교해졌고, 이를 통해 우리는 과거를 복원하는 등의 이로운 방향으로 이용할 수 있다. 하지만 이를 타인을 곤란하게 만드는 부분에 악용하면 본래의 기술 발달의 목적에 역효과를 낼 것이다. 

자극적인 가짜뉴스, 유행처럼 번지다

‘백종원의 안타까운 소식’. 한 유튜버가 자신의 영상에 올린 제목이다. 이 영상에는 백 대표가 100억 원의 유산을 남기고 사망했다는 가짜뉴스가 올라왔다. 이후 일부 유튜브에서도 비슷한 내용의 영상을 올리면서 허위 사실이 퍼졌다. 하지만 그는 얼마 후 “잘 있다”고 직접 근황을 공개했다. 2022년 앱, 소매(리테일) 분석 서비스 와이즈앱에 따르면 한국인이 가장 오래 사용한 앱 1위가 유튜브로 총 740억 분이다. 이는 카카오톡 296억 분, 네이버 197억 분보다 두세 배 차이가 났다. 이렇게 우리나라 사람들이 가장 오래 사용하는 앱에서 수익 창출을 목적으로 자극적인 제목, 이미지(섬네일) 등을 포함한 가짜뉴스가 많이 게시된다는 것은 분명한 문제이다. 자극적이고 모호한 말로 사람들을 속이는 이와 같은 행위는 지속되어서는 안 되고, 시청자 역시 영상을 꾸준히 확인하고 주의해야 한다. 

어쩌면 우리는 편을 가르는 데에 너무 익숙해져 있는지도 모른다.

가짜뉴스로 인해 언론 전체가 비난받으며 질 좋은 기사를 위해 두 발 벗고 뛰어다니는 좋은 기자들까지도 정당한 대우를 받지 못하고 있다. 기자와 쓰레기의 합성어인 ‘기레기’라는 신조어까지 생겨난 지금 기자의 전문성을 떨어뜨리고 저널리즘의 수준을 낮추는 가짜 뉴스들은 어쩌면, 편을 가르고 서로를 공격하기 위한 수단으로 사용되는 것 같다.

언제부터 우리는 자기편만 보호하고 상대편은 일방적으로 존재하지 않는 사실로 상대를 비난하며 공격하는, 전투태세를 갖추게 되었을까? 언제부터 우리는 뉴스를 볼 때 ‘사실 확인’을 하면서 믿을 만한 정보인지 검증하는 과정을 거쳐야 하게 되었을까? 네 편 내 편 나누지 않고 우리 모두 같은 편을 하는 방법도 있지 않을까?

 1) [조선일보]. (2024). URL: https://biz.chosun.com/topics/topics_social/2024/08/28/KMBMKDYBZBFDDF4KIKQGVTE33A/

 2) [네이트 뉴스]. (2024). URL: https://news.nate.com/view/20240829n05813

 3) [The JoongAng]. (2023). URL: https://www.joongang.co.kr/article/25164636