학교에서 돌아온 6학년 딸이 “오늘 큰일이 있었다”라고 말을 꺼냈다. 같은 반 아이 A와 옆 반 아이 B 사이에 싸움이 있었다. 두 아이가 온라인 단체 채팅방에서 대화하던 중 다퉜고, 학교에서 만나 얘기하기로 했다고 한다. 처음엔 말싸움었지만 곧 몸싸움으로 번졌다. 옆 반 아이들 여럿이 나와 B의 편을 들면서 A를 때리고 밀쳤다. 일부는 핸드폰을 꺼내 A가 맞아서 바닥에 쓰러지는 장면을 비디오로 찍은 뒤 그것을 스냅챗에 올렸다. 맞아 쓰러지는 장면이 퍼지면 몸만 다치는 게 아니라 마음도 다친다. 딸은 A와 가까운 친구는 아니지만 이건 아니다 싶어 다른 친구들과 함께 A를 데리고 교내 소셜워커(학교에서 근무하는 사회복지사)에게 갔다. 목격한 일을 설명하고 도움을 청했다. 신체 폭력일 뿐 아니라 사이버불링(온라인 공간에서 벌어지는 모욕·협박·따돌림 등의 폭력)에도 해당하는 심각한 일이었지만 소셜워커가 딱히 할 수 있는 일은 없었다. A가 크게 다치지 않기도 했고, 이런 일이 워낙 자주 일어나서 일일이 개입하기가 불가능하기 때문이다. 소셜워커는 ‘스냅챗 영상을 지우고 앞으로 싸우지 마라’ 정도로 얘기하고 아이들을 돌려보냈다고 한다. 

학교폭력은 새로운 문제가 아니다. 하지만 A가 겪은 일에서 보듯 온라인과 오프라인이 밀접하게 연결되면서 폭력의 양상이 더 넓고 복잡해졌다. 이것이 가능해진 환경, 즉 청소년의 디지털 미디어 사용 정도를 우선 눈여겨볼 필요가 있다. 스위스 청소년의 미디어 사용에 대한 가장 광범위한 연구는 취리히응용과학대학(ZHAW)에서 발표하는 ‘제임스(JAMES) 스터디’다. 12~19세 청소년 1000명 이상을 2년마다 설문조사하는데, 문항이 같기 때문에 시기별 트렌드 차이를 볼 수 있는 좋은 자료다. 최근 연구인 2022년 설문 결과에 따르면, 스위스 청소년들의 평균 인터넷 이용 시간은 주중 3시간46분, 주말 5시간13분이다. 이 시간에 온라인으로 취미 활동도 하고 친구들과 우정도 쌓지만, 범죄에도 노출된다.

가장 눈에 띄는 부분은 온라인 성범죄와 사이버불링의 증가다. 설문에 응한 청소년의 약 절반(47%)이 온라인에서 낯선 사람으로부터 원치 않는 성적 접근을 받았다고 답했다. 이 비율은 2014년(19%)에 비해 두 배 이상 높아진 수치다. 예상 가능하다시피 여성 청소년(60%)의 피해가 남성 청소년(33%)보다 훨씬 컸다. 자신에 대한 거짓 또는 부정적 내용의 정보가 비공개 채팅방 등을 통해 퍼진 적이 있다고 답한 응답자는 전체의 38%였다. 더 나아가 누군가 온라인에서 자신을 망가뜨리려는 목적으로 심한 공격(온라인 배싱·online bashing)을 한 적이 있다고 대답한 응답자는 전체의 29%였다. 2014년과 비교하면 10%포인트 이상 증가한 수치다.

온라인 성범죄와 사이버불링이 첨단 인공지능(AI) 기술과 만나면 더 큰 문제로 이어질 수 있다. 딥페이크 기술을 이용한 성범죄다. 실제 얼굴과 다른 사람의 나체를 조합해 포르노 사진이나 영상을 제작한 뒤 제3자들과 공유하거나, 이것을 무기 삼아 협박하는 성 착취 범죄로 이어지기도 한다. 비공개 채팅방이나 폐쇄적인 커뮤니티에서 일어나는 일이고 피해자들이 신고를 꺼리는 경우가 많아 정확한 범죄 규모를 파악하기조차 어렵다. 이와 관련해 얼마 전 스페인에서 일어난 사건은 여러모로 경각심을 준다.

“소녀들아, 신고하는 걸 두려워하지 마라”

스페인 남서부에 있는 인구 3만명의 작은 도시 알멘드라레호에서 지난 9월 생긴 일이다. 〈엘파이스〉 등의 보도를 종합하면 전말은 다음과 같다. 긴 여름방학이 끝나고 학기가 시작된 첫날, 14세 여학생 I는 학교에 갔다가 이상한 소문을 듣는다. 몇몇 여학생의 나체 사진 파일이 돌아다닌다는 것이다. 곧이어 한 친구가 I에게 와서 “너의 나체 사진도 봤다”라고 말했다. 그런 사진을 찍은 적이 없어 당황하기도 하고 무서웠던 I는 집으로 돌아가 바로 엄마에게 이 사실을 전한다. I의 엄마는 어떻게 된 일인지 알아내려고 다른 부모들과 얘기를 하던 중 피해자가 더 많다는 걸 알게 된다. 알멘드라레호에는 중고등학교가 총 5개 있는데, 그중 4개 학교에서 여학생들의 딥페이크 나체 사진이 퍼졌다.

피해자가 다수라는 것을 알게 된 부모들은 와츠앱에 단체 채팅방을 만들어 공동 대응을 준비했다. 채팅방을 만든 첫날에만 피해자 27명이 모였다고 한다. 피해자 부모 중에는 딸 넷을 둔 산부인과 의사 미리암 알 아디브도 있었다. 그는 딸에게 일어난 일을 듣고 충격에 빠졌지만 이 사건을 더 널리 알려야겠다고 생각했다. 인스타그램에서 여성의 성 건강 등에 대한 정보를 올려 팔로어가 14만명 있었던 알 아디브는 자신의 채널을 통해 알멘드라레호 중고등학교에서 생긴 딥페이크 사건을 알린다. 이런 메시지도 덧붙였다. “소녀들아, 이 사건은 이 상태로 머물러 있지 않을 거다. 이걸 당장 멈추기 위해 우리가 여기 함께 있다. 남의 사진을 이용해 야만적인 짓을 하고 퍼뜨리는 건 아주 심각한 범죄다. 소녀들아, 신고하는 걸 두려워하지 마라. 엄마에게 말해라. 그리고 이 사건에 관련된 어머니들, 저에게 연락하세요. 우리가 만든 그룹에서 함께 대응합시다.” 알 아디브가 9월17일에 올린 영상은 약 두 달 만에 조회수가 20만 건에 육박했다.

스페인 경찰의 대응은 빨랐다. 사건 발생 2주 만에 딥페이크물을 만들고 퍼뜨린 학생 총 26명이 조사를 받았다. 이 중 5명은 14세 미만으로 기소가 면제되지만 나머지 21명은 형사처벌을 받게 된다. 검찰에 따르면, 직접 제작한 학생들에게 적용 가능한 혐의는 세 가지다. 첫째, 아동 음란물 소지다. 나체 사진이라고 해서 다 음란물은 아니다. 노골적으로 성적인 의미를 담고 있는 사진, 즉 성기가 노출되었거나 성적인 자세를 취한 사진이 이에 해당한다. 둘째, 미성년자의 존엄성을 훼손하고 수치심을 유발한 죄로, 현재 가장 확실한 혐의다. 셋째, 사생활 침해다. 공개되지 않았던 얼굴 사진을 사적으로 취득했다면 이 혐의를 적용할 수 있다.

10대 청소년들이 어떻게 딥페이크 기술을 이용해 같은 학교 여학생들의 사진을 조작했을까. 유포된 사진들 중 일부에는 파리 모양의 로고가 포함되어 있었다. 이것은 실제 사진을 올리면 나체와 합성해주는 클로드오프(clothoff)라는 앱의 로고다. 클로드오프 웹사이트 첫 화면에는 한 여성이 옷을 입은 모습과 벗은 모습이 교차 반복되며 나온다. 이런 슬로건도 있다. “클로드오프로 누구든 옷을 벗기세요!(Undress anybody with Clothoff!)” 이 웹사이트에는 스마트폰 앱스토어에서 검색되지 않는 이 앱을 설치하는 방법도 나와 있다.

딥페이크가 사회적 문제가 된 지는 그리 오래되지 않았다. 2010년대 중반부터 배우, 가수 등 유명인들의 딥페이크 포르노물이 불법 유포되기 시작했다. 공개된 사진과 영상이 많으니 비교적 단순한 기술로도 가능했다. 딥페이크에 이용되는 AI 기술이 갈수록 정교해지고 관련 앱들이 출시되자 전문 지식이 없는 보통 사람들도 딥페이크 포르노를 만드는 게 쉬워졌다. 사이버 성범죄에 대해 연구하는 펜실베이니아대학 소피 매덕스 연구원은 IT 전문 매체 〈와이어드〉와의 인터뷰에서 딥페이크 유포를 ‘엔데믹(고질적인 풍토병)’에 비유하며 이렇게 말했다. “이것(딥페이크)은 매일, 모든 학생, 모든 성인들을 타깃으로 삼는다. 일상이다. 기술 접근을 좀 더 어렵게 하는 것만으로도 큰 변화가 생길 것이다. 2초 만에 성범죄가 가능해져서는 안 된다.”

핸드폰만 빼앗는다고 문제 해결되나

경찰이 가해자를 적발했으니 처벌하고 제작된 딥페이크물을 지우면 문제가 끝나는 것일까. 영상이 사라져도 그걸 본 사람들의 머릿속에서까지 지워지는 건 아니다. 게다가 가짜로 합성된 영상이라는 걸 알더라도 그 내용은 계속 영향력을 발휘한다. 미디어 영향에 대한 고전적 이론인 ‘수면자 효과(sleeper effect)’가 이를 설명한다. 예일대학에서 메시지의 설득 효과에 대해 연구하던 학자 호블랜드와 와이스는 메시지의 출처가 사람들의 의견에 얼마나 영향을 미치는지 알아보기 위해 1951년 실험을 진행했다. 한 주제에 관해 신뢰도가 높은 출처와 신뢰도가 낮은 출처로 나누어 메시지를 전달한 다음, 사람들이 그 내용에 얼마나 동의하는지 설문조사를 했다. 예를 들어 ‘의사처방 없이 항히스타민제를 판매해도 되는가’라는 주제에 대해 의학 저널의 메시지와 비전문가의 기고문을 각각 보여줬다. 메시지를 받은 직후에는 예상대로 신뢰도가 높은 출처의 설득력이 높았다.

그런데 2주쯤 지나 다시 묻자 뜻밖의 결과가 나왔다. 의학 저널의 정보는 시간이 지나면서 설득력이 감소했고, 비전문가의 주장은 반대로 설득력이 높아진 것이다. 다른 실험들에서도 비슷한 결과가 나왔다. 그 이유로 제기된 여러 가설들 중 하나는 메시지의 출처와 내용이 분리되어 각각 잊히는 속도가 다르다는 점이다. 즉 사람들은 수상쩍은 출처 자체는 잊어버리고 메시지 내용만 오래 기억한다. 어디서 그걸 들었는지 꿈꾼 듯 희미해진다는 뜻에서 수면자 효과라는 이름이 붙었다. 부정확한 광고나 정치적 프로파간다, 네거티브 선거운동 내용도 수면자 효과 때문에 영향력을 발휘한다. 딥페이크 포르노도 마찬가지다. 조작된 출처는 잊히고 그 내용만 기억에 남는다. 사후 대응만 해서는 안 되는 게 그 때문이다.

그러면 사전 대응은 어떤 것인가. 벌어지는 문제가 너무 심각하다 보니, 많은 학교에서 발등의 불을 끄는 심정으로 휴대전화 금지 조치를 취하는 경우가 늘고 있다. 프랑스는 2018년 9월부터 교실, 운동장 등 학교 영역 내에서 휴대전화 사용을 금지했다. 15세까지 적용되는 이 금지안은 마크롱 대통령의 대선 공약이었다. 아일랜드의 소도시 그레이스톤스에서는 고등학교 입학 전까지 아동과 청소년들이 집, 학교 어디서든 휴대전화를 쓰지 않기로 지난여름 합의를 했다. 8개 학교와 학부모들이 참여한 강제력 없는 협정임에도 큰 화제가 되었다. 스티븐 도널리 아일랜드 보건장관은 이를 전국적 정책으로 추진하겠다는 의지를 밝혔다. 가장 강력한 규제는 중국에서 나왔다. 밤 10시부터 아침 6시까지 청소년의 스마트폰 사용을 금지하고, 나이별로 하루 스마트폰 사용 시간에 제한을 두는 내용이다. 이런 규제들을 보고 있자면 청소년 보호라는 명목을 이해하면서도 의문이 생긴다. 누구나 무료로 이용 가능한 딥페이크 제작 사이트가 인터넷에 널려 있는데, 본인인증 없이도 포르노물을 마음껏 인터넷에 올릴 수 있는데, 아이들 핸드폰만 빼앗는다고 문제가 해결될 것인가. 이것이 2초 만에 온라인 성범죄가 가능해진 이 시대 엔데믹에 대응하는 방식인가.