도서 소개

어느 날 반 단톡방에 페이스앱을 활용한 프로필 사진이 올라온다. 너도나도 앱을 다운받아 가공한 자신의 사진들을 올리자 강루이는 “괴물 같은 사진들 좀 그만 올리라”고 급발진하며 친구들을 당황시킨다. 며칠 후 단톡방에 올라온 또 다른 영상은 강루이와 친구들을 뜻밖의 사건 한가운데로 이끈다.

‘딥페이크’ 범죄 피의자 5명 중 4명이 10대라는 통계가 있다. 범죄 악용의 빌미가 되는 부모의 셰어런팅(부모가 자녀의 일상을 SNS에 공유)이나 청소년 본인의 SNS 노출은 디지털 성범죄의 씨앗이 되기도 한다. 『용기까진 필요 없어』는 생성형 AI 모델과 관련한 사회적, 윤리적 문제를 부담 없는 서사적 전개를 통해 환기시키고 어떤 경우에도 장난으로 치부될 일이 아님을 자연스럽게 알 수 있도록 그린 작품이다.

  출판사 리뷰

영상은 더 교묘하게 합성되어 인스타에 퍼지고 있었다.
지독하게 잔인하게……
어느 날 반 단톡방에 페이스앱을 활용한 프로필 사진이 올라온다. 너도나도 앱을 다운받아 가공한 자신의 사진들을 올리자 강루이는 “괴물 같은 사진들 좀 그만 올리라”고 급발진하며 친구들을 당황시킨다. 며칠 후 단톡방에 올라온 또 다른 영상은 강루이와 친구들을 뜻밖의 사건 한가운데로 이끈다.
‘딥페이크’ 범죄 피의자 5명 중 4명이 10대라는 통계가 있다. 범죄 악용의 빌미가 되는 부모의 셰어런팅(부모가 자녀의 일상을 SNS에 공유)이나 청소년 본인의 SNS 노출은 디지털 성범죄의 씨앗이 되기도 한다. 『용기까진 필요 없어』는 생성형 AI 모델과 관련한 사회적, 윤리적 문제를 부담 없는 서사적 전개를 통해 환기시키고 어떤 경우에도 장난으로 치부될 일이 아님을 자연스럽게 알 수 있도록 그린 작품이다.

“처음부터 단톡방 인원이 한 명 더 많았어!”
민트 맛 피자 같았던 최악의 그날, 비밀과 거짓말의 문도 열렸다

『용기까진 필요 없어』의 주인공 강루이는 딥페이크로 인해 상처받고 누구에게도 마음을 열지 못한 채 살아가고 있다. 반 단톡방에 페이스앱을 활용하여 가공한 사진들이 유행처럼 올라올 때 자신도 모르게 “괴물 같은 사진들 좀 그만 올리라”며 급발진했던 것도 그 트라우마 때문이었다. 이로 인해 가뜩이나 묻는 말에 대답도 잘 하지 않는 루이에 대한 친구들의 반감은 더 골이 깊어진다.
그러던 중 조별 수행평가 과제로 찍은 동화의 춤 영상이 반 단톡방에 실수로 공유된다. 이 영상은 누군가의 의해 처음에는 인기 아이돌 가수의 몸으로 합성되었다가 그다음에는 돼지의 몸으로 변형되어 SNS를 통해 학교 밖으로 퍼져 나간다. 그리고 끊임없이 더 교묘하게 합성되어 지독하고 잔인한 조롱으로 동화를 괴롭힌다. 상처받은 동화를 지켜보며 강루이는 이번에야말로 도망가서는 안 되겠다고 결심한다. 그리고 결코 물러설 수 없는 이 싸움은 동화를 위한 것인 동시에, 강루이 자신을 위한 것임을 깨닫는다. 수행평가 조원들인 나드림, 유미소, 장하리도 강루이와 함께하기로 하면서 조금씩 사건의 실마리를 찾아 나간다. 그러는 동안 강루이는 아무에게도 드러내지 못한 채 오래 묻어 두었던 혼자만의 비밀을 용기 내어 꺼내 놓기로 결심한다.

인공지능 시대를 살아가는 우리 모두에게 던지는 질문

인공지능이 일상적으로 활용되기 시작하면서 디지털 범죄 또한 나날이 증가하고 있다. 미국에서는 14살 소년이 챗봇과의 대화 후 자살하는 사건이 일어났고 부모는 “취약한 미성년자를 표적으로 허구와 현실의 경계를 모호하게 만들기 위해 의도적으로 의인화된 특성을 가진 생성형 AI 시스템을 설계하고 개발하여 부모의 통제를 벗어나게 함으로써 정신적 고통을 가했다”면서 개발사에 소송을 제기하기도 하였다.
어린이청소년의 AI기술 활용이 일으키는 문제는 이미 전 세계적으로 사회적 이슈가 되고 있다. 그중 특히 딥페이크 범죄의 경우 피의자 다섯 명 중 네 명이 십 대라는 통계가 있을 만큼 심각하고 무엇보다 성범죄에 악용되는 경우가 많다는 점에서 문제적이다. 이 작품의 딥페이크 에피소드는 어쩌면 보기에 따라 가벼운 장난쯤으로 넘길 수 있을지도 모르겠다. 그러나 딥페이크 합성물이 좋은 의도를 갖고 만든 거라면 괜찮을까? 과연 타인의 동의 없는 행위는 어디까지 허락할 수 있고, 어디부터 안 되는 것일까?
작가는 말한다. 딥페이크 영상 뒤에 그 영상을 만든 사람이 있듯, 그 영상으로 인해 상처받고 고통 받는 건 결국 우리 곁에 함께 있는 사람들이라는 걸 생각하자고. 하여 주인공 루이와 그의 친구들의 깨달음은 작가가 독자에게 전하고 싶은 메시지이기도 하다. 비난과 혐오가 가득한 세상에서 가끔은 손바닥을 펼치는 일조차 아득하게 느껴질 수 있지만 그럼에도 꼭 쥔 주먹을 펼쳐 내밀어야 한다고, 꽁꽁 묶인 매듭은 오로지 손으로만 풀 수 있다고 말이다.




급발진. 맞다. 그냥 못 본 척할 걸 왜 참견했을까? 괴물들은 어느새 사라지고, 대신 나를 향한 따가운 메시지들이 연이어 쏟아지고 있었다. 내 편은 없었다. (

나드림과 강루이라니. 마치 민트 맛 피자를 받아 든 것처럼 아이들이 묘한 표정을 지었다. 하리가 얼굴을 찌푸린 채 중얼거리는 게 보였다. 하지만 차마 선생님 앞에서 ‘저 강루이랑 같은 조 하기 싫은데요?’라고 말할 용기는 없는 것 같았다.

  작가 소개

지은이 : 김윤진
제29회 MBC창작동화 장·단편 부문 대상을 수상하며 작품 활동을 시작했다. 늘 이야기 가까이에 머무는 사람이 되기를 꿈꾼다. 지은 책으로 단편동화집 『골목길의 다이아몬드』, 장편동화 『최고의 공개 수업』, 『엄마 레벨 테스트』가 있으며, 청소년 단편소설 「슛」을 『어린이와문학』 2024년 가을호에 발표하였다. 첫 청소년 장편소설 『용기까진 필요 없어』가 누군가의 마음에 가 닿아 보석처럼 빛나길 바라며, 오늘도 세상 곳곳에 놓인 마음들을 찾아다니고 있다.

  목차

최악의 하루 · 7 | 다큐멘터리의 시작 · 18 | 예쁘다는 말 · 32 | 사건의 시작 · 47 | 범인을 잡아야 하는 이유 · 62 | 용의자와 용의자 · 77 | 그날의 비밀 · 91 | 경고 · 104 | 따뜻한 손은 힘이 세다 · 119 | 유인 작전 · 132 | 진짜 브이 · 143 | 다시, 레디 액션! · 156 ∥ 작가의 말 · 170

  회원리뷰