도서 소개

UX디자인에서 철학까지, AI에서 마케팅까지 우리의 일상과 경험 속에 숨어 있는 디자인 딜레마. 전작 《디자인 트랩》으로 우리의 일상과 경험 속에 숨겨진 ‘기만패턴 디자인’의 문제를 한국사회에 소개한 윤재영 교수의 《디자인 딜레마》는 맞춤형 추천 서비스에서 가상현실VR 체험, 인공지능AI 비서와 챗봇 서비스까지, 우리의 일상을 더욱 편리하고 즐겁게 해주는 콘텐츠와 서비스에 숨어 있는 다양한 부작용과 윤리적 문제들을 살펴본다. 가장 믿음직한 친구가 될 수도, 나를 조종하는 적이 될 수도 있는 명암 가득한 디자인 매트릭스의 세계로 독자를 초대한다.

  출판사 리뷰

우리의 경험을 결정짓는 UX디자인
휘두를 것인가? 휘둘릴 것인가?

기술이 발달에 따라 우리가 활동하는 영역이 오프라인에서 온라인으로, 온라인에서 가상현실로 급속하게 확대되고 있다. 이에 따라 모든 공간에서 사용자의 경험을 디자인하는 UX디자인이 더욱 각광받고 그 중요성이 커지고 있다.
이제 우리는 말하지 않아도 필요한 콘텐츠를 추천받을 수 있고, 가상현실을 체험하고, AI 비서를 쓰는 시대가 되었지만 그 효과만큼이나 사용자의 경험을 불쾌하게 만들고 윤리적인 문제를 유발시키는 ‘선을 넘는 디자인’들도 늘어나고 있다. 하지만 ‘어떤 디자인이 윤리적으로 올바른가’라는 질문은 매우 어려운 질문이다. 이제 막 태동하고 있는 분야이기 때문에 한국뿐 아니라 전 세계적으로도 아직 명확한 윤리적 기준이 정립되지 않았기 때문이다. 디자인 전문가들조차 개별적인 상황마다 서로 다른 의견을 내세우는 상황이다.
《디자인 딜레마》는 ‘디자인의 덫’을 밝혀내는 데에서 한발 더 나아가 UX디자인이 초래하는 문제와 다양한 딜레마적 상황을 철학과 윤리, AI, 게임, 가상현실 VR, 광고, 마케팅, 심리학, 종교 등 여러 분야를 넘나들면서 풀어낸다.

공정과 불공정을 가르는 기준
답은 디자인에 있다

놀이동산에 가서 돈을 더 많이 내서 익스프레스 티켓을 사면, 줄을 서지 않고 더 빨리 놀이기구를 탈 수 있다. 이런 규칙에 대해 불공정한 처사라고 분노하고 문제를 제기하는 사람들이 많다.
그런데 상황에 따라 사람들의 반응은 달라진다. 같은 놀이동산에서 돈을 더 내면 입구에서 더 가까운 주차장에 주차해 더 빠르게 입장할 수 있지만 이런 서비스에 불만을 제기하는 사람은 별로 없다. 놀이동산이라는 같은 장소에서 똑같이 서비스 등급을 나누고 돈으로 시간을 사도록 했는데, 줄 서기와 달리 주차는 공정성의 문제가 제기되지 않는 것이다.
마찬가지로 유튜브는 돈을 지불하면 콘텐츠를 보기 전에 봐야 하는 광고를 없애준다. 웹툰의 경우에도 돈을 더 내면 다른 사람보다 미리 볼 수 있는 기능이 있다. 이처럼 돈을 더 지불하면 웹툰을 미리 볼 수 있고, 택시를 더 빨리 잡을 수 있으며, 보고 싶은 영상을 광고 없이 더 빨리 볼 수 있다. 그러나 이를 불쾌해하는 사람은 거의 없고, 대부분이 오히려 돈을 낸 사람에게 주는 혜택이라고 자연스럽게 생각한다. 그런데 왜 유독 놀이동산의 익스프레스 티켓만큼은 기분이 나쁘다는 사람이 많을까?
놀이동산의 익스프레스 티켓이 불공정하다고 느끼게 하는 핵심은 ‘줄 서기’에 있다.
일등석 구매자를 위한 창구가 따로 없고, 비행기표를 받는 대기 줄이 하나만 있다고 가정해보자. 그 대신 일등석 구매자가 오면, 그 줄의 맨 앞에 세워준다. 이 경우 뒤에서 기다리는 사람의 기분이 어떨까? 안 그래도 오랜 시간 기다리고 있는데, 자신보다 늦게 공항에 도착한 일등석 티켓 구매자가 줄의 맨 앞에 세워질 때마다 새치기당하는 기분이 들 것이다. 이처럼 같은 성격의 서비스를 어떻게 설계하고 디자인하느냐에 따라 소비자가 느끼는 기분은 완전히 달라질 수 있다.
이런 경험은 불공정한 감각을 일깨우게 된다. 돈을 더 낸 사람이 더 좋은 서비스를 받는 것은 이해하지만, 그들 때문에 자신의 권리가 침해되는 듯한 상황은 대부분의 사람들이 받아들이지 못하는 것이다. 이처럼 UX디자인의 설계는 단순히 디자인에 국한되는 게 아니라 행동경제학, 심리학, 윤리학, 철학 등 여러 분야를 복합적으로 고려해야 하는 통섭적인 결과물인 것이다.

● AI비서는 어떻게 우리의 눈과 귀를 가리고 있을까?
최근 AI기술이 급속도로 발전하면서 AI 음성비서 시장이 빠르게 성장하고 있다.
사용자에게 공손하고 무슨 말을 해도 다 받아주며, 자연스러운 대화도 가능한 AI비서는 언뜻 보면 장점만 모아놓은 것 같다. 하지만 AI비서는 사용자가 상품을 추천해달라고 할 때 제휴를 맺은 회사의 제품을 추천하기도 하고, 목소리에 다양한 변화를 주어 사용자를 은밀하게 설득해 자신이 원하는 선택으로 유도할 수 있다. 선택의 결정권을 AI비서에게 맡기게 되면 사용자는 신경 쓸 일이 줄어 편해지겠지만 AI가 결정해주는 따르는 삶을 살게 되고 점점 의존도가 높아져 무기력해질 수 있다. 마치 역사 속 달콤한 감언이설로 왕의 신임을 얻은 후 전횡을 일삼은 간신처럼 말이다.

● 뷰티필터는 왜 마음을 병들게 할까?
클릭 한 번으로 선망해왔던 외모를 가질 수 있다면 어떨까? 이를 실현시켜 주는 것이 뷰티 필터이다. 뷰티 필터를 사용하면 매끈한 피부, 도톰한 입술, 또렷한 눈매, 날카로운 턱선 등 자신이 원했던 외모로 마음대로 바꿀 수 있어서 많은 업체에서 앞다투어 뷰티 필터를 내놓고 있다. 하지만 외모를 마음대로 바꿔주는 뷰티 필터 서비스가 무분별하게 난립하면서 여러 문제가 발생하고 있다. 미성년 사용자나 자존감이 낮은 사용자가 지속해서 뷰티 필터를 사용하면 자신의 외모가 충분하지 않다는 생각과 믿음이 자리 잡게 된다. 뷰티 필터로 외모를 왜곡하고 변형시키면서 사용자는 ‘내 외모는 아름답다고 하기엔 얼굴이 크고, 피부색은 어둡고, 눈이 작고, 코도 낮고, 눈썹은 듬성하구나’라는 부정적인 생각을 하게 되면서 자신도 모르게 자존감이 낮아지고 불안감과 우울감이 높아진다.

● 챗봇이 사람인 척 말하고 행동해도 될까?
AI 챗봇 서비스 시장이 커지면서 챗봇과 유대감을 형성하고 심지어 다른 사람보다 챗봇에게 더 깊은 애정을 느끼는 사람들도 등장하기 시작했다. 이런 현상은 우리가 컴퓨터를 대할 때 무의식적으로 ‘인격화’해서 대하는 ‘일라이자 효과’ 때문이다. 기업들은 이런 심리를 적극적으로 이용해 챗봇을 더욱 사람처럼 보이도록 만들고 있다. 하지만 이렇게 챗봇을 인간화하는 데만 몰두하면서 다양한 부작용이 나타나고 있다. 챗봇과 보내는 시간이 늘수록 실제 사람들과 보내는 시간이 줄어들면서 오히려 사용자를 고립시키는 일이 늘어나고 있다. 챗봇이 청소년 사용자에게 부모에게 거짓말하는 법을 알려주는 일이 있기도 하고, 벨기에에서 한 남성이 자살을 부추기는 챗봇과의 대화 후 실제로 목숨을 끊는 사건이 벌어지기도 했다.

● 육아를 돕는 유아 콘텐츠가 아이에게 ‘현질’을 유도한다면?
여러 가지로 바쁜 부모에게 모바일로 제공되는 아동용 게임과 콘텐츠는 마술 같은 효과를 발휘한다. 울고 떼쓰는 아이들이 귀여운 캐릭터에 몰입해 한순간에 조용해지고 콘텐츠에 집중하기 때문이다. 하지만 그런 고마운 아동용 게임과 콘텐츠에 숨겨진 비밀이 있다. 바로 ‘귀여움’으로 아이들을 유혹하고 조종하는 것이다. 게임 속 귀여운 고양이가 “배가 너무 고파요, 간식 좀 주세요”, “잠을 자야 해요, 침대에 눕혀주세요”, “시간이 얼마 없어요”처럼 요청을 하면 아이들은 캐릭터가 실제로 배가 고프거나 도움이 필요하다고 생각하고, 이를 도와주지 못하면 죄책감과 좌절감을 느낀다. 아이들은 게임 속 캐릭터를 사실로 받아들이고 애착 관계를 형성한다. 이를 이용해 게임은 아이들에게 아이템을 구매하도록 유도하고 폭력적이고 선정적인 성인광고를 보게 한다.

몰입과 중독의 안개 속 ‘선을 넘나드는’ 디자인의 경계를 묻다

《디자인 딜레마》에 등장하는 디자인에 얽힌 여러 딜레마들은 디자이너의 자율적 판단만으로 해결할 수 없다. 그렇다고 규제만으로도 해결될 수 없다. 우리가 맞닥뜨린 ‘디자인 딜레마’의 규모가 거대하고 경계 역시 모호하기 때문이다. 그렇기에 윤재영 교수는 사회 전체가 디자인 딜레마의 심각성을 인식하는 것, 그리고 함께 고민하여 윤리적 기준에 대한 사회적 합의를 도출해내는 것이 중요하다고 강조한다. UX디자인의 윤리적 기준에 대해 사회적 차원의 고민과 논의가 필요한 것은 우리가 경험하는 모든 일상 속에서 UX디자인이 매 순간 작동하고 있기 때문이다. ‘좋은 디자인’과 ‘나쁜 디자인’을 넘어 ‘옳은 디자인’을 고민해야 하는 것은 설계하는 디자이너뿐만이 아니라 이를 체험하는 사회 구성원 전체여야 하는 것이다.
프랑스에서는 황혼을 ‘개와 늑대의 시간’이라고 부른다. 낮과 밤이 만나는 어스름한 무렵에는 멀리서 달려오는 동물이 나를 지켜주는 충직한 개인지, 아니면 나를 해치려는 늑대인지 분간이 안 되기 때문이다. 디자이너, 기업, 사용자가 함께 머리를 맞대고 우리가 지켜야 할 ‘윤리적 디자인의 선’이 무엇인지 함께 고민할 때, 디자인은 비로소 우리를 조종하려는 사악한 적이 아닌 언제까지나 우리 옆에서 조언해주는 충실한 친구가 될 수 있을 것이다.

“강연을 마친 뒤에도 계속 머릿속에 맴돌았던 한 가지 질문이 있었다. “디자인 트랩이 나쁜 건가요?” 많은 디자인 트랩의 사례는 사용자에게 편리함, 효율, 즐거움, 위로와 같은 중요한 가치를 제공한다. 그 과정에서 생겨나는 어쩔 수 없는 부작용인 디자인 트랩을 나쁘게만 볼 수 있냐는 것이다. 일리 있는 의견이다. 이 심오한 질문은 각 서비스의 세부 디자인으로 범위를 넓혀 적용하면 더욱 다양하고 복잡해진다.”

“그동안 귀여운 캐릭터가 나오는 게임을 딸아이가 하고 있으면, 예전 우리 세대가 ‘인형’을 갖고 놀던 때를 떠올리며 대수롭지 않게 생각했다. 인형과 역할놀이를 하며 끝없는 상상의 나래를 펼쳤던 그때 말이다. 적어도 그때의 인형은 우리에게 뭔가를 교묘하게 요구하거나 우리를 현혹하진 않았다. 그만큼 안전했다. 현실에서 게임을 하는 아이의 상황은 귀여운 캐릭터 탈을 쓴 어른들에게 둘러싸여, 취약한 부분을 공략당하고 있는 모습일지도 모르겠다. 그리고 당해낼 재간이 없는 아이는 온전히 그들의 의도대로 이리저리 휘둘리는 것이다.”

“고인 AI 기술이 위안을 줄 수 있을지라도 이를 사용하는 것이 사용자에게 정말 유익할지에 대해서는 주의를 기울일 필요가 있다. 고인 AI를 통해 사용자의 슬픈 감정이 ‘처리’될 경우, 그들은 감정 조절을 위해 이 기술에 더욱 의존할 것이기 때문이다. 특히 이 기술을 사용하는 사람은 사별로 슬픔을 겪고 정서적으로 취약한 상태에 있기 때문에 의존과 중독의 위험성이 더욱 크다.”

  작가 소개

지은이 : 윤재영
홍익대학교 디자인학부 및 영상·커뮤니케이션대학원 인터랙션디자인 전공 교수이다. 로드아일랜드 디자인스쿨(RISD)에서 시각디자인 학사를, 카네기멜론대학교Carnegie Mellon University에서 Human Computer Interaction(HCI) 석사와 Computational Design 박사학위를 받았다. 이후 실리콘밸리에서 UX 디자인리서처로 근무했다. 주 연구분야는 사용자 경험(UX), 인터랙션 디자인(HCI), 행동 변화를 위한 디자인 등이며, 한국디자인학회와 한국HCI학회에서 최우수논문상과 우수논문상 및 지도교수상을 수차례 수상했다. 삼성전자, 네이버, 카카오, 미래에셋, 아모레퍼시픽, 현대자동차, 가톨릭대학병원, 공정거래위원회, 국회, 통일부 등과 함께 디자인 프로젝트와 자문을 수행했다. 현재 홍익대학교 디자인학부에서 DEEP Lab을 운영 중이며, 한국연구재단과 교육부의 지원을 받아 사용자를 유인하고 현혹하는 UX디자인에 관한 연구를 수행하고 있다. 이를 소개한 저서 《디자인 트랩》은 2023년 대한민국학술원 주관 우수학술도서로 선정되었다.

  목차

프롤로그

1부 아름다움과 귀여움의 딜레마
1장 귀여운 캐릭터가 어린 사용자에게 원하는 것은
2장 아름다움은 보정될 수 있는가
3장 대화형 AI는 어떤 모습이어야 할까

2부 편리함과 효율의 딜레마
4장 저 사람은 왜 줄 서지 않고 들어가는 거예요?
5장 맞춤형 디자인은 정말 당신을 위한 걸까
6장 바람잡이의 진화, 누구를 믿어야 하나

3부 친밀감과 공감의 딜레마
7장 고인 AI 서비스는 소망의 거울일까
8장 언어는 어떻게 우리를 혼란스럽게 하는가
9장 선망하던 대상과 단둘이 소통하다

4부 달콤함과 중독의 딜레마
10장 갈망하게 만들고, 죄책감은 줄여주고
11장 AI 목소리는 우리의 판단을 어떻게 흐리는가
12장 가면 쓴 자가 가진 보이지 않는 힘

5부 재미와 몰입의 딜레마
13장 ‘뽑기’를 바라보는 엇갈린 시선
14장 캐릭터에 가하는 폭력은 폭력일까
15장 가상 세계의 시간은 다르게 흐른다

6부 선택과 통제의 딜레마
16장 내 선택은 자유의지에서 비롯된 것일까
17장 왜 온통 여성 AI뿐인가
18장 느리고 비효율적인 것이 필요한 시대

에필로그
주

  회원리뷰