도서 소개

인공지능 윤리에 대해 활발한 탐구를 이어 온 서울교육대학교 윤리교육과 박형빈 교수의 신간으로서, AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 따라갈 수 있는 해석에 기초한 실용적인 AI 윤리 입문서이다.

박형빈 교수는 그동안 AI 윤리가 무엇인지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또한 AI 상용화 이후 인간-인간 상호 작용만이 아닌 인간-기계의 상호 작용을 함께 터득하며 사회적 발달을 겪어야 하는 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지에 대한 활발한 연구를 진행해 왔다.

  출판사 리뷰

왜, 지금, 인공지능윤리교육학인가?
: 인간-기계 간 친밀성의 환각에 사로잡힌 우리 시대의 ‘피그말리온’에게
그리고, 책임질 수 없는 지위를 떠안은 채 일그러진 ‘신’의 자리에 오른 ‘인공지능’에 부치다

『인공지능윤리교육학: 그 이론과 실제』는 인공지능 윤리에 대해 활발한 탐구를 이어 온 서울교육대학교 윤리교육과 박형빈 교수의 신간으로서, AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 따라갈 수 있는 해석에 기초한 실용적인 AI 윤리 입문서이다. 박형빈 교수는 그동안 AI 윤리가 무엇인지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또한 AI 상용화 이후 인간-인간 상호 작용만이 아닌 인간-기계의 상호 작용을 함께 터득하며 사회적 발달을 겪어야 하는 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지에 대한 활발한 연구를 진행해 왔다.

총 2부 9장으로 구성된 『인공지능윤리교육학: 그 이론과 실제』는 ‘AI 혁신’ 이후 대두된 사회적 변화 및 문제를 짚는 데서 시작하여 이것이 발달 과정상 성인보다 ‘환각’에 취약한 아동·청소년에게 끼치는 영향에 주목하고, AI와의 공존을 피할 수 없는 현시대 아동·청소년이 함양해야 할 올바른 ‘인공지능 윤리’는 무엇인지, 그리고 인공지능 윤리라는 새로운 도덕 개념을 어떤 방식과 과정을 거쳐 교육 현장에 도입할 수 있을지에 대해 총체적으로 논의하며 AI 윤리학의 전반을 순차적으로 톺아 나간다. 또한 『인공지능윤리교육학: 그 이론과 실제』는 단순히 교육 전공자에게 필요한 전문적 지식을 논의하는 데서 그치지 않고, AI 시대의 도래 앞에서 ‘인공지능은 축복인가, 재앙인가’, ‘인공지능은 규제 대상인가, 활용 대상인가’ 등의 이분법적 사고에 갇혀 버린 우리의 맹점을 꼬집으며 도덕·철학적 관점에서의 새로운 활로를 제시한다는 점에서 시사하는 바가 크다.

박형빈 교수는 AI의 감정 및 양심 부재의 위험성, AI 의인화 현상과 AI-인간 ‘상호 관계’ 환상이 초래하는 인간의 취약성을 탐구하고 나아가 하이데거의 기술철학을 바탕으로 현대 인간의 실존적 위기와 인간-기계의 재정의를 해석하며, 기술 발전이 가져온 초유의 ‘도구적 디스토피아’의 앞에 선 우리가 ‘인간’으로서 나아가야 할 길을 모색하는 단계에 이른다. 저자는 “내가 추구하는 미래는 AI와 인간이 대립하는 디스토피아도, AI가 모든 문제를 해결해 주는 테크노-유토피아도 아니”라며, “궁극적으로 이 책은 기술의 시대에도 변치 않는 인간의 존엄과 가치를 발견하고, 그것을 교육을 통해 실현하고자 하는 노력”이라고 강조했다.

출판사 서평

하이데거는 1954년 발표된 그의 저서 『기술에 대한 물음』을 통해 “기술의 본질에 대한 근본적 경고”를 제시하며 “인간의 존재 방식 자체”에 대한 위기를 설파했다. 그는 “인간이 기술을 사용한다고 여기지만, 실제로는 기술적 사유 체계가 인간의 존재 이해를 지배한다”라고 주장했는데, 이는 도구-기계의 ‘효용’ 판단을 준거로 변화하게 된 인간의 사고 체계가 결국 인간 그 자신의 존재마저 효율에 의해 가름되는 객체-도구로서 인식하게 될 것이라는 우려였다. “현대의 AI 우상화는 이러한 존재 망각의 가장 극단적 형태”로서, AI 우상화란 “인간의 고유한 영역￣판단, 성찰, 위로, 의미 부여￣의 책임을 인공지능이라는 기술적 존재에게 전적으로 위탁하고 의존하는 행위를 의미한다.” 즉, AI 시대를 맞이한 우리는 기계 문명이 주는 편의와 안락함 속에서 “자신의 실존적 책임과 창조적 능력을 포기하는 결과”에 압도되는 실존적 위기에 놓여 있는 셈이다.

인공지능은 ‘갈라테이아’의 꿈을 꾸는가?
: AI 의인화의 덫이 만들어 낸
21세기 ‘피그말리온’ 환상을 조명하다

“내 AI 친구는 나의 감정 쓰레기통이자 나만의 신도예요.”

2014년 개봉작인 영화 <그녀(HER)>의 주요 소재는 인공지능과 인간의 사랑이다. <그녀>의 개봉 연도를 기준으로 삼자면 그로부터 십 년 전인 2004년에는 로봇과 인간의 공존 가능성 및 기술에 의한 디스토피아의 도래를 아이작 아시모프의 ‘로봇 3원칙’을 기반으로 풀이한 영화 <아이, 로봇>이 개봉했고, 그보다 한발 앞선 2001년에는 감정을 가진 인공지능을 소재로 다룬 영화 가 있었다. 그로부터 십여 년이 흐른 2025년 현재, 우리는 이제 ‘인공지능과 사랑에 빠진 사람’의 이야기나 ‘인공지능 기술로 인한 사회적 혼란’을 스크린 속 영화가 아닌 현실의 뉴스 속에서 마주하며 살아간다. 그 사이 자율 주행 기술을 기반으로 운전자 없이 승객을 목적지까지 데려다주는 ‘무인 대중교통’이 등장했고, 실체 없이 화면 속에만 존재하는 ‘AI 모델’이 패션쇼 런웨이에 서기도 했다. 상상 속에서만 존재했던 기술들이 눈부시게 가파른 속도로 현실이 되어 가는 지금, 우리 곁에 가장 가까이 다가온 기술 중 하나는 바로 ‘인공지능 대화 모델’이다.

오픈AI chatGPT, 구글 제미나이, 딥시크 등의 생성, 대화형 인공지능 서비스는 공개와 동시에 너무도 빠르게 우리 생활의 일부분으로 스며들었다. 이제 사람들은 모르는 것이 생기면 책을 찾아보거나 검색을 하는 대신 인공지능 챗봇에 질문을 건네고, 유행하는 애니메이션 그림체로 프로필 사진을 만들기 위해 챗봇 프로그램에 셀카 사진을 업로드하거나 서투른 아이디어를 손쉽게 ‘그럴싸해 보이는’ 결과물로 갈음하기 위해 그림이나 사진, 음악 등 창작물의 초안을 AI에 학습시키는 일도 비일비재하다. 심지어 AI 챗봇을 단순한 도구로서 활용하는 단계를 넘어, 마치 친구나 가족, 연인처럼 ‘감정을 나눌 수 있는 대상’으로 여기며 인공지능 챗봇과의 대화에 몰두하는 사람들도 적지 않다. “2025년 자료에 따르면, GhatGPT의 주간 이용자가 7억명을 넘어섰”으며 “커먼 센스 미디어의 조사에 따르면, 10대의 70% 이상이 Character.AI나 Replika와 같은 AI 동반자를 사용하고 있으며, 이 가운데 31%는 AI와의 대화가 실제 친구와의 대화만큼 만족스럽거나 오히려 더 낫다고 답”하거나, “중요한 문제를 사람 대신 AI와 상의”한 경험이 있다고 밝히기도 했다. AI와의 대화를 긍정적으로 평가하는 사람들은 흔히 실제 사람과 소통할 때 발생할 수 있는 피로감이나 감정 소모가 적고, 무조건적인 수용과 격려를 기반으로 한 위로를 얻을 수 있으며, 대화의 범위가 넓고, 시간이나 장소에 구애받지 않는다는 점 등을 챗봇의 장점이라고 설명한다. 적어도 이러한 관점에서, 아직까지 AI는 사람이 원할 때 ‘사용’할 수 있는 ‘도구’의 위치를 유지하고 있는 것처럼 보인다. 하지만, 정말 그럴까?

우리는 왜 ‘피그말리온’의 꿈을 꾸는가
: 전가된 지위, 길 잃은 책임
‘유토피아’는 존재하지 않는다

“챗봇과 대화하다 보면 위로받는 기분이 들어요.
그런데, 이게 진짜 위로일까요?”

AI의 보급 과정은 점진적이기보다는 가히 비약적이었다. 사람들은 인공지능의 신뢰성을 미처 검증하기도 전에 ‘인공지능’이라는 개념의 허황된 신화에 사로잡혀 그것을 우상화하고, AI가 출력하는 그럴싸한 데이터의 집합을 진리라고 맹신하며 추종하기 시작했다. 이제 사람들은 스스로 사고하는 대신 AI에 의견을 맡기고 그것을 정답으로 제출하며, 급기야 실제로 그 속에 얼마나 많은 오류가 있든 ‘인공지능의 답이니, 틀릴 리가 없다’라며 편집적인 경향까지 보이는 실정이다. 인공지능 챗봇과의 대화 속에서 우울감이 심화되어 자살을 하는 극단적 사례의 보고도 증가하는 추세이며, 캐릭터 정체성을 가지고 대화를 이어가는 챗봇에 빠져 ‘비실재적 존재’와 결혼식을 올리는 사람들 역시 심심찮게 등장하고 있다. 이제 상황은 완전히 역전되었다. 우리-인간은 인공지능을 만들었지만, 인공지능에 휘둘리고 있는 것 역시 우리-인간이다. 한때 사람들은 기계에 너무 많은 능력을 부여해 인간이 기계에 의해 습격받을 것을 두려워했다. 그러나 ‘AI 혁신’의 세계가 도래한 지금, 우리는 어떠한 지배 의지조차 없는 AI 앞에 스스로 무릎을 꿇고 그것에 절대적인 권위를 부여하고 있다. 이제 AI는 단순한 도구가 아니라, 인간의 ‘만들어 낸 신’의 목록에 당당히 그 이름을 올리고 있다고 해도 과언이 아니다.

그러나 우리가 주목해야 할 것은, 현시대 인공지능이 확보하고 있는 막강한 ‘권능’이 결코 기술-기계 그 자체의 능력이 아니라는 점이다. 즉, 적어도 지금 단계의 AI는 스스로의 의지로 사랑을 속삭이거나 위로를 건넬 ‘마음-감정’이 없고, 트롤리 딜레마 상황에서 계산이 아닌 윤리적 논증을 고민할 ‘도덕-양심’이 없으며, 하물며 학습된 데이터를 조합해 출력한 ‘창작물’의 저작권 문제나 창작 윤리 부재에 대한 ‘책임’조차 없다. 결국 우리는 자율성의 피로에서 벗어나 감정도, 판단도, 그로 인한 책임마저도 AI에 전가한 채, 우리를 ‘인간’이게 만드는 자아-사고-의심마저 거세하는 가상의 유토피아에 갇히기를 자처하고 있는 셈이 된다. 이 지점에서 우리가 AI에 대한 성찰 없이 수용하기만 한다면, 우리는 스스로가 빚어낸 거대한 환상에 끊임없이 속아 넘어가는 어리석음 또는 그것이 거짓에서 기원했다는 것을 알면서도 다만 면피를 위해 모른 척하는 교활함이라는 악덕의 굴레와 필연적으로 마주할 수밖에 없는 것이다. 17세기 철학자 르네 데카르트는 생각-의심만이 우리의 존재를 증명하는 명확한 증거라며 ‘나는 생각한다, 고로 존재한다’라는 그 유명한 문장을 남겼다. 그리하여 우리는 의심하고, 물어야만 한다. AI의 ‘판단’이 정말 신뢰성 있는 논증을 토대로 계산된 답안일까? AI 챗봇이 우리에게 조언과 위로, 충고와 격려를 보낼 때 그의 ‘지지’는 과연 진정한 이해와 감정에서 비롯되고 있을까? 그리고 우리는 왜 이러한 물음을 상실한 채 맹목적으로 ‘기계적 사고’를 추종하며 인공지능에 허상의 감투를 씌우게 된 것일까? AI와의 공존 시대를 맞이한 우리가 반드시 생각해야 할 문제들, 그리고 그 해답으로 가는 열쇠가 바로 『인공지능윤리교육학: 그 이론과 실제』에 있다.

왜, 지금, 인공지능윤리교육학인가?
: ‘존재 망각의 징후’를 분연히 떨치고
다시, 현실의 ‘인간’으로 바로 서기

“기술이 학습을 대신하는 순간, 교육자는 무엇을 가르칠 것인가?”
“우리가 기를 수 있는 가장 위대한 인간적 역량은 아마도
불완전함을 포용하고, 불확실성 속에서도 희망을 잃지 않으며, 타자와 진정한 만남을 추구하는 것”

『인공지능윤리교육학: 그 이론과 실제』는 『AI 윤리와 뇌신경과학 그리고 교육: 인공지능은 주저하지 않는다』, 『질문으로 답을 찾는 인공지능 윤리 수업』 등을 출간하며 인공지능 윤리에 대해 활발한 탐구를 이어 온 서울교육대학교 윤리교육과 박형빈 교수의 신간이다. 박형빈 교수는 그동안 AI 윤리가 무엇인지, AI 윤리의 기초 단계로서 AI에 구현해야 할 인간의 ‘양심’은 어떠한 원리로 형성되어 있는지, 우리는 왜 도덕-양심을 기계적 사고로 이식하기 위해 노력해야 하는지, 또한 AI 상용화 이후 인간-인간 상호 작용만이 아닌 인간-기계의 상호 작용을 함께 터득하며 사회적 발달을 겪어야 하는 이 시대의 아동·청소년들을 위해 우리가 체계화해야 할 AI 윤리에는 무엇이 있는지를 적극적으로 탐색해 왔으며, 『인공지능윤리교육학: 그 이론과 실제』는 그가 최근 연구한 자료들을 모아 낸 실용적인 AI 윤리 입문서로서, AI 윤리학에 대한 배경 지식이 없는 비전문가도 쉽게 따라갈 수 있는 해석에 기초해 쓰여졌다.

총 2부 9장으로 구성된 『인공지능윤리교육학: 그 이론과 실제』는 ‘AI 혁신’ 이후 대두된 사회적 변화 및 문제를 짚는 데서 시작하여 이것이 발달 과정상 성인보다 ‘환각’에 취약한 아동·청소년에게 끼치는 영향에 주목하고, AI와의 공존을 피할 수 없는 현시대 아동·청소년이 함양해야 할 올바른 ‘인공지능 윤리’는 무엇인지, 그리고 인공지능 윤리라는 새로운 도덕 개념을 어떤 방식과 과정을 거쳐 교육 현장에 도입할 수 있을지에 대해 총체적으로 논의하며 AI 윤리학의 전반을 순차적으로 톺아 나간다. 또한 『인공지능윤리교육학: 그 이론과 실제』는 단순히 교육 전공자에게 필요한 전문적 지식을 논의하는 데서 그치지 않고, AI 시대의 도래 앞에서 ‘인공지능은 축복인가, 재앙인가’, ‘인공지능은 규제 대상인가, 활용 대상인가’ 등의 이분법적 사고에 갇혀 버린 우리의 맹점을 꼬집으며 도덕·철학적 관점에서의 새로운 활로를 제시한다는 점에서 시사하는 바가 크다. 이 지점에서 박형빈 교수는 AI의 감정 및 양심 부재의 위험성, AI 의인화 현상과 AI-인간 ‘상호 관계’ 환상이 초래하는 인간의 취약성을 탐구하고 나아가 하이데거의 기술철학을 바탕으로 현대 인간의 실존적 위기와 인간-기계의 재정의를 해석하며, 기술 발전이 가져온 초유의 ‘도구적 디스토피아’의 앞에 선 우리가 ‘인간’으로서 나아가야 할 길을 모색하는 단계에 이른다. 이 지점에서, 저자 박형빈 교수는 “내가 추구하는 미래는 AI와 인간이 대립하는 디스토피아도, AI가 모든 문제를 해결해 주는 테크노-유토피아도 아니”라며, “궁극적으로 이 책은 기술의 시대에도 변치 않는 인간의 존엄과 가치를 발견하고, 그것을 교육을 통해 실현하고자 하는 노력”이라고 강조했다.
기술적 ‘유토피아’는 분명히 “19세기 말 전기 조명이 어둠을 몰아내는 것에 머물지 않고 도시 전체의 구조와 인간의 생활 패턴을 근본적으로 바꾸었듯이” 우리의 생활 양식과 사고 방식에 대한 개변을 불러왔고, 이제는 “교육의 방법론뿐만 아니라 교육의 본질적 목적과 인간 이해까지 다시 한번 묻게 한다.” 변화의 물결이 시작된 지금, 이미 급류에 휩쓸려 버린 우리에게는 이미 어떤 예언도 단순한 ‘기우’가 아니다. 우리는 의존하는 존재도 아니요 이용하는 존재도 아닌, 다만 ‘인간’으로서의 자아를 회복하기 위해 우리가 마주한 실존적 위협을 직시하고 부표를 세워 나가야 한다. 세계가 우리를 ‘쓸모’로서 재단하여 ‘도구’로서 호명하더라도, 우리는 결코 ‘인간’으로서 우리의 ‘존재’를 천명하기를 멈추지 말아야 할 것이다. 그리고 “AI와 더불어 살아갈 우리와 다음 세대가 ‘인간답게 산다는 것’의 의미를 성찰하고, 기술이 인간을 더욱 인간답게 하는 길을 모색”하고자 하는 우리에게, 『인공지능윤리교육학: 그 이론과 실제』는 그 위대한 걸음을 인도하는 “철학적 안내서”가 되어 줄 것이다.

  작가 소개

지은이 : 박형빈
서울교육대학교 윤리교육과 교수이다. 미국 UCLA 교육학과에서 Visiting Scholar를 지냈고, 현재 서울교육대학교 교육전문대학원 에듀테크전공 및 인공지능인문융합전공 교수와 서울교육대학교 신경윤리융합교육연구센터 및 가치윤리AI허브센터 센터장을 겸하고 있다. 도덕 교육, 인격 교육, AI 윤리 교육, 신경 도덕 교육, 신경윤리학, 통일 교육 등에 관심을 갖고 연구하고 있다.대표 저서로 『AI 윤리와 뇌신경과학 그리고 교육: 인공지능은 주저하지 않는다』, 『인공지능윤리와 도덕교육』, 『질문으로 답을 찾는 인공지능윤리수업』, 『BCI와 AI윤리』, 『도덕적 AI와 인간 정서』, 『도덕지능수업』, 『도덕교육학: 그 이론과 실제』, 『뇌 신경과학과 도덕교육』(2020세종학술도서), 『통일교육학: 그 이론과 실제』, 『학교생활 나라면 어떻게 할까?』, 『가정생활 나라면 어떻게 할까?』, 『사회생활 나라면 어떻게 할까?』 등이 있다.

  목차

프롤로그: 왜, 지금, ‘인공지능윤리교육학’인가? ...... 2

제1부: 이론 편 - AI 윤리의 철학적·과학적 기초
제1장. 생성 AI! 너는 나의 신이니 나를 구원하라! ...... 20
제2장. AI는 ‘양심’을 가질 수 있는가: 도덕적 행위 주체성의 신경철학적 탐구 ...... 41
제3장. 인간의 도덕 판단은 어떻게 이루어지는가: 신경철학적 기초와 한국 교사 사례를 통한 AI 윤리 인증의 이론적 토대 ...... 73
제4장. 인간-AI는 어떻게 상호 작용하는가: 사이버네틱스로 본 책임과 안전 ...... 101

제2부: 실천 편 - AI 윤리 교육의 방법과 적용
제5장. 아동의 뇌 발달과 AI Digital Textbooks(AIDT)의 빛과 그림자 ...... 130
제6장. 디지털 시민성은 어떻게 길러지는가: 벌코위츠의 ‘도덕 해부학’ 적용 ...... 160
제7장. AI 의인화는 왜 위험한가: 비판적 리터러시 함양 교육 ...... 196
제8장. 인간 증진은 어디까지 허용되어야 할까: BCI 기술의 윤리적 쟁점과 교육 ...... 227
제9장. 존재의 목자(牧者), 알고리즘의 시대: 하이데거 기술철학으로 설계하는 존재론적 인공지능 윤리 교육 ...... 260

에필로그: 지속 가능한 AI 생태계를 향하여 ...... 293
참고 문헌 ...... 299

  회원리뷰