도서 소개

인공지능 기술의 발전은 단순히 좋고 나쁨으로만 판단할 수 없다. 인공지능 기술은 이미 우리 곁에 있고 우리가 나아가야 할 시대의 핵심이 되었다. 따라서 인공지능이 우리 사회에서 어떤 역할을 하는지 이해하고, 인공지능을 어떻게 대해야 하며, 나아가 새로운 기술의 출현 속에서 우리는 인간의 가치를 어떻게 바로 세울지 논의하는 노력이 절실하다.

  출판사 리뷰

인공지능 기술로 상상이 현실이 되는 시대
인공지능은 인간을 대신할까, 인간을 보완할까?

인공지능은 우리 삶에 선택이 아닌 필수가 되었다. 인공지능의 기술 발전은 우리 삶을 편리하게 하고 인류에게 새로운 미래를 열어주고 있다. 일상을 넘어 인간과 인공지능의 차별점이라 믿었던 예술의 경계까지 무너지는 등 인공지능 기술은 인간의 영역을 뛰어넘고 있다. 인공지능 기술로 상상이 현실이 되는 시대에 살고 있는 지금, 인공지능은 우리를 대신할까, 아리면 우리를 보완할까?
인공지능은 우리를 편리하게 하는 기술이지만 때로는 우리를 불편하게 하거나 예상하지 못한 사회적 또는 윤리적인 문제를 불러오기도 한다. 인공지능 기술의 발전에 따른 일자리 불안, 사생활 침해, 편향과 차별, 킬러로봇 개발 등 인공지능은 우리에게 새로운 문제와 고민을 안겨주고 있다.
이런 때일수록 우리에게는 사회적이며 윤리적인 기준이 필요하다. 기술의 편리함에 안주하기보다는 우리 스스로 기술의 주체가 되어야 하며, 기술 이전에 인간의 가치와 ‘사람이 중심이 되는 인공지능 시대’를 생각해야 한다.

인공지능 기술이 발전할수록
윤리적 문제 역시 간과할 수 없다

《인공지능의 생각》의 저자들은 법과 윤리 측면에서 인공지능을 들여다본다. 저자들은 이 책에서 인공지능 기술을 익히는 것만큼 그에 따르는 윤리적 경계선 역시 명확해야 한다고 강조한다. 인공지능에 대한 사회적 또는 윤리적인 기준과 합의는 해당 분야만의 이슈가 아니라 이미 우리 주변에서 일어나고 있고 우리에게 일어날 수 있는 일들에 대한 진지한 성찰이다.
인공지능 기술의 발전은 단순히 좋고 나쁨으로만 판단할 수 없다. 인공지능 기술은 이미 우리 곁에 있고 우리가 나아가야 할 시대의 핵심이 되었다. 따라서 인공지능이 우리 사회에서 어떤 역할을 하는지 이해하고, 인공지능을 어떻게 대해야 하며, 나아가 새로운 기술의 출현 속에서 우리는 인간의 가치를 어떻게 바로 세울지 논의하는 노력이 절실하다. 인공지능 관련 책들이 기술적 측면을 강조했다면, 이 책은 사회적 공유물인 인공지능이 우리와 함께 조화를 이루는 시대를 생각한다.

기술에 대한 선과 악의 기준이 아니라
기술을 대하는 우리 자신을 바로 세워야

인공지능은 인간의 행복과 편익을 위한 수단일 뿐이며, 인간을 위해 존재해야 한다. 기술 개발에만 몰두할 것이 아니라 그 기술이 우리에게 미치는 영향들을 살펴보고, 어떻게 하면 새로운 기술을 좀더 인간답게 개발하고 사용할 수 있을지 함께 이야기해야 한다.
인공지능 기술이 앞으로 어느 수준까지 이어질지는 가늠하기 어렵다. 어느 곳에서 어떤 새로운 기술을 개발하고 있는지 알 수 없으며, 그것이 나중에 윤리적으로 얼마나 큰 영향을 미칠지도 알 수 없다. 하지만 그것을 감시하고 올바른 길로 인도하는 것은 전문가가 아닌 깨어 있는 우리의 몫이다.
기술에 앞서 우리 자신을 바로 세우는 것이 먼저다. 더 많이 호기심을 갖고 더 많이 질문하면서 인공지능을 더 많이 알고, 인공지능의 현재와 미래를 함께 이야기하는 것, 진지하게 고민하고 성찰하며 스스로 길을 찾는 삶이 올바른 내일을 만든다. 깨어 있는 시민의식이 인공지능 시대를 살아가는 우리와 우리의 다음 세대를 위한 길이다.

데이터나 알고리즘에 담긴 왜곡이나 편견은 개발자가 의도하지 않았고, 사회·문화적인 경험과 습관에 따라 반영될 가능성도 배제하지 못합니다. 스스로 의도하지 않거나 인식하지 못한 사항은 법적으로 다루기가 쉽지 않습니다. 그러므로 인공지능 윤리도 함께 다뤄야 합니다. 인공지능 윤리에 대한 사회적 합의가 마련되어야 인공지능에 제대로 된 법적 대응이나 평가도 뒤따를 것입니다.

인간의 학습 과정에서도 인공지능처럼 편견을 학습하거나 악용된다면 한 사람의 인격과 인생이 바뀔 수 있습니다. 교육은 인간과 동물, 그리고 기계에도 치우침이 없어야 합니다. 잘못된 학습이 사회 전반적으로 문제가 될 수 있음은 이미 역사적으로 경험한 것이기도 합니다. 따라서 기계학습 과정은 제대로 이루어져야 하며, 이때 기준으로 제시하는 것이 인공지능 윤리입니다.

인공지능은 아직 스스로 판단해 행동하거나 그 결과에 책임질 수 있는 능력을 갖추고 있지 않습니다. 인간이 초기 알고리즘에서 의도적으로 판단할 수 있는 기능을 부여해야 어느 정도 가능할 것입니다. 로봇을 구동하게 하는 시스템도 마찬가지입니다. 로봇은 스스로 인식해 필요에 따라 시동을 걸지 못합니다. 어떤 조건에 부합하도록 설계된 경우, 그 조건에 맞는 상황에 이르렀을 경우로 한정됩니다. 설계된 영역을 넘어설 때는 로봇이 스스로 판단할 수 있도록 프로그래밍 될 수 있겠지만, 로봇 스스로는 인간이 개입하지 않으면 작동하지 못하게 해야 합니다. 어떤 위험이 따를지 알 수 없기 때문입니다.

  작가 소개

지은이 : 김윤명
경희대에서 지식재산법으로 박사학위를 받았으며, 이후 엠파스에서 법무 업무를, NHN/네이버에서 정책수석으로 정책·대외협력·법무 업무를 맡았다. SW정책연구소에서 소프트웨어·인공지능 관련 법제 연구를 진행한 뒤 국회 보좌관으로 일했고, 선데이토즈에서 법무/대외협력 일을 진행했다. 《블랙박스를 열기 위한 인공지능법》 《게임법》 《로보스케이프》 《인공지능과 리걸프레임》 《소프트웨어와 리걸프레임》 《게임서비스와 법》 《인터넷서비스와 저작권법》 등을 썼다.

지은이 : 이민영
도서관N의 관장이자 두 아이의 엄마다. 서울여대에서 전산학을 전공했으며, ‘Go get it!’으로 알려진 라이코스에서 검색개발자로 첫 직장생활을 했다. 라이코스에 백과사전을 오픈할 때 날밤을 새운 일이 가장 기억에 남는다. 마지막 직장생활은 SK컴즈였다. 이 책의 공동저자인 김윤명과 《소프트웨어와 리걸프레임》 《포털과 리걸프레임》을 같이 썼다. 인공지능이 사람들에게 미치는 영향과 소프트웨어 교육에 관심을 두고 이 책의 집필에 참여했다.

  목차

1장__우리 곁에 온 미래
상상이 현실이 되는 시대 / 아이언맨을 만들 수 있다면 / 알고리즘이 낳은 고양이 / 인공지능이라고 말하는 기준

2장__생각하는 기계는 가능할까
겨울을 지나 딥러닝으로 / 우리가 그 안에 담아야 할 것 / 인공지능의 기계학습 / 데이터는 로봇의 밥 / 특이점을 넘어설 때

3장__인간과 기계 사이에서
인간을 대신할까, 인간을 보완할까 / 인간만이 할 수 있는 일 / 모라벡의 역설 / 권리와 의무의 주체라는 기준

4장__법감정과 인공지능
법감정에 대하여 / 법이 담지 못하는 것 / 법과 윤리, 사회적 가치 / 법과 기술은 함께 갈 수 있을까 / 법의 지도에서 찾는 삶 / 인공지능 시대, 법을 묻다

5장__인공지능은 윤리적일까
로봇에 윤리가 있을까 / 인간의 편견을 학습하다 / 데이터 윤리 / 인공지능은 공정할까 / 인공지능은 윤리를 학습할 수 있을까 / 인공지능 윤리는 언제 적용될 수 있을까 / 인공지능 윤리는 누구에게 필요할까

6장__인공지능을 위한 법정
문제가 생겼을 때 누가 책임질까 / 책임을 지는가, 책임을 지우는가 / 자율주행차 사고가 났을 때 / 하지만 이의 있습니다

7장__로봇을 구속할 수 있을까
상상 속에서 나타난 로봇 / 소설과 로봇 3원칙 / 킬러 로봇의 등장 / 로봇 맞춤형 형법 / 킬스위치를 눌러야 할 때 / 로봇이 일자리를 차지한다면

8장__인공지능 문해력은 충분합니까
인공지능 문해력이 필요한 이유 / 기술을 대하는 우리의 자세 / 나만의 능력을 키워야 할 때 / 기본소득과 로봇세 / 어떻게 갈등을 조정할까

9장__인공지능과 법에 묻고 싶은 것들

  회원리뷰