도서 소개

AI 알고리즘은 더 효율적이고 편리한 생활을 영위하게 해주는 혁신 과학, 모든 불확실성을 관리할 수 있는 유토피아와 같은 존재로 비친다. 그러나 그 이면에는 알고리즘이 개인을 향한 감시와 통제를 강화하고, 개인의 주체성마저 침해할지 모른다는 불안과 공포가 숨겨져 있다.

호주 사우스오스트레일리아 대학교 사회학과 석좌교수 앤서니 엘리엇은 《알고리즘 포비아》에서 이 불편한 진실을 드러낸다. 우버의 자동화 관리 시스템, 아마존의 노동 통제, 넷플릭스의 추천 알고리즘 등 현실의 기술 사례는 물론, 드라마 〈오징어 게임〉에 투영된 경쟁과 통제의 은유, 그리고 메타버스와 챗GPT로 대표되는 최신 인공지능 기술까지—엘리엇은 실제 현상과 문화적 상징을 함께 분석하며 알고리즘이 인간의 삶을 어떻게 재편하는지 보여준다.

저자는 AI 기술이 약속하는 ‘편리함’과 ‘효율성’의 그늘에 인간이 점점 더 통제와 감시의 구조 속에 편입되고 있다고 지적한다. 알고리즘은 더 나은 선택을 돕는 듯하지만, 실상은 우리의 행동을 예측하고 조정하며, 스스로 생각하고 판단하는 힘을 약화한다. 효율의 대가로 인간은 주체성을 내어주고, 감정과 욕망, 실수마저 제거된 삶 속에서 점점 ‘데이터화된 존재’로 변모한다. 이 책은 기술 찬양의 이면에서 우리가 잃고 있는 가치가 무엇인지 보여준다.

  출판사 리뷰

알고리즘은 우리 삶을 윤택하게 해줄 혁신 과학일까, 아니면 자율성을 침해하는 통제의 기술일까.
일터와 가정, 관계와 감정 속까지 깊숙이 파고드는 알고리즘의 이면을 파헤친다.
AI에 모든 의사결정을 위탁하는 시대, 인간의 불안은 여전히 해소되지 않았다.

AI 알고리즘은 더 효율적이고 편리한 생활을 영위하게 해주는 혁신 과학, 모든 불확실성을 관리할 수 있는 유토피아와 같은 존재로 비친다. 그러나 그 이면에는 알고리즘이 개인을 향한 감시와 통제를 강화하고, 개인의 주체성마저 침해할지 모른다는 불안과 공포가 숨겨져 있다.

호주 사우스오스트레일리아 대학교 사회학과 석좌교수 앤서니 엘리엇은 《알고리즘 포비아》에서 이 불편한 진실을 드러낸다. 우버의 자동화 관리 시스템, 아마존의 노동 통제, 넷플릭스의 추천 알고리즘 등 현실의 기술 사례는 물론, 드라마 〈오징어 게임〉에 투영된 경쟁과 통제의 은유, 그리고 메타버스와 챗GPT로 대표되는 최신 인공지능 기술까지—엘리엇은 실제 현상과 문화적 상징을 함께 분석하며 알고리즘이 인간의 삶을 어떻게 재편하는지 보여준다.

저자는 AI 기술이 약속하는 ‘편리함’과 ‘효율성’의 그늘에 인간이 점점 더 통제와 감시의 구조 속에 편입되고 있다고 지적한다. 알고리즘은 더 나은 선택을 돕는 듯하지만, 실상은 우리의 행동을 예측하고 조정하며, 스스로 생각하고 판단하는 힘을 약화한다. 효율의 대가로 인간은 주체성을 내어주고, 감정과 욕망, 실수마저 제거된 삶 속에서 점점 ‘데이터화된 존재’로 변모한다. 이 책은 기술 찬양의 이면에서 우리가 잃고 있는 가치가 무엇인지 보여준다.

요즘 뉴스를 보다 보면, ‘스마트’ ‘알고리즘’ 등의 말들이 점점 불길하게 들린다. 로봇청소기가 집안을 촬영하며 사생활을 무단 수집하고, 인사 평가 시스템이 직원을 점수화하여 해고하며, 유럽의 주요 공항이 사이버 공격 한 번에 마비된다. AI 알고리즘 기술은 효율성을 가져다주는 대신 불안이라는 대가를 요구하고 있다. 인간이 만든 알고리즘은 이제 인간을 관리하고, 측정하며, 판단한다. AI 기술이 인간의 문화, 제도에 미치는 영향에 대해 연구해온 호주 사우스오스트레일리아 대학교 사회학 석좌교수 앤서니 엘리엇이 알고리즘과 불안 사이의 복잡한 상호 연결성을 신간 《알고리즘 포비아》에서 낱낱이 파헤친다.

AI 알고리즘은 인간이 만들어낸 가장 강력한 예측 장치이지만, 그 예측이 인간의 삶을 불확실하게 만든다. 앤서니 엘리엇의 《알고리즘 포비아》는 바로 이 역설을 해부하는 책이다. 저자는 기술을 비난하지 않는다. 대신 인공지능을 둘러싼 사회적 불안, 감시와 효율의 문화가 인간의 내면을 어떻게 재구성하는지를 추적한다. AI는 인간을 대체하는 기계가 아니라, 인간의 불안을 정밀하게 측정하고 학습하는 거울이다. 엘리엇이 말하는 ‘알고리즘 포비아’는 인간이 AI 알고리즘에 의사결정의 자유를 위탁한 대가로 생긴 집단적 불안의 이름이다.

알고리즘은 인간의 주체성을 흡수한다
우버 기사 알렉산드루는 제대로 된 해고 사유도 듣지 못한 채 우버의 평가 시스템 오류로 자동 해고됐다. 우버 측의 “시스템이 잘못됐을 리 없다”라는 말 한마디가 법보다 강력했다. 저자는 이 사건을 통해 현대 사회의 통제 방식이 어떻게 ‘자동화된 권력’으로 변모했는지 보여준다. 알고리즘은 공정함을 약속하지만, 실제로는 책임 없는 감시 체제를 확립한다. 이 세계에서 인간은 자신의 행동을 끊임없이 감시하며, 기계의 판단을 내면화한다. 감시는 외부의 억압이 아니라 내면의 습관이 된다. 엘리엇은 이 현상을 ‘지능형 자동화의 카프카적 질서’라고 부른다. 명령은 투명하게 주어지지만, 이유는 아무도 모른다. 사람들은 오류의 원인을 자신에게서 찾고, 죄책감과 불안을 스스로 갱신한다.

이 같은 감시의 논리는 아마존 물류창고의 노동자 통제 알고리즘에서도 발견할 수 있다. 작업자는 스캐너로 물건을 찍을 때마다 움직임이 기록되고, 몇 초 동안 멈춰 있으면 즉시 경고가 뜬다. 휴식 시간조차 데이터로 계산되며, 알고리즘은 ‘비효율’이라는 이름으로 인간의 리듬을 교정한다. 기계가 인간을 관리하는 구조 속에서 피로, 불안, 수치심이 모두 ‘생산성 지표’로 변환된다. 엘리엇은 이것이 단순한 노동의 자동화가 아니라, 자기 감시가 내면화된 새로운 형태의 통치라고 말한다. 우버의 운전석과 아마존의 창고는 서로 다른 공간이지만, 그 위에서 작동하는 알고리즘은 하나의 언어로 인간을 관리한다. 그 언어는 효율과 투명성을 약속하지만, 실제로는 인간의 불안을 자원으로 삼는다.

넷플릭스의 추천 콘텐츠 시스템은 취향을 설계하는 장치이다
넷플릭스의 추천 콘텐츠 시스템은 기술이 감정 구조를 어떻게 조작하는지 보여주는 대표적 사례이다. 추천 콘텐츠 시스템은 단순히 취향을 반영하는 도구가 아니라, 취향을 설계하는 장치이다. 알고리즘은 시청 이력과 반응을 학습해 “당신이 좋아할 만한 것”을 제시하지만, 그 선택의 경로는 이미 미리 설계되어 있다. 우리는 자유롭게 고른다고 믿지만, 사실은 예측된 선택을 수행하는 셈이다. 저자는 이를 ‘예측의 유혹’이라 부른다. 불확실성을 없애주겠다는 약속은 달콤하지만, 시스템은 오히려 불안이 유지될 때만 작동한다. 플랫폼은 우리의 지루함과 불안을 계산해 새로운 자극을 제공하고, 그 자극은 다시 클릭을 부른다. 이 순환 속에서 인간은 자유로운 주체가 아니라, 알고리즘이 설계한 욕망의 소비자로 변한다. 결국 추천 시스템은 편리함의 기술이 아니라 불안을 관리하는 감정의 기계가 된다.

알고리즘 사회의 정체성
전 세계적으로 인기를 얻은 넷플릭스 드라마 <오징어 게임> 속 참가자들은 자유롭게 선택했다고 믿지만, 그들의 모든 결정은 게임의 규칙 속에 이미 예측돼 있다. 엘리엇은 이 작품을 통해 현대인의 경쟁과 불안을 시뮬레이션하는 알고리즘적 구조를 해석한다. 게임의 폭력성은 단순한 잔혹함이 아니라, 예측 가능한 삶에 대한 인간의 복종을 드러낸다. 참가자들은 생존을 위해 자신을 시스템에 맞추고, 그 안에서 타인을 제거하면서 불안을 잠시 잊는다. 이 과정은 디지털 사회에서 우리가 성과와 인정을 얻기 위해 수행하는 일상의 경쟁과 다르지 않다. 카메라와 센서가 참가자들의 모든 움직임을 기록하듯, 우리의 온라인 행동 역시 끊임없이 평가되고 축적된다. 이 세계에서 인간의 감정은 통제의 도구가 되고, 불안은 경쟁의 연료가 된다. 우리는 생존을 위해 싸우는 것이 아니라 ‘알고리즘에 적합한 인간’으로 살아남기 위해 조정되는 존재가 된 것이다.

이러한 ‘적합한 인간’은 이제 현실을 넘어, 가상공간에서도 존재를 유지해야 한다. 메타버스가 바로 그 예이다. 그곳은 현실의 불안을 해소하기 위한 대안처럼 보이지만, 실제로는 같은 규칙이 다른 이름으로 작동하는 공간이다. 사용자는 자유롭게 자아를 설계하고 관계를 맺는다고 믿지만, 그 모든 행위는 플랫폼의 코드 안에서 제한된다. 메타버스 속의 인간은 더 많은 자유를 누리는 듯하지만, 그 자유는 철저히 예측 가능한 자유다. 정체성이 아바타로 변환될 뿐이다. 저자는 이를 불안을 감추기 위해 만들어진 새로운 무대라 부른다. 현실의 긴장을 피하러 들어간 그곳에서, 인간은 결국 또다시 알고리즘의 질서 속에서 자신을 조정한다. 즉, 메타버스는 탈출구가 아니라 불안이 디지털 형식으로 재현된 또 하나의 현실인 셈이다.

속도와 효율의 시대, 불안은 일상이 되었다
현대 사회는 시간에 쫓기는 사회이다. 기술은 우리의 시간을 절약해 줄 것처럼 보이지만, 오히려 더 많은 결정을 요구한다. 메시지 하나, 클릭 하나마다 우리는 예측 알고리즘의 피드백을 받는다. 이 과정에서 인간은 ‘즉각성의 중독자’가 된다. 사유의 시간은 사라지고, 선택의 순간만 남는다. 이 같은 현상을 지적하며 저자는 프랑스 철학자 베르나르 스티글러의 말을 인용한다. “네트워크는 인간의 몸보다 400만 배 빠르게 움직인다. 결국 인간은 속도에 패배한다.” 《알고리즘 포비아》는 이 패배의 심리적 결과를 추적한다. 속도에 뒤처질까 두려워하는 감정, 끊임없이 업데이트해야만 존재할 수 있다는 강박, 그리고 ‘나보다 나를 더 잘 아는 기계’ 앞에서 느끼는 모멸감. 이 모든 감정은 기술이 아니라 불안이라는 사회적 에너지를 통해 작동한다.

알고리즘 시대의 친밀성 해체
알고리즘의 확장은 인간관계에도 영향을 준다. SNS의 ‘좋아요’와 스트리밍 서비스의 추천 알고리즘은 인간의 친밀성을 점수로 변환한다. 사랑, 우정, 공감조차 예측 가능한 패턴으로 정리된다. 저자는 인간은 점점 더 쉽게 연결되지만, 점점 덜 친밀해지고 있다고 진단한다. 감정의 깊이가 사라지고, 교류의 의미가 데이터 흐름으로 단순화된 사회에서, 개인의 정체성은 끊임없이 자기 수정 상태에 놓인다. ‘나’는 더 이상 기억과 경험의 총합이 아니라, 플랫폼이 기억한 나의 데이터 흔적으로 존재한다. 이것이 저자가 말하는 ‘불안의 알고리즘’이다. 인간의 정체성은 알고리즘의 추천과 예측 속에서 재구성되고, 그 결과 자아는 점점 희미해진다.

기술 낙관주의를 넘어 인간의 미래를 묻는다
저자는 기술 비관론자도, 낙관론자도 아니다. 그는 인공지능을 현대 사회의 집단 무의식으로 본다. AI는 인간의 욕망과 두려움이 투사된 사회적 거울이며, 우리가 스스로 만든 신화다. 그의 비판은 기술을 거부하자는 게 아니라, 기술이 인간을 재정의하는 방식을 자각하라는 데 있다. 예측 알고리즘의 세계에서 자유는 여전히 존재하지만, 그것은 의식적으로 싸워 얻어야 하는 대상이다. 엘리엇은 말한다. “인간은 기술을 통제한다고 믿지만, 사실은 기술이 인간의 불안을 통제한다.” 우리가 불안을 피하려는 바로 그 욕망이, 기술을 성장시키는 가장 강력한 연료가 된다.

이 책은 사회학의 본질로 돌아가 ‘오늘의 불안은 어디서 오는가’를 묻는다. 예측 알고리즘이 인간의 불확실성을 제거한다고 믿는 순간, 인간은 ‘계산 가능한 존재’로 자신을 축소한다. 저자는 이 현상을 “예측이 인간을 훈육하는 새로운 형태의 사회질서”로 규정한다. 그의 분석은 냉철하지만, 근본에는 인간에 대한 신뢰가 있다. 그는 불안을 제거하려 하지 말고, 그것을 성찰의 에너지로 전환하라고 제안한다. 불안은 인간이 자유롭기 때문에 느끼는 감정이며, 바로 그 자유를 유지하기 위한 경계의 감각이기도 하다. “우리는 왜 자신을 예측 가능한 존재로 만들고 있는가?” 이 질문은 기술의 미래가 아니라 인간의 미래를 묻는다.

현대 사회는 인공지능을 열광적으로 확산시키는 경향이 강하다. ‘혁신 과학’인 AI야말로 강력한 경제 성장을 일으켜 오늘날우리 삶을 전환해 줄 원천이라고 여긴다. 하지만 특유의 모호성이 아직 해소되지 않았다. 온라인 세계와 오프라인 세계가 연결된 일상 속에서 고군분투할 때 불가피하게 따라붙는 두려움, 갈수록 심화되는 ‘정보 과부하’ 앞에서 끝없이 피어오르는 불안감, 개인의 의사결정을 자동화 기계에 위탁함으로써‘의도치 않은 결말’을 자초할 수 있다는 두려움이 확산되는 것이다. 이 책을 집필하는 동안 나는 예측 알고리즘이 우리의 불안을 완화하기는커녕, 기대와 다르게 오히려 증폭시킨다는 사실을 깨달았다.
-서문과 감사의 글

알고리즘의 자동 관리라는 비즈니스는 그 자체로 카프카적(카프카의 작품에서 나타나는 특징처럼 불합리하고 모순적이며 억압적이고 혼란스러운 상황을 의미-옮긴이)이다. 머신러닝 알고리즘은 우리의 미래를 수학적으로 정확히 예측해 사회경제 질서를 정교하게 조정해 준다고 약속하지만 정작 거기서 나오는 강령은 강압적인 데다 종잡을 수 없다.

첨단 자동화 사회에서는 예측 분석과 스마트 알고리즘이 시장의 ‘실제 요구’와 ‘가능한 욕구’를 설정하고 실현한다. 이 같은 흐름 속에서 나타날 수 있는 부작용이란 데이터 파워의 강압성, 알고리즘 편향의 위험성이나 미래 시장 예측을 위한 민간 데이터의 대량 판매 등에 그치지 않는다. 전 세계적으로 불안감이 확산되는 건 물론, 불길한 예감, 환멸과 의심이 제각각이면서도 서로 꼬리를 무는 형태로 피어나게 된다.
-1장 알고리즘의 지배, 만연한 불안

알고리즘 자동화, 즉 업무 속도와 직원의 생산성을 높이기 위해 감시, 측정, 할당량, 목표, 동기부여와 다양한 인센티브 기능을 제공하는 총체적 데이터 시스템 속에서 노동하는 삶에 적응할 가능성은 놀라울 만큼 낮아 보인다. 자동화 관리 시스템이 끝없이 전달하는 지시와 업무를 제때 해내지 못하는 이들은 공사를 막론하고 절망의 늪에 빠져든다. 이렇게 정서적으로 피폐해지고, 심지어 그것이 일상적으로 지속되면 개인의 삶은 우울감에 압도되고 신체적으로도 망가지고 만다.

알고리즘 관리가 노동자들을 숨 막히게 몰아붙여서 생기는 부작용은 이뿐만이 아니다. ‘해고’에 대한 두려움 역시 만연해졌다. 이는 자동화 지능형 기계가 갈수록 많은 부문에서 인간을 대체하고 있다는 통념에서 비롯된다. 미국의 사회학자 리처드 세넷은 이를 “자동화로 인한 쓸모없음의 불안”으로 칭했다. 이 같은 두려움은 최근 극적으로 증가했을 뿐 아니라 스트레스, 피로, 좌절, 우울증과 폭력까지 유발하는 경향을 보인다. 말하자면 자동화로 인한 쓸모없음의 불안이 깊은 상처로 자리 잡고 있는 것이다
-2장 아마존의 가혹한 자동화 시스템

  작가 소개

지은이 : 앤서니 엘리엇
사우스오스트레일리아 대학교 사회학과 석좌교수이자 대외협력학장으로, 동 대학 장 모네 우수성·네트워크 센터의 전무이사를 겸하고 있다. 2023년 교육·사회과학 정책·연구 분야의 공로를 인정받아 오스트레일리아 훈장 회원으로 선정됐으며,2024년 멜버른 대학교로부터 평생공로상을 수상했다. 호주에서 태어나 멜버른 대학교에서 학사, 케임브리지 대학교에서 박사학위를 취득했으며, 앤서니 기든스 경Anthony Giddens의 지도를 받았다. 과거 호크 연구소 소장, 플린더스 대학교 사회학과장을 역임했다. BBC 월드 서비스, 선데이 타임스, ABC 라디오내셔널, 디 오스트레일리언 등 주요 매체에 다수 출연하며 국제적으로 활발히 활동하고 있다. 국내에 번역된 저서로는 《현대 사회이론의 모든 것》, 《사회론》 등이 있다.

  목차

추천의 말
서문과 감사의 글

1장 알고리즘의 지배, 만연한 불안
우버의 시스템은 잘못될 리 없다?
우버랜드를 지탱하는 기술적 이데올로기
알고리즘은 우리를 불안을 어떻게 자극하는가
알고리즘 자동화에 인간의 주체성을 맡기면?
디지털 혁명이 바꾼 것들
디지털 시대의 불안을 탐구할 때 익혀야 할 용어 두 가지

2장 아마존의 가혹한 자동화 시스템
자동화 시스템에서 살아남기
노동자들을 관리하고 통제하는 알고리즘
디지털 기술이 불러온 비극
아마존은 내 영혼을 짓밟았어요
쓸모없음에 대한 불안
인간의 주체성 회복마저 도구화되는 현실

3장 넷플릭스의 추천 시스템이 현대 문화를 소비하는 방식
넷플릭스의 예측 알고리즘, 성공을 견인하다
알고리즘 추천과 주체적 인간 사이에서
알고리즘이라는 마법의 주문

4장 <오징어 게임>을 통해 본 알고리즘 시대의 정체성과 정서
<오징어 게임> 속 보여준 AI의 정밀한 통제
<오징어 게임>으로 바라본 현대인들의 내면 세계
알고리즘 시대의 치열한 생존 전쟁
알고리즘 경쟁이 불러온 전 세계의 폭력성
파괴적 세상으로 질주하는 기술 사회

5장 메타버스, 인류의 미래를 다르게 상상하다
메타버스로 가속화되는 디지털 세계
메타버스, 문화의 전환을 일으키다
아날로그 세계를 벗어나 3D 가상 세계로 도피하다

6장 인공지능, 상생할 것인가 지배할 것인가
인공지능과 인간지능의 무너진 경계
인간지능과 기계지능을 다시 생각하다
챗GPT의 등장, 그리고 불안과 기대

7장 끊임없는 자기 수정이 필요한 인공지능의 시대
생성형 AI를 향한 불안감
실존적 불안과 불확실성에 사로잡히는 현대인들
알고리즘 세계의 두려움
감시 사회에 대한 두려움
정보에서 소외될지 모른다는 두려움
해킹당할지 모른다는 두려움
디지털 시대의 두려움, 이 악순환을 끊으려면

주석

  회원리뷰