도서 소개

AI라는 기술이 촉발한 변화가 사람들 마음속에 일으킨 감정의 요동을 추적한 책이다. 생성형 AI를 잘 알건 전혀 모르건, 사용을 하건 하지 않건 변화는 이미 우리 곁에 와 있고, 아주 빠르고 아주 많은 변화인 것 또한 확실하다. 이를 사업의 기회로 여기며 설레는 사람도 있고, 곧 내 일, 내 일자리가 사라지겠다 확신하며 구체적인 공포감을 가진 사람도 있다.이 책은 ‘기술에 휩쓸린 시대를 살아가는 마음들’이라는 부제처럼, 기술 그 자체 혹은 이를 대하는 막연한 환호와 기대 또는 두려움 대신 개발자, 창작자 등 최일선에서 AI를 대면하고 있는 이들이 어떤 경험 속에서 어떤 마음으로 살아가고 있는지를 생생하게 전한다.

  출판사 리뷰

기술이 앞질러 간 세상을 따라가야 하는 마음들의 정체:
레퍼런스 없는 시대를 살아가는 사람들을 위해 개발자들이 그린 레퍼런스

AI의 시대다. 생성형 AI 챗GPT가 버전을 올려 내놓을 때마다, 딥시크 같은 새로운 모델이 등장할 때마다 환호와 탄성이 교차한다. 직접 한 번도 접해보지 않았더라도 택시, 고객센터, 쇼핑몰, 금융 앱 등의 근간에 AI가 작동한 지 오래다. 연일 AI 관련 뉴스와 책과 영상이 쏟아진다. AI 기술과 모델 그 자체뿐 아니라 이를 다룬 정보의 홍수가 우리를 더욱 혼란스럽게도, 두렵게도 만든다. 〈AI블루〉는 바로 그 마음들을 조명한 책이다.

“이 새로운 도구 앞에서 우리는 절망하고, 기뻐하고, 분노하고, 만족한다. 모두가 갖는 감정은 다르다. 쓰임새와 목적도 모두 상이하다. 그래서 AI 기술에 대해서만큼은 기술이 아니라 사용자를 기준점 삼아 길을 찾고 싶다. 각자가 발견하고 정립하고 수정하는 쓰임과 기준, 그것을 결정하기까지 겪었던 감정의 파도를 병렬적으로 따라가면서 우리는 우리의 태도와 기준 역시 결정할 수도, 수정할 수도 있다. 그러니 우리는 다른 누구도 아닌, 우리가 서로의 참조점이 되어야 한다. 더 많은 이야기를 공유하고, 이해하고, 떠올리면서.” 본문 35-36쪽

2022년 연말, 저자 중 조경숙은 암 진단을 받는다. 수술, 치료, 회복에 전념해야 했지만 불안했다. 늘 최신 기술에 촉을 세우고 트렌드를 놓치지 말아야 한다는 압박에 쫓기는 개발자로서 뒤처진다는 느낌이었다. 그리고 챗GPT가 등장했고 불안은 가중되었다. 그 불안과 불편의 정체를 다른 이들은 어떻게 느끼고 받아들이는지를 기록하기로 하면서 이 책이 시작되었다.

이 책은 다양한 분야의 160명에게 설문하고, 이 중 10여 명을 직접 만나 들은 이야기를 바탕으로 삼았다. AI를 최일선에서 경험하고 있는 여러 직군의 사람들(AI 개발자, 디자이너, 웹툰 작가, VC, 소프트웨어 엔지니어, 소설가, 노조 활동가 등)의 사용 경험, AI가 자신의 일과 일터, 업계에서 일으키고 있는 변화, 이를 수용하는 저마다의 감정과 생각 들을 담았다. 특히 청소년들이 “우린 삶의 레퍼런스가 없어요”라고 말하는 시대, 성인들도 누구 일과 누구 일자리가 먼저 사라질지 냉소하는 시대, 그 마음의 정체를 주목했다.

이 책의 뼈대가 되는 두 저자의 이력 또한 흥미롭고 의미심장하다. 두 저자는 국어국문학과 출신으로 개발자가 된 이력을 공통으로 가졌다. 두 저자는 각자 자신들의 학업, 직업 경로를 회고하면서 경험하고 목격한 이야기를 뼈대로 삼아 이야기를 전개한다.
조경숙은 IT 업계의 개발자로서 AI의 등장 이후 변화한 자신의 업무 방식과 업계의 모습 등을 구체적으로 담았다. 한지윤은 ‘기술’을 가진 사람이 되고 싶어 전산언어학을 전공한 뒤 AI 스타트업에서 일하면서 경험한 AI라는 기술의 정체와 발전의 과정 그리고 이에 따른 학계, 업계의 내밀한 모습을 전한다.

무엇이든 대체되고 있다는 확실한 경험,
따라잡지 못하면 휩쓸린다는 불안감
인터뷰를 바탕으로 삼은 구체적인 풍경들

“어느 정도 경지에 이른 IT 전문가가 아니고서야 낮은 레벨까지는 챗GPT로 대체 가능하다고 보거든요.”

“AI에 익숙한 사람이라면 더더욱 이런 소통과 교육의 과정이 번거롭게 느껴지지 않을까요?”

“이제는 웹에서 잘 그린 그림을 봤을 때 딱 이런 생각이 먼저 들더라고요. ‘이거 AI인가?’”

“챗GPT는 이상한 주제를 갖고 와도 그걸 매끄러운 이음새로 만들어줘요.”

“AI로 텍스트를 생성해서 그걸 수정하는 것보다 제가 훨씬 더 빠르고 저렴하게 글을 쓰는 인력이지 않을까요?”

저자들이 만난 사람들은 분야도, 경력도 스펙트럼이 다양하다. AI를 기회로 여기는 사람도 있고 위기로 받아들이는 사람도 있다. 그러나 무언가 변화하고 있다는 건 모두가 실감하고 있다. 이들의 말 가운데 교집합이 가장 큰 단어라면 단연 ‘대체’다. 직접 코딩하던 것을 구독 서비스로 대체하고, 구글에서 검색하며 답을 찾는 대신 챗GPT에게 물어보고, 스택오버플로우 등에서 서로 묻고 답하던 것을 챗GPT와 대화하고, 저연차(주니어) 직원에게 시키던 것을 AI 프롬프트에 입력하고....

직접 하던 일, 서로의 관계에서 찾던 일이 모두 AI로 수렴하고 있다. 그렇게 AI가 대체한 것이 다른 누군가의 일과 일자리임을 생각하면, 나의 일과 일자리 또한 쉽게 대체될 수 있다는 감각이 생겨난다. 또 그 속도가 걷잡을 수 없기에 자칫 따라잡지 못하면 뒤처지고 도태된다는 불안 또한 자연스레 생기게 마련이다.
이 책은 AI가 일으킨 파도가 무엇을 집어삼키고 있는지를 생생하게 담아, 그간 통계와 설문에서 수치로 접했던 불안과 공포가 어떻게 생겨나 자리 잡는지 구체적으로 보여준다. 막연한 전망이나 상상 대신 인터뷰를 바탕으로 삼아 이 풍경을 전달한다.

‘더 크게, 더 강력하게, 더 빠르게’
업계의 중심부에서 목격한 AI라는 산업의 실태

저자 중 한지윤은 2016년 알파고가 등장한 바로 그때 대학원에서 전산언어학 공부를 시작해 10년이 지난 지금 AI 스타트업에서 일하기까지, 직접 참여하고 목격한 AI의 변화를 친절하게 전달한다. 다소 어려울 수 있는 AI의 작동 원리부터 서로 경쟁하며 발전해온 생성형 AI의 특징과 추세, 이로 인한 변화 등을 흥미롭게 정리했다.

그는 AI 업계의 풍경을 보면서 다큐멘터리 제목인 ‘Bigger, Stronger, Faster’라는 표현을 떠올린다(프로레슬러나 보디빌더들이 근육을 비대하게 만들려고 아나볼릭 스테로이드를 복용했다가 심장 근육마저 비대해져 심장마비로 사망한 사건을 다룬 다큐멘터리다.) 간략하게 말하자면 AI는 데이터와 모델의 크기가 점점 더 커지고, 그렇게 강력한 성능을 구현하면서, 따라잡기 힘든 속도로 발전을 거듭하고 있기 때문이다.

그 결과, 알파고가 머신러닝 연구 방법론을 딥러닝으로 통일했듯 챗GPT 이후 연구의 방향이 거대 언어 모델 일변도로 단조로워지고, 그마저도 웬만한 자본으로는 접근하기조차 힘들어져 극소수 기업만 살아남게 되고, 경쟁에서 생존하기 위해 기술과 인간의 관계를 고려하는 대신 빠른 속도에 더욱 박차를 가하는 현상으로 이어지고 있다. AI 모델의 개발뿐 아니라 적용에서도 규모와 성능과 속도를 앞세워야만 살아남을 수 있는, 걷잡을 수 없는 변화가 일어나고 있다고 말한다.

“AI 산업에서는 모두가 SOTA(State of the Art)를 좇는다. AI 분야에서 SOTA는 단순히 말 그대로 예술의 경지가 아니라 현존하는 가장 발달한 기술, 첨단을 가리킨다. (...) 제품을 만들 때는 보통 이 제품이 소비자에게 주는 가치가 무엇인지 기획하고, 그 가치를 전달하려면 어떤 기능이 필요한지 정의하고, 그 기능을 구현하려면 어떤 기술이 필요한지 찾아가는 순서를 거친다. 그러나 AI 산업은 이를 역순으로 시행한다. 새로운 기술이 먼저 나온 뒤에 그 기술을 적용할 수 있는 분야와 과제를 찾는다.
챗GPT가 일으킨 AI 하이프(hype)는 이러한 AI 분야의 특수성을 극명하게 보여주었다. 챗GPT가 나오자 사회 전체가 생성형 AI 기술을 모든 분야에 접목하려고 움직이는 것처럼 보였다. 풀고 싶은 문제에 대한 답을 찾는 것이 아니라, AI 기술이 풀 수 있는 문제를 찾아서 기업들이 움직였다.” 본문 57-58쪽

우리가 서로의 레퍼런스가 되려면
‘AI 시대’의 스냅숏을 넘어 기술-사람의 관계에 대한 숙고까지

“책의 첫 기획 의도는 AI 기술이 사람들에게 어떤 영향을 미치는지 스냅숏으로 기록하려는 것이었는데 타임랩스가 되고 말았다. 그러나 찰나를 이어 붙이고 나니 변화의 궤적이 더 선명하게 보인다. 책을 쓰는 과정은 문제를 정의하는 시간이었다. 우리 앞에 일어난 사건들을 관찰하고 증언을 수집하면서 무엇이 일어나고 있는지 살폈다. 이름을 붙일 수 없던 감정들이 하나씩 이름을 찾았다.” 한지윤

이 책은 2023년 초 불안한 마음의 정체를 추적하자는 아이디어로 시작해 책이 출간되기까지 2년이 걸렸다. 새로운 ‘충격’이었던 챗GPT도 누군가에게는 ‘일상’, ‘표준’이 될 법한 시간이다. 그만큼 AI는 우리 일상에 빠르게 파고들었다. 그간 저자들도 감정이 요동쳤다고 고백한다. 거부하기엔 너무나도 편리하고, 친절하고, 유용했다고도 말한다. 인터뷰이들 또한 인터뷰 전후로 마음이 바뀌었다고 전해오기도 했다.
그렇기에 이 책은 'AI가 우리를 우울하게 만든다‘고 단언하지 않는다. 대신 기술에 휩쓸리거나 추종하기보다는 그 변화를 직시하고, 변화를 마주하면서 생겨나는 감정들에 귀를 기울일 필요가 있다고 말한다.

“AI의 급속한 발전에 두려움을 느끼거나 우울 또는 불안을 느끼는 것은 자연스러운 일이다. 그런 감정 자체가 기술에 적응하지 못했다거나 새로운 기술을 거부하고 있다는 의미인 건 아니다. 그 무엇도 합의되지 않는 상황에서 섣불리 일상 속에 밀려드는 파도를 그 누가 선뜻 기뻐할 수 있겠는가? 어쩌면 우리의 마음, 왜 이토록 요동치는지 알 길 없는 이 감정이야말로 가장 솔직한 직한 응답인지도 모른다. 그러니 우리는 그 감정을 다스리려 노력할 것이 아니라 귀 기울이고 분석해야 한다. 왜 우울한가. 어떤 점이 불안한가. 지금 이 기술은 우리에게 어째서 문제적인가.” 조경숙

AI가 어디까지, 얼마나 더 큰 영향을 끼칠지 가늠하기 어렵다. 업무와 일자리를 대체하는 것을 넘어 (성)범죄, 전쟁에 쓰이기도 하고, 기후위기를 가속화하고 있다는 점까지 그 영향은 광범위하다. 그런 만큼 기술 발전에 속도를 높여야 한다는 입장과 그 이해를 잘 따지면서 발전해야 한다는 입장이 갈린다. 기술이 인간의 노동을 대체하고 이에 적응하거나 저항한 역사 또한 유구하다. 이 책이 AI 시대의 마음들을 다루면서도 기술과 인간의 관계를 숙고하면서 다양한 입장과 사례를 담은 이유이기도 하다.
그렇기에 〈AI블루〉는 현재 시점의 다채로운 목소리를 담은 스냅숏이면서도 기술이 앞질러 간 시대를 살아가야만 하는 이때에 기술과 사람의 관계를 숙고하고자 하는 이들에게 중요한 참고 문헌이라 할 수 있다.

“스탠퍼드대학 인간중심인공지능연구소(HAI)에서 발간한 ‘AI 인덱스 리포트 2024’에 따르면 2023년 산업계에서 모델 51개를 공개한 데 비해 학계에서 개발된 모델은 15개뿐이다. 21개 모델은 산학 협력으로 개발되었다. 2003년부터 조사한 결과를 보면 알파고가 공개된 2016년부터 산업계가 공개한 모델의 숫자가 학계를 앞지르기 시작했다. 2023년 보고서에는 2014년까지 중요한 머신러닝 모델들이 학계에서 개발되었으나 그 후로 산업계에서 주도권을 잡았다는 점을 지적하고 있다. 최첨단 AI 시스템을 구축하려면 대규모의 데이터와 컴퓨팅 파워와 자본이 필요하기 때문이다. 알파고부터가 딥마인드라는 ‘회사’가 개발한 알고리즘이다.”

“챗GPT는 확신을 가지고 모델 구조는 변경하지 않은 채 순수하게 데이터와 모델의 크기를 키워서 압도적인 성능을 보여주었다. 이를 목도한 AI를 다루는 회사들은 모두 모델의 크기를 키우는 데 몰두하기 시작했다. 이러한 현상의 핵심에도 역시 ‘더 크면 더 좋다’라는 단순하면서도 강력한 믿음이 자리 잡고 있다. 더 큰 모델은 더 많은 데이터를 처리하고, 더 복잡한 패턴을 인식할 수 있으며, 결과적으로 더 뛰어난 성능을 보여줄 수 있기 때문이다. 챗GPT가 보여준 성공은 이러한 믿음을 더욱 강화했고, 기업들은 경쟁에서 뒤처지지 않기 위해 더 큰 모델 개발에 박차를 가했다.(중략) 이처럼 비대해지는 모델의 크기는 아주 극소수의 플레이어만 이 게임에서 살아남을 수 있도록 하는 장치가 된다.”

“이렇게 파워풀한 성능을 보여주는 모델은 사실 엄청나게 단순한 방식으로 답변을 생성한다. 텍스트나 이미지가 입력되면, 입력된 정보는 모델이 이해하고 계산할 수 있는 형태로 변환된다. 그리고 그 입력을 바탕으로 다음에 어떤 단어가 올 확률이 높은지를 계산해서 출력한다. 이 작업을 단순히 반복해가는 방식으로 답변을 생성한다. 이 때문에 전 구글 연구원인 팀닛 게브루(Timnit Gebru)는 GPT-3 같은 언어 모델을 ‘확률적 앵무새’라고 명명하기도 했다. 앵무새가 사람의 말을 따라하지만 그 뜻을 모르는 것과 같이 언어 모델도 실제 이해를 바탕으로 문장을 생성하는 것이 아니라 확률적으로 단어를 연속하여 생성할 뿐이라는 의미다. 이 단순한 방식에도 불구하고 모델의 크기가 압도적으로 커지자 놀랍도록 자연스러운 발화를 생성했다. 문법적으로 자연스러운 문장을 생성하는 것을 넘어서서 유용한 지식을 체계적으로 구조화한 텍스트를 만들어냈다.“

  작가 소개

지은이 : 조경숙
개발자, 테크-페미 활동가. 가치 있는 프로젝트를 기술로 지원한다. <아무튼, 후드티>, <액세스가 거부되었습니다>, <닌텐도 다이어리>를 썼고, <웹툰 내비게이션>을 함께 썼다.

지은이 : 한지윤
AI 연구자. ‘Making AI beneficial’이 미션인 회사에서 일한다. AI를 연구하고 만드는 일을 하지만, AI보다 사람들이 더 흥미로울 때가 많다.

  목차

1 기술이 앞질러 간 길을 따라가야 할 때
“우린 삶의 레퍼런스가 없어요”
만족과 불안 사이 어딘가

2 알파고부터 챗GPT까지
‘대체 불가’한 기술자가 되고 싶었다
최첨단과 그 밑단
인큐베이터, 그러나 AI를 담기엔 너무 작은
더 크게, 더 강하게, 더 빠르게

3 AI를 쫓아가는 IT
‘주니어’ 없는 세계
공유지가 사라진 개발자들의 비극
돈이 흘러드는 곳
아직은 거칠고 모호한 채로

4 창작의 경계, 내가 창작자다 말할 수 있는 자는 누구인가
웹툰, AI에게 딱 좋은?
이야기는 얼마든지 생성할 수 있지만

5 어쩌면 오래된 미래
AI보다 저렴한 노동
전쟁, 성범죄, 기후위기

6 우리가 우리의 미래
현실로 뻗어가는 상상
상상을 현실로 만드는 힘: 오픈소스 문화
미래가치가 아니라 우리의 미래로

후기
주석

  회원리뷰