모두가 알고 있다시피 인공지능, AI에 대한 관심은 나날이 높아져 가고 있다. 일상생활의 많은 영역에 인공지능 기술이 이미 도입되어 활용 중이고, chat GPT나 AI 사진 등과 같이 사람이 직접 창작한 것인지, 사람이 제공한 아주 약간의 아이디어에 기술의 힘이 작용하여 만들어진 것인지 구분하기 어려운 사례도 점점 많아지는 상황이다. AI 사진이 등장한 초창기에는 사람 사진의 경우 손가락이 6개라든가 하는 기계의 실수가 있었지만, 머신 러닝에 준하는 피드백과 보완 과정을 거쳐 이제는 실제 사진과 차이점을 찾아보기 힘들 정도다.

사실 나는 이 책을 제목만 보고 골라서, AI 지도책이라길래 각 산업 분야나 각 나라에서 AI 기술이 어떻게 쓰이는지, 얼마만큼 발전해 있는지를 알려주는 도서일 것이라고 생각했다. 부제인 "세계의 부와 권력을 재편하는 인공지능의 실체"를 미처 못 본 것이다. 이 책은 말그대로 인공지능의 "실체"에 대해 폭로하는 내용에 가깝다. 저자는 지구, 노동, 데이터, 분류, 감정, 국가, 권력 그리고 우주의 측면에 이르기까지 인공지능이 어떻게 권력관계와 지배체제를 공고화하고 인간과 자연을 종속시키는지 설명한다.

이 책을 읽으며 새삼 놀랐던 것은, 인공지능도 결국에는 거대한 기계라는 것이다. 왠지 우리는 2차 산업혁명의 산물인 기계라는 장치와 달리, 인공지능은 실물 자리를 차지하는 장치도 아니고고, 개념적으로 존재하며, 컴퓨팅 시스템 안에서만 작동하는 고도화된 전산 작업이라는 생각에 사로잡혀 있는 것 같다. 하지만 AI는 다른 기계와 마찬가지로 전기에너지가 있어야 돌아가고, 희토류나 배터리 생산의 핵심 원료인 리튬 등 수많은 광물도 필요하다. 물론 전기에너지를 발생시키고 광물을 채굴하는 데는 환경 오염이 필연적이다. 클라우드(구름) 등 AI와 관련해서 쓰이는 용어들은 마치 인공지능이 자연 친화적 녹색 산업이라는 뉘앙스를 풍기지만, 책에 따르면 아마존 웹서비스나, 마이크로소프트 애저 같은 연산 이프라를 이용하기 위해서는 막대한 양의 에너지가 필요하며 이런 플랫폼에서 동작하는 AI 시스템의 탄소 발자국은 점점 증가하고 있다고 한다.
그러고보면 나도 업무와 관련해서 데이터센터를 검토할 때도, 당연히 AI시대에 필수적인 공간이고 점점 더 증설해야 하는 서버로만 여겼던 것 같다. 당장 제조업 등 굴뚝산업과 비교하면 너무나 깔끔한 외관에 뭔가 오염을 발생시키는 요소가 눈에 보이지 않기 때문이다. 하지만 데이터센터는 세계 최대의 전기 소비처 중 하나이고, AI 시스템이 가동되는 동안 쓰이는 전기에너지 생산을 위해 배출되는 이산화탄소 양은 엄청나다고 한다.

노동의 측면에서 AI가 미치는 영향도 지대하다. 단순히 우리는 인공지능 덕분에 사람이 선호하지 않는 혹은 할 수 없는 일들을 AI가 대신 해줄 수 있기 때문에 일자리가 줄어든다 라는 표면적인 단점만 고려하지만, 노동자에 대한 관리감독, 나아가 감시를 강화한다는 차원도 무시할 수 없다. 알고리즘적 일정 관리 시스템을 통해 고성과/저성과와 상관관계가 있을 행동 신호를 추려내거나, 직원들의 시설 내 동선을 추적하는 등 감시와 통제 수단으로 활용하는 것이다.

가장 인상 깊었던 챕터는 분류의 측면에 관한 것이었다. 세상의 인공물은 추출, 측정, 라벨링, 순서 정하기를 통해 데이터로 전환되며 이 과정에서 결과가 오도되는 경우가 적지 않다. 인종, 계급, 성별, 장애, 연령 등의 범주에서 AI 시스템이 차별적 결과를 내놓아 문제가 되고, 기업들이 대응하는 사례가 많이 있었다. 2014년 아마존에서는 직원을 추천하고 채용하는 절차를 자동화하는 실험을 했고, 기계학습 시스템을 통해 이 절차를 운영해 보았는데, 채용에 실제로 필요한 중요 항목은 모든 지원자가 지원서에 기재했다는 이유로 중요도가 낮은 것으로 분류되고, 이미 채용된 엔지니어들의 성별이 주로 남성이었기 때문에 지원자 중 여성은 뽑지 않는 등의 부작용이 나타났다고 한다. 과거와 현재의 채용 절차를 통해 학습하고 훈련받은 내용이 미래의 채용 도구에 영향을 미친 것이다. 그동안 AI 업계에서는 이러한 편향 문제를 분류 자체의 특징이라기보다는 고쳐야 할 버그 정도로 받아들이는 경향이 있었다고 한다. 그러나 분류 방식은 곧 권력으로 직결되기 때문에 이런 일은 심각한 문제로 여겨야 할 것으로 보이고, AI가 가져온 기술 발전의 이면에 숨겨진 측면들을 꼼꼼이 살펴볼 필요가 있다고 생각한다.