앞으로의 시대는 인공지능의 시대라고 한다. 그래서인지 정확히는 모르지만 인공지능의 실체가 무엇인지, 앞으로의 미래에서 인공지능이 어떻게 더 진화 발전하고 우리의 일상에 어떤 영향을 미칠 지 또한 궁금하다

책의 부제처럼 앞으로는 AI에 대해 어떻게 이해하고 활용하느냐에 따라 부와 권력이 재편될 수 있음을 많은 사람들이 공감하고 있을 것이다.
이책 AI지도책을 펼치면 제일 먼저 한스와 폰 오스텐의 관계에 대한 일화를 소개하고 있다. 질문자의 의도를 알아차리고 그가 원하는 답을 만들어내는 한스(말)의 이야기를 통해 기계학습 분야에서 주어진 데이터에서 모형이 무엇을 배웠는지 언제나 확신할 수 없다는 경고로 쓰이고 있다는 이야기를 하고 있다.
지금은 AI의 열풍이 불고 있다고 해도 과언이 아니다. 챗GPT로 대표되는 인공지능 프로그램은 수많은 데이터를 기반으로 질문자가 원하는 대답을 찾아 제시하고 있으며 그 대답이 질문자가 원하는 수준이 이상이라 질문자들을 놀라게 하고 있다는 이야기는 이제 흔히 듣는 이야기가 되었다. 하지만 그런 대답들을 질문자들이 검증하지 못하고 맹신하게 된다면 그리고 인공지능이 어떤 의도를 가지고 그 대답을 변형하거나 왜곡하여 제공한다면 그 대답을 활용한 결과 값을 질문자가 그리고 인류가 의도하지 않은 방향으로 나타나게 될 것이라 경고를 위의 한스와 폰 오스텐의 일화로 부터 충분히 인지하고 있어야 하겠다.

위의 사례에 대해 저자는 뚜렷한 두가지 환상이 존재했다고 말하고 있다.
첫번째 환상은 인간이 아닌 시스템이 인간 정신과 비스하다는 것이며 두번째 환상은 지능이 마치 자연적이며 사회적, 문화적, 역사적, 정치적 힘과 구별된 것처럼 독자적으로 존재하는 무언가라는 것이다.

과연 인공지능이란 무엇일까?
인공지능에 대해 누군가는 지식을 정제하는 것이라고 표현하고 누군가는 지능적 주체를 이해하고 구축하려는 시도 라고 표현하다.
그러나 이책에서는 AI에 대해 인공적이지도 않고 지능도 아니라고 주장한다. 오히려 인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간노동, 하부구조, 물류, 역사, 분류를 통해 만들어지고 AI시스템은 자율적이지도 합리적이지도 않으며 대규모 데이터 집합이나 기존의 규칙 및 보상을 동원한 방대하고 집약적인 훈련없이는 아무것도 분간하지 못한다고 말하고 있다.

또한 AI를 대규모로 구축할 자본과 AI를 최적화할 방법이 필요한 탓에 AI시스템은 궁극적으로 기득권에 유리하게 설계된다. 이러한 의미에서 인공지능은 권력의 등기부등본인 셈이다.

참으로 명료하면서도 섬뜩한 내용이다. 권력이 등기부등본으로서의 AI는 정말로 우리가 생각하지 못할 정도로 무서운 존재가 될 수 있다는 것이다. 그러므로 우린 그런 AI가 만능이 아님을 인식하고 지속적인 감시과 관심을 가져야 할 것이다.

저자는 인공지능이 만들어지는 과정을 이해하는데 어떻게 지도책이 도움이 될 수 있을 지 우리에게 묻는다.
지도책을 만드는 방법이 여러 가지이듯 AI가 세상에서 이용될 미래도 다양하다. AI시스템의 범위가 확장되는 것은 불가피해 보일지 모르지만 여기에는 논란의 여지가 있으며 빈틈이 존재한다. AI분야의 기본 시각은 독자적으로 생겨나는 것이 아니라 특정한 믿음과 관점의 집합으로부터 구성된다. 현대 AI지도책의 주요 설계자들은 한 줌의 도시에 기반을 두고서 세계에서 가장 부유한 산업에 종사하는 소수의 균일한 집단이다.

저자의 주장처럼 AI산업은 이제 대세가 되어가고 있으며 엄청난 자본과 권력이 집중하고 있다. 왜일까? 바로 AI산업 자체가 돈이며 권력이 될 수 있음을 누구보다 잘 알고 있기 때문이다. 오래 전 자본을 많이 가진 집단이 노동을 제공하는 집단을 이용하여 더 많은 부를 창출하고 그 부를 통해 권력을 지배하고 이용했던 것을 역사가 보여주는 명백한 사실이다.
이제 AI산업이 바로 그런 자본과 권력의 집합체가 되어 가까운 미래에 우리 사회를 지배하는 거대한 권력이 될 것임을 의심할 여지가 없다.

이 책에서 저자는 인공지능을 추출산업으로 규정한다. 현대 AI 시스템을 창조하려면 지구의 에너지와 광물자원, 값싼 노동력, 대규모 데이터를 추출해야 한다. 이 일이 벌어지는 현장을 관찰하기 위해 우리는 AI가 만들어지는 실제 과정을 보여주는 장소들을 여행할 것이라고 말한다.
저자는 AI가 만들어지는 과정을 상세히 설명한다. 현대컴퓨터 동력을 공급하는데 필요한 여러 광물의 채굴이 어떻게 정치적 성격과 연결되었는지를 보여주고, 인공지능이 실제는 인간의 노동에 의해 만들어지고 있으며 기업주를 위해 감시와 통제를 강화하는 AI시스템에 저항하는 노동자들의 목소리를 들여주며 현재 AI가 데이터를 이용하는 현재의 관행은 개인정보 유출과 감시 자본주의라는 심각한 문제 외에도 적잖은 윤리적, 방법론적.인식론적 우려를 낳고 있음을 말한다.
또한 기호가 시스템을 대신할 것이고 대용물이 실재를 대신할 것이며 단순화된 모형이 인간 주관성의 무한한 복잡성을 대신하도록 요구 받을 것이며 이런 분류가 이루어지는 과정을 살펴보면서 기술 도식이 어떻게 위계를 강화하고 불평등을 증폭하는지 알 수 있게 된다고 저자는 말하고 있다.

저자는 기본적으로 AI가 만들어내는 앞으로의 사회가 마냥 효율적이고 놀랍고 아름다운 세상이 되지는 않을 것임을 말하고 있다.
AI를 이용해 더욱 인간을 감시 감독하며 자신들의 권력을 키워나가고 그 영향력을 확장하려는 자들에 대한 이야기들을 해나가고 있어
AI의 미래를 그저 장미빛 만으로 보고 있을 많은 사람들에게 AI에 대한 경각심을 주어 AI가 인간을 통제하는 수단이 아닌 인간을 위한 AI시스템이 되도록 다시한번 관심을 불러 일으킬 수 있길 바란다.