기술이 인류를 구원한다는 착각

Summary
“완벽한 건강, 영생, 이러쿵저러쿵. 초인본주의, 초월하기, 이러쿵저러쿵. (…) 무슨 시나리오를 만들어 와도 개선하는 것은 가능하지만, 최소한 그것들은 꼭 들어가야 한다”

이 책은 AI 정렬 문제로 유명한 엘리에저 유드코스키와의 인터뷰로 시작된다. 그가 보기에 인공일반지능(AGI)의 등장은 필연이고, 그것이 등장하는 순간 인류는 죽을 가능성이 매우 높다. 그래서 그는 AI 연구를 핵무기로 위협해서라도 즉각 중단해야 한다고 말한다. 모순은 그 옆에 있다. 같은 인터뷰에서 그는 영생·초인본주의·우주의 정복이 “당연히 시나리오에 들어가야 할” 항목이라고 말한다. AGI로 인한 인류의 종말을 경고하면서, 동시에 이 위기 너머에 있는 빛나는 미래를 꿈꾸고 있다. 이 모순적인 장면이 바로 이 책의 핵심 질문을 압축한다. 실리콘밸리의 억만장자들이 그리는 ‘기술이 주도하는 미래’는 정말로 과학에 근거한 것인가, 아니면 그들의 부와 권력을 영속시키기 위한 이데올로기인가.

천체물리학자이자 과학 저널리스트인 애덤 베커는 유드코스키를 비롯한 핵심 인물들과의 직접 인터뷰, 원저작 논문에 대한 과학적 검증, 그리고 방대한 취재에 기반한 탐사 보도의 방법론으로 이 질문에 답한다. 그렇다. 이 책의 가장 큰 강점은 단순한 비판서가 아니라 현장 취재에 기반한 탐사 보도에 가깝다는 데 있다. 엘리에저 유드코스키, 안데르스 산드베리를 비롯한 실리콘밸리와 옥스퍼드의 핵심 사상가들이 저자 앞에서 직접 내뱉은 말들이 이 책의 뼈대를 이루며, 그 육성이야말로 이 사상 체계의 내적 논리와 모순을 가장 생생하게 드러낸다.

저자는 효율적 이타주의, 장기론, 특이점, AI 정렬 문제, 기술 가속주의 등 실리콘밸리를 지배하는 사상적 조류의 기원을 역사적으로 추적하고, 이것들이 서로 어떻게 연결되어 하나의 거대한 이데올로기, 즉 ‘기술을 통한 구원(techno-salvation)’이라는 세계관을 형성하는지를 입체적으로 보여준다. 베커는 복잡한 철학적·과학적 논쟁을 생생한 인물 서사로 풀어낸다.

저자의 논지는 세 갈래로 수렴한다. 첫째, 이 비전들의 과학적 근거가 빈약하다. 둘째, 설령 실현된다 해도 인류에게 재앙이 된다. 셋째, 이 비전들은 실현 여부와 무관하게 ‘지금 여기’에서 이미 권력으로 작동하고 있다. 미래에 대한 논의의 틀을 결정하는 자가 현재의 권력을 갖기 때문이다.

Author
애덤 베커