미리보기
미리듣기
AI는 도구가 아니라 신화다. 구원과 파멸의 상상 속에서 인간은 스스로의 미래를 예언한다. 기술이 만든 종말론은, 의미를 잃은 시대가 만들어 낸 또 하나의 거대한 이야기다.
유전학은 생명의 코드를 재설계하고, 나노 기술은 원자 단위에서 물질을 조작하며, 로봇 공학과 AI는 지능 자체를 창조한다. 이 세 가지 혁명이 맞물려 돌아가며 만들어 내는 가속적인 변화가 바로 커즈와일이 예언한 미래의 구체적인 청사진이다. 커즈와일은 2029년이 되면 AI가 특정 분야의 최고 전문가와 동등한 ‘인간 수준 지능’에 도달하고, 이어서 어떤 인간보다도 모든 면에서 뛰어난 ‘범용 인공지능(AGI)’이 같은 시기에 등장할 것이라고 예측한다. 이는 단순히 인간을 흉내 내는 것을 넘어, 인류 전체의 지능을 초월하는 존재의 등장을 예고하는 것이다.
－01_“특이점 주의와 초월 신화” 중에서
초지능의 위험이 이토록 명백하고 파국적이라면 인류는 무엇을 해야 하는가? 일라이저 유드코프스키가 내놓은 해법은 그의 문제 제기만큼이나 단호하고 급진적이다. 그는 2023년 AI 전문가들이 제안했던 ‘6개월 개발 중단 서한’과 같은 미미한 조치는 상황의 심각성을 전혀 이해하지 못한 정치적 행위에 불과하다고 일축한다. 수십 년이 걸릴지도 모르는 안전성 문제를 6개월 만에 해결할 수 있다는 생각 자체가 어불성설이라는 것이다. 그에게 타협안은 존재하지 않는다. 인류가 생존하기 위한 유일한 길은 단 하나, ‘모든 것을 멈추는(Shut it all down)’ 것뿐이다.
－03_“초지능의 통제 불가능성” 중에서
민주주의라는 낡고 비효율적인 운영 체제를 해체한 자리에 오직 기술의 효율성과 자본의 논리만이 작동하는 새로운 질서를 세우는 것이다. 이 세계에서 주권은 더 이상 국가가 아닌, 시장과 그것을 통제하는 소수의 기술 엘리트에게 귀속된다. 사회는 투표로 선출된 대표가 아니라 가장 유능한 자본가들이 이끄는 거대 기업처럼 운영되며, 개인의 자유는 시장에서의 효용성으로만 평가받는다. 이는 국가의 완전한 소멸이자, 자본의 논리가 모든 것을 지배하는 민주주의 이후의 세계를 향한 암울하고도 장대한 이상주의다.
－06_“자본의 지배와 가속의 실현자들” 중에서
기술적 특이점을 통한 영생을 꿈꾸는 유토피아주의자(커즈와일), 통제 불가능한 초지능을 두려워하는 비관론자(유드코프스키), 그리고 기술-자본의 흐름에 모든 것을 내맡기거나(랜드) 그것을 탈취해 오랜 공산주의적 이상을 되살리려는 가속주의자들(좌파 가속주의)까지, 이들은 모두 서구 기술이라는 단 하나의 궤도 위에서 가속할 것인가 감속할 것인가, 혹은 운전대를 누가 잡을 것인가를 두고 다투고 있을 뿐이다. 육후이와 음벰베는 바로 그 궤도 자체에 의문을 제기하며, 우리에게 전혀 다른 길의 가능성을 사유하라는 ‘인식의 전환’을 촉구한다.
－09_“비서구 기술 철학과 인식의 전환” 중에서