미리보기
미리듣기
AI가 인간의 기억, 판단, 노동을 재편하는 과정을 분석하며, 인간이 데이터로 환원되는 위험을 경고한다. 알고리즘 통치와 노동 통제 구조를 비판적으로 조명하며, 기술 시대 인간 주체성의 위기를 제기한다.
그렇다면 인간으로 존재하기 위해서 기술이 필요하다는 것을 강조하는 것만으로 기술에 대한 논의는 충분할까? 기술의 유한성 혹은 기술의 한계는 무엇일까? 이를 위해 우리는 다시 프로메테우스가 가진 지식에 대해 살펴보아야 한다. 프로메테우스가 가진 앎은 프로메테이아(pro-metheia)인데, 이것은 미래에 대한 앎이자 기대함이다. 즉 미래는 아직 오지 않았지만, 이에 대응하기 위해 준비하는 태도와 통찰하는 인간의 독특한 활동이다. 이에 반해 에피메테우스(Ephi- metheus)는 잊기 쉬운 자, 실수하는 자라는 특징을 가지고 있다. 이것은 인간의 연약한 면을 반영하고 있다. (…) 인간은 약한 존재로 태어났으나, 불(기술)을 통해 신처럼 문명을 창조하는 존재가 될 수 있었다. 그러나 그 창조의 힘은 동시에 인간이 직면해야 할 위험과 책임을 의미하기도 한다. 이로 인해 인간은 독특한 운명에 노출된 채 살아갈 수밖에 없는 운명을 가지게 된 것이다. 따라서 우리는 기술의 양면성을 염두에 두고서 기술에 접근해야 한다.
－01_“기술과 인간학” 중에서
플랫폼의 투명성 보고서는 공식 요청의 수치 일부만 보여줄 뿐, 이러한 비가시적 압력까지 충분히 드러내지 못한다. 바로 이 지점에서 플랫폼의 딜레마가 발생한다. 정부 요구를 거부하면 서비스 전체가 차단되거나 사업이 위협받고, 이를 수용하면 표현의 자유를 훼손하고 국가 권력의 검열에 협조한다는 비판을 받는다. (…) 결국 오늘날 인터넷은 자유로운 연결의 공간으로 남아 있으면서도 동시에 국가 권력과 플랫폼 기업의 협상, 압박, 타협 속에서 끊임없이 분할되고 조정되는 공간이 되었다. 그리고 이런 통제의 방식은 그 변화의 중심에서, 자유의 보편성을 해치지 않는 것처럼 보이면서 실제로는 국가별 통제를 정교하게 집행하게 만드는 핵심 기술로 자리 잡고 있다.
－03_“인공지능과 디지털 사회의 재편” 중에서
그 결과 우리는 지금 민주주의가 이성과 판단의 장이 아니라, 대중 동원과 맹목적 추종의 장으로 점점 변질되고 있는 현실을 목도하고 있다. 디지털 시스템은 대중을 감정적으로 결속시키고, 반복된 이미지와 선별된 메시지에 의해 특정 정치 집단이나 인물을 절대화하게 만든다. 그들은 판단하는 것이 아니라 ‘반응’한다. 이 반응은 알고리즘적으로 조정되며, 개별 유권자의 욕망은 이미 사전에 시뮬레이션된 모델 안에서 정렬된다. 군중은 더 이상 사유의 공동체가 아니라, 반사 작용의 집합체가 되며, 이러한 감정적 동일시는 ‘텔레크라시’−미디어 기술에 의해 형성된 정치 체제−를 통해 유지되고 강화된다. 이는 프로이트가 말한 군중 심리의 현대적 변형이며, 민주주의의 근간을 무너뜨리는 기술적 군중 정치의 양상이다.
－06_“디지털 네트워크와 정치의 위기” 중에서
이러한 비인간화는 전쟁 윤리와 국제인도법의 핵심 원리인 민간인과 전투원의 구별 원칙을 약화시킨다. 전통적으로 이 구별은 법적 판단과 윤리적 숙고를 요구하는 문제였으나, AI 체계에서는 그것이 점점 더 확률값의 문제로 대체된다. 특정 메신저 그룹 참여, 이동 경로의 특이성, 유심 교체 빈도, 온라인 활동과 같은 간접 지표들이 위험 징후로 읽히면서, 실제로는 무고한 사람도 전투원과 유사한 패턴을 보인다는 이유만으로 표적이 될 수 있다. 따라서 여기서 발생하는 문제는 단순한 기술적 오차가 아니라, 생명권의 침해가 체계적으로 내장된 구조적 윤리 문제와 연결되어 있다. 더욱 심각한 것은 이러한 체계가 민간인 피해를 실수가 아니라 허용 가능한 오류로 인정한다는 점이다. 어떤 표적을 제거하기 위해 몇 명의 민간인 희생이 수용 가능한지를 수치화하는 순간, 어린이의 죽음, 병원과 학교의 파괴와 같은 무고한 시민의 학살이 당연시되고, 여기서 발생하는 도덕적 문제는 인공지능의 연산 속의 숫자로 환원된다. 단지 전쟁의 피해자는 효율과 전략의 운영 속에서 그들의 고유한 가치를 상실한다.
－09_“인공지능과 전쟁의 변화” 중에서
교보문고:
알라딘:
예스24: