미리보기
미리듣기
유발 하라리(Yuval N. Harari)의 데이터주의 비판을 출발점으로, AI를 기술결정론이 아닌 사회적 상상과 사용자 경험의 관점에서 재해석한다. 레이 커즈와일(Ray Kurzweil)식 특이점 서사를 넘어, 대중 지성과 새로운 사회 계약이 AI의 방향을 좌우한다고 주장한다.
종합하면 데이터는 세계에 대한 우리의 경험이 없다면 생산될 수 없다. 우리의 경험과 그로 인한 감정이 세계에 대한 직접적 원천이다. ‘사실적 진실’ 또는 ‘데이터’는 경험이라는 원천으로부터 나온 2차 구성물이다. 이런 연유로 우리는 오류와 결핍을 내장하고 있더라도 개인적이고 감정적인 진실을 폐기할 수 없다.
-01_“데이터 너머 사용자 경험” 중에서
‘파르마콘의 사용자’는 파르마콘에 대응하는 존재다. 이 명칭은 그 자체로 사용자와 파르마콘 사이의 관계성에 주목하게 만든다. 파르마콘은 그리스어에서 온 말로, ‘치료제’일 수도 있으면서 ‘독’이 될 수도 있는 모호한 힘을 총칭한다. 사용자는 파르마콘을 약으로 만들기도 하고 독으로 만들기도 한다.
-03_“파르마콘의 사용자” 중에서
컴퓨터는 특수한 도구다. 사용자가 자신의 컴퓨터를 완전히 통제하지 못한다는 점에서 그렇다. 우리는 컴퓨터를 구매하고 매일 사용하지만, 그 컴퓨터의 작동을 적절히 포착하기 어렵고, 따라서 장악하지도 못한다. 자동차를 운전하지만 자동차의 작동을 알지 못하듯이 컴퓨터를 사용하지만 컴퓨터의 작동을 이해하는 것은 아니다. 온라인 거래를 위해서 은행은 컴퓨터에서 작동할 수 있는 거래 프로그램을 제공한다. 컴퓨터는 매일 매시간 여러 가지 프로그램을 업데이트하기 위해서 자동으로 서비스 회사와 통신한다. 컴퓨터 사용자는 자신의 컴퓨터가 어떤 내용으로 통신하고 있는지 알지 못한다.
-06_“컴퓨터 사용자” 중에서
기술을 비롯하여 비인간도 지능을 가진다는 생각은 인간중심주의라는 협소한 관점에서 벗어나게 해 준다. 근대사회는 인간만이 지능적 존재로 간주했기에 동물이나 비인간에 대한 무자비한 지배를 정당화할 수 있었다. 이것은 오늘날 우리가 대면하는 기후 생태 위기를 만들었고 결국에는 우리 자신의 생존을 위협하고 있다. 쓰레기더미 위를 날아다니는 초파리가 우리보다 더 위대한 지능을 소유한 것인지도 모른다. 그들은 현재의 지구가 파괴된 이후에도 살아남을 가능성이 있다. 우리가 창조하는 새로운 존재, AI에게 인간을 닮으라고 하는 대신 자연(생명)을 닮으라고 권하는 것이 더 옳지 않을까? 우리를 위해서도 AI를 위해서도 말이다.
-09_“AI 용어 재정의하기” 중에서
