미리보기
미리듣기
AI의 발전과 그에 따른 철학적, 윤리적 문제를 탐구한다. 해나 아렌트의 ‘악의 평범성’ 개념을 바탕으로 AI의 목적, 인간 노동의 역할, 자유, 평등, 책임 등 중요한 가치들이 어떻게 영향을 받는지를 분석한다. AI가 인간의 노동을 대체하고 효율성을 극대화하는 과정에서 그 윤리적 의미와 AI의 도덕적 책임을 진지하게 고찰한다.
아이히만의 결정적 문제는 무사유다. 아이히만은 독일이 점령한 여러 지역의 게토에 흩어져 있는 유대인 숫자를 헤아려 합산했다. 그는 마치 자동화된 기계처럼 숫자를 더하거나 뺐다. 실제 인간 유대인을 떠올릴 필요조차 없었다. 개인적 취향 같은 것도 개입될 여지가 없었다. 아이히만은 주야장천 덧셈과 뺄셈을 했다. 그는 유대인 숫자 계산 업무와 유대인에게 실제로 가해지는 잔혹한 폭력을 연결하여 생각하지 못했다.
그러니 잊지 말자. ‘악의 평범성’이 가리키는 핵심적 사안이 다음의 두 가지임을…. 하나는 깊이 없는 천박한 악, 다른 하나는 완전한 무사유.
－01_“악의 평범성 오해 주의” 중에서
AI에 대한 의인화는 ‘머릿속 의인화’, ‘주관적 의인화’에만 머물지 않는다. 심지어 객관적 인식과 공감을 지향한다고 말해도 과언이 아니다. 최근 정밀 카메라를 장착한 AI가 인간의 감정을 읽고 그에 대해 적절한 공감 반응을 나타낼 수 있게 되었는데, 그중 자폐증 환자를 도울 수 있는 기능을 갖춘 AI 로봇이 출시됐다. 그뿐 아니다. 심리상담 AI 엘리자(Eliza), 심리치료에 특화된 챗봇 카림(Karim) 등은 실제 상담 장면에 투입된 지 꽤 되었다. AI가 살아 있는 사람처럼 활동하고, 또 대우받는 것이다.
－03_“목적: AI는 다 목적이 있구나” 중에서
본격적인 AI 시대를 내다보며, 기술철학자 코켈버그는 인공지능에 의해 민주주의의 이상과 정반대에 있는 엘리트 기술관료주의가 구축될 수 있다는 점을 염려한다. AI 기술이 점점 쉬워지면서도, 그 기술의 핵심 사항은 끝내 전문가 영역으로 남을 수밖에 없기 때문이다. 일반인들은 AI의 입력에서 출력까지의 기술적 절차와 단계를 구체적으로 몰라도 AI를 사용할 수 있다. 따라서 잘 모르는 채 그냥 주어진 대로 사용하게 될 수 있다. 잘 모르는 사람을 속이는 건 쉬운 일이다.
－06_“평등: AI가 민주주의를 만날 때” 중에서
칸트와 아렌트에 따르면, 인간의 판단은 다만 특정 법률 용어를 특정 과제에 적용하는 정신 활동이 아니다. 판단은 형사 또는 민사 법전의 문구와 판례를 적용해 처벌 강도와 형량을 정하는 것만도 아니다. 판단은 권위주의적인 법관들이 습관처럼 되뇌는 ‘법리적 검토’ 수준을 넘어 차원 높은 인간의 정신 활동을 지향한다. 그러므로 인간의 판단 내용에서 시시비비를 가려야 하는 문제가 생길 때마다 AI가 공정한 판단을 내려 줄까 기대하는 것은 자칫 위험할 수 있다. AI는 입력된 데이터 용량과 수위를 따라 논리적 결괏값을 제출할 뿐이다. 그것도 매우 ‘지능적으로.’
－09_“판단: AI가 판사라면” 중에서