미리보기
미리듣기
공정성 지표를 충족한 알고리즘이 왜 여전히 사람을 상처 입히는가. 84개 AI 윤리 원칙이 수렴해도 원칙만으로 덕은 생기지 않는다. 맹자의 사단, 곧 측은지심·수오지심·사양지심·시비지심을 AI 윤리의 4대 구조적 축으로 세우고 퇴계 이황의 경(敬)을 메타-덕목으로 놓아 네 축을 잇는다. 돌봄 로봇에서 채용 알고리즘까지 구체적 현장에서 출발해 유교 원전으로 귀납하며 비에스타의 주체화와 스티글러의 약학을 결합해 AI 시대 교육의 방향을 제시한다. 원칙의 외장이 아니라 마음의 확충이 윤리의 출발점이다.
이쯤에서 이 책의 자리를 분명히 해 두자. 서문에서 짚었듯 오늘날 AI 윤리는 대체로 ‘원칙’의 언어로 말해져 왔고 세계의 윤리 지침들은 투명성·책임 같은 몇 가지 원칙으로 수렴해 왔다. 문제는 그 원칙이 왜 종종 선언에 그치는가다. 미텔슈타트는 원칙만으로는 윤리적 AI를 보장할 수 없다고 경고했는데 그 핵심은 의료 윤리와의 대비에 있다. 의료에서 원칙이 힘을 발휘하는 것은 환자의 안녕이라는 공통 목표, 히포크라테스 이래의 직업 윤리, 원칙을 사례에 적용해 온 임상 훈련이 받쳐 주기 때문이다. AI 개발에는 아직 그런 토대가 없다. 그래서 똑같이 ‘투명성’을 내걸어도 의료에서는 구체적 의무가 되지만 AI에서는 구호에 머물기 쉽다. 바로 이 빈자리에 사단이 들어선다. 사단은 지켜야 할 규칙의 목록이 아니라 그 규칙을 살아 있게 하는 도덕적 마음의 싹이다. 원칙이 형식에 그치지 않으려면 그것을 떠받치는 마음이 함께 자라야 하며 사단론은 그 마음을 묻는 언어다. 그렇다면 그 마음을 어떻게 기를 것인가, 곧 확충의 과제가 남는다.
－01_“사단의 발견: 맹자에서 AI 시대까지” 중에서
돌봄의 위기를 기술로 해결하려는 시도는 불가피하다. 그러나 그 시도가 보충이 아니라 대체로 흐를 때 4궁인은 기술의 돌봄을 받되 인간의 직접적 돌봄을 잃는다. 로봇에게 이름을 불러 인사하는 독거노인의 모습은 따뜻해 보이지만 그 따뜻함 뒤에 “이 노인을 기억하고 찾아오는 인간이 있는가”라는 물음이 숨어 있다. 이 물음에 답하는 것은 기술이 아니라 사회의 도덕적 선택이다. 다산이 행사론으로 말했듯 인은 행위를 통해 형성되므로 돌봄의 행위를 기계가 전부 대리하면 인은 위축된다. 로봇은 돌봄의 조건을 마련할 수 있지만 돌봄 자체(고통에 감응하고 관계를 맺는 행위)는 인간의 몫으로 남겨야 한다. 이때 인을 서양의 돌봄 윤리나 공감 개념과 동일시하는 환원은 경계해야 한다. 인은 관계적 맥락 안에서 사단 전체와 연결되는 덕이며 돌봄의 한 측면으로 포괄되지 않는다.
－03_“인(仁)의 현장: 돌봄 AI와 공감 착각” 중에서
예의 문법은 세 규칙으로 정리된다. 첫째 고지의 예다. AI 개입 사실을 이용자가 명확히 인식해야 한다. 챗봇이 “저는 AI입니다”라고 말해도 대화 중 그 사실을 잊고 정서적으로 의존하게 되면 고지는 형식에 머문다. 둘째 거부의 예다. 거부 경로가 동의 경로만큼 쉬워야 한다. 구독 해지가 가입만큼, 데이터 수집 거부가 동의만큼 손쉬워야 한다. 셋째 해명의 예다. 결정의 이유를 이용자의 언어로 설명해야 한다. 5장에서 설명이 전문가의 언어가 아니라 이용자의 언어로 전환돼야 한다고 한 것이 그 조건이다. 예는 일방적이지 않다. 이용자도 AI 결과물을 자기 것처럼 제출하거나 맹목적으로 의존해서는 안 된다. 인간-AI의 예는 제공자와 이용자 모두의 쌍방 문법이다. 다만 사양지심을 소비자 보호나 프라이버시와 일대일로 등치해서는 안 된다. 이는 교육적 진입 경로이지 개념적 등치가 아니며 유교의 예는 그보다 넓고 깊다.
－06_“예: 인간-AI 상호작용의 새로운 의례” 중에서
이 프레임워크가 제시하는 AI 리터러시는 주로 자격화의 영역이다. AI의 작동 원리를 이해하고 AI 도구를 활용하며 AI의 사회적 영향을 인식하는 역량이다. 자격화는 필요하지만 충분하지 않다. 사단의 확충이라는 관점에서 네 차원을 다시 읽으면 주체화의 가능성이 열린다. 인간 중심 사고는 AI 앞에서 자기 주체성(agency)을 지키라는 요구이며 이는 측은지심·수오지심·사양지심·시비지심 모두의 토대가 되는 태도다. AI 윤리 차원은 공정성·투명성·프라이버시·인권을 다루는데 이는 수오지심 곧 부당함을 감지하는 마음과 시비지심 곧 옳고 그름을 가리는 마음의 현대적 발현에 해당한다. AI 시스템 설계 차원은 기술을 인간의 필요에 맞게 설계하라는 요구이며 이는 사양지심 곧 상호작용의 형식을 헤아리는 마음의 실천 영역이다. UNESCO 프레임워크는 자격화의 틀로 설계됐으나 사단의 렌즈로 다시 읽으면 주체화의 자원이 될 수 있다.
－09_“교육: 사단의 확충과 AI 리터러시” 중에서
교보문고:
알라딘:
예스24: