미리보기
이 책은 AI가 인간과의 소통에서 차별을 일으킬 가능성과 그 영향을 탐구한다. AI는 인간의 편향이 반영된 데이터를 바탕으로 작동하며, 이는 사회적, 문화적 차별을 증폭시킬 수 있다. 책은 AI의 차별적 결과를 분석하고, 이를 해결하기 위한 노력과 인간의 존엄성을 지키는 방법을 제시한다. AI와 인간의 공존을 위해서는 성찰적 접근과 다양성, 포용성을 반영한 AI 설계가 필요함을 강조한다.
소통의 맥락은 전반적으로 교차적이고 복합적이다. 차별이 나타나는 것도 바로 그 지점이다. 그리고 이것이 우리가 살고 있는 세상이며 AI가 담고 있는 세상이다. 돈 많고 외모도 출중한 여배우의 경우는 때로는 차별 대상이 우리에게도 AI에게도 확정적이지 않음을 보여 준다.
AI의 기능이 놀라울 정도로 향상돼 최대한 인간 세상을 잘 사상(寫像)해 낸다 해도 특히 차별에 관한 한 바로 그 인간 세계의 불완전성 때문에 AI는 우리가 기대하는 만큼의 공정성과 합리성을 구현해 내지 못할 가능성이 크다.
－01_“차별적 AI와 인간” 중에서
인간의 소통 문화는 가시성을 띠기도 하지만 비가시적이기도 하며 차별이 드러나는 비가시적 소통 문화는 은폐되기 쉽다. 아울러 생성형 AI의 유창성이 차별 관련 소통 문화에 갖는 함의를 생각해 본다. 특히 생성형 AI는 출력 시 확률적 계산에 의해 문장 내 단어가 다른 단어와 맺는 관계에 따라 특정 단어가 선택되는가 하면 이전의 출력 결과물이 다음의 입력값으로 사용된다.
－04_“차별적 AI와 보이나 보이지 않는 소통” 중에서
미세차별(microaggression)은 micro와 aggression이 결합되어 만들어진 합성어이며, 2015년 『옥스퍼드 영어사전(Oxford English Dictionary)』에도 등재되었다. 말 그대로 미세하지만 공격적인 차별을 말한다(Sue D. W, 2010). 일상적으로 흡입하는 미세먼지와도 같아서 사람에 따라서는 ‘먼지차별’이라 부르기도 한다.
미세차별엔 의도성이 꼭 수반되지도 않는다. 상대가 의도적으로 한 말이나 행동이 아니어도 당사자가 모멸감을 느끼면 미세차별에 해당할 수 있다(BBC 뉴스 코리아, 2018. 4.20).
－06_“인간 대 AI의 소통 전형성과 미세차별” 중에서
차별은 드러나지 않는 경향이 다분히 있다. 왜냐하면 차별당하는 사람은 더 큰 상처, 때로는 더 큰 불이익을 받을 우려 때문에 차별당한 사실을 드러내지 않는다는 특성을 가지기 때문이다. 차별하는 사람은 당연히 본인의 잘못을 드러내고 싶어 하지 않기에 차별을 감춘다. 의식조차 하지 못하는 사이에 때로는 음성언어로, 때로는 몸짓언어로 누군가를 차별하고 누군가에게 차별을 당하는 사례가 비일비재하다.
합리성으로 포장된 AI에 의한 차별은 그 은폐성을 더욱 가속화하거나 정당화할 우려가 크다. AI의 데이터 축적과 알고리즘의 어떤 측면이 은폐된 차별을 더욱 가속화할지 정확히 모르는 현 상황에서 말이다. 오히려 AI의 놀라운 계산 성능, 인간의 언어를 음성으로든 몸짓으로든 유려하게 모방하는 장점이 때로는 그 은폐성을 가려 인간을 매우 헷갈리게 만든다.
－10_“차별하지 않을 이유, AI에게서 찾다 ” 중에서
교보문고: 정가 12000원