미리보기
미리듣기
AI는 감시를 자동화·정밀화하며 사회 통제의 핵심 도구로 부상하고 있다. 패놉티콘, 감시 자본주의 등 이론을 바탕으로 AI 감시 기술의 작동 방식과 윤리적 문제를 비판적으로 조명한다.
한편, 디지털 기술의 확산과 민주주의 제도화 등의 정치 경제적 변화로 인해 최근 플랫폼 기업 등 민간 부문에 의한 감시에 학술적·정책적 관심이 모아지고 있다. 쇼샤나 주보프(Shoshana Zuboff)가 제안한 감시 자본주의 개념은 민간 부문에 의한 감시의 고도화와 일상화에 주목한다(Zuboff, 2019). 소셜 미디어나 디지털 플랫폼을 통해 개인들이 자발적으로 자신의 데이터를 공여·공유하는 한편, 소셜 미디어상에서 타인의 정보와 행동을 감시하고 추적하는 감시 행위가 일종의 삶의 양식(ways of life), 즉 문화가 되었다. 이제 감시는 “단순히 외부에서 우리의 삶을 침해하는 외적인 어떤 것만이 아니라 일상의 삶을 살아가는 시민들이 기꺼이 혹은 마지못해 순응하고, 타협하며, 저항하고, 관여하고, 심지어 스스로 수행하고 열망하는 일이 되었다”.
－01_“감시의 개념과 유형” 중에서
소위 유권자의 ‘미시 표적화(micro-targeting of the voter)’라 불리는 데이터 활용 전략은 버락 오바마 대통령이 선거 캠페인 과정에 도입해 많은 주목을 받았다. 더 큰 논란을 불러일으킨 것은 도널드 트럼프의 2016년 대통령 선거 캠페인에서 벌어진 ‘캠브리지 아날리티카(Cambridge Analytica) 스캔들’이다. 영국의 데이터 분석 업체인 캠브리지 아날리티카가 페이스북 이용자들의 개인 정보를 불법적으로 활용해 트럼프의 대선 캠페인을 도왔던 사건이다. 이처럼 지능 정보 기술을 활용한 정치적 감시는 가능성의 수준을 넘어서 실제 활용되는 수준에 이르렀고, 이는 민주주의에 큰 위협이 되고 있다.
－03_“국가에 의한 감시와 인공지능” 중에서
개인의 모든 삶이 온라인상에서 공개되면서 공적·사적 공간의 경계가 흐려지고 있다. 과거에는 사적인 영역으로 여겨졌던 공간이나 내밀한 표현과 행동이 공개적으로 노출되는 일이 빈번해지고 있다. 이에 따라 사회적 상호 작용과 프라이버시에 대한 인식에 중요한 변화가 나타나고 있다. 프라이버시 침해에 대한 우려가 커지는 한편, 다양한 형태의 감시에 익숙해지면서 프라이버시 보호에 대한 기대는 약화되고 감시 수용도가 증가하는 것이다. 이러한 변화는 소셜 미디어상의 가시성(visibility)이 개인의 표현과 정체성 형성에 얼마나 큰 영향을 미치는지 잘 보여 준다.
－06_“소셜 미디어와 감시 문화” 중에서
여덟 번째 권리는 프로파일링을 포함한 자동화된 의사 결정에 이의를 제기할 권리(Rights related to automated decision making including profiling)다. 효율성이라는 장점에도 불구하고 인공지능을 활용한 자동화된 의사 결정 시스템이 사회적 차별과 편견을 확대 재생산한다는 비판이 커지고 있다. 이 권리는 데이터 주체가 자신에게 법적 효력을 초래하거나 유사하게 중대한 영향을 미치는 결정이 자동화된 방식으로만 이루어지는 것에 반대할 수 있도록 한다.
－09_“감시와 개인 데이터 보호” 중에서
교보문고: