미리보기
미리듣기
인공지능이 정치, 여론, 시민권을 어떻게 흔드는지를 분석하고, 허위 정보, 감시 사회, 극단주의 확산 등 위기에 맞설 민주주의적 대안을 모색한다. AI와 공존하는 민주주의의 미래를 제시한다.
2016년 이후 트럼프의 등장, 영국의 브렉시트(Brexit), 유럽의 극우 발흥은 이러한 대의제 민주주의의 제도적 취약성이 절정에 이르렀음을 보여준다. 2013년 창당한 독일의 극우 정당 ‘독일을 위한 대안(Alternative für Deutschland, AfD)’은 2021년 연방의회 선거에서 중도 정당에 대한 불만을 이용해 12.6%의 의석을 확보했으며, 2025년 선거에서는 단번에 제2당으로 부상했다. 이러한 현상들은 민주주의의 규범적 기반을 서서히 침식한다.
-01_“현대 민주주의의 이상과 현실” 중에서
최근 시도되고 있는 탐사 보도와 시청자 참여 강화 움직임이 대표적이다. 2019년 로이터의 탐사 보도는 자연어 처리(NLP)를 사용해 관련 내용을 인간 기자보다 빠르게 분석한 사례다. 로이터는 “숨겨진 불의(Hidden Injustice)”라는 획기적인 조사 보고서에서 자연어 처리를 사용해 오피오이드 전염병에서 제약 회사의 역할을 밝혀냈다. 이 조사에서는 머신 러닝과 자연어 처리 기술을 사용해 320만 건의 연방 민사 소송과 9천만 건 이상의 법원 소송으로 구성된 방대한 데이터세트를 분석했다. ≪가디언≫은 생성형 인공지능을 지역 뉴스 초안에 활용하고 있는데, 편집 표준을 손상하지 않고 지역 독자층을 늘린 사례다.
-03_“정보와 여론 형성” 중에서
정부 공공 기관의 정책 결정과 서비스 제공에 인공지능을 활용할 때는 디지털 플랫폼과 온라인 포럼, 모바일 애플리케이션 등을 활용해 시민들이 정책 결정 과정에 직접 참여할 수 있도록 하고, 인공지능이 분석한 데이터를 시민들이 쉽게 열람하고 의견을 제시할 수 있는 체계를 구축해야 한다. 나아가 인공지능 학습용 데이터 등에서 개인 데이터에 대한 주체적 통제 권한 강화 노력도 필요하다. 이러한 노력은 정책 집행 후에도 지속적인 평가와 개선을 위한 피드백 루프로 작용해, 민주주의의 기본 가치인 ‘참여’와 ‘통제’를 강화할 수 있다.
-06_“정책 결정과 민주적 딜레마” 중에서
마이크로소프트의 무료 텍스트ᐨ이미지 생성 인공지능 프로그램을 통해 유명 여가수의 딥페이크 포르노가 유통된 사례는, 기업이 자사 도구의 오용 또는 해로운 영향을 예상하고 이를 완화하기 위한 충분한 조치를 취하고 있는지에 대한 의문을 던졌다. 기업은 인공지능의 문제점으로 인식되는 딥페이크 생성, 환각 정보 전파, 개인 정보 침해 등에 대해 해로운 영향을 예상하고 그에 상응하는 조치를 취함으로써 책임성을 실현할 수 있다.
-09_“윤리와 책임” 중에서