미리보기
미리듣기
딥페이크·합성 이미지·밈 영상 등 AI 기반 조작 기술의 실태와 위험을 역사·사례·법제 관점에서 분석한 책이다. 피해, 왜곡, 규제, 그리고 창작의 가능성까지 이미지 시대의 쟁점을 균형 있게 다룬다.
이미지 조작의 역사는 가장 먼저 나폴레옹 시대로 거슬러 올라가야 한다. 전쟁의 신이자 프랑스의 국민적 영웅인 나폴레옹 보나파르트 1세는 황제가 되기 전 자신을 미화하기 위해서 화가들로 하여금 자신과 관련된 일들을 그림으로 그리게 했다. 그중 가장 유명한 그림은 나폴레옹이 알프스 산을 말을 타고 넘어가는 그림이다. 1801년 자크 루이 다비드(Jacques Louis David)가 그린 이 그림은 화가가 자발적으로 그린 그림이 아니라 나폴레옹에 의해 주문 제작된 그림이다. 나폴레옹은 자신을 좀 더 강인한 이미지로 드러내기 위해 일부러 특정한 그림을 주문 제작한 것이다.
－01_“이미지 조작의 역사” 중에서
최근에 일어나는 이미지 조작과 관련된 사건들은 대부분 딥페이크 기술 때문에 일어나는 사건들이다. 원래 딥페이크 기술은 나쁜 목적에서 만들어진 기술이 아니라 영상 업계에서 개발한 기술이다. 영화에서 다양한 인간의 모습을 구현하고 제작비를 절감하는 차원에서 개발된 기술이다.
－03_“이미지 조작과 딥페이크” 중에서
국내의 경우만 하더라도, 교육부가 발표한 자료에 따르면 2024년 1월 1일부터 9월 6일까지 딥페이크 성범죄 피해자는 총 617명으로, 학생 588명, 교원 27명, 직원 등이 2명 피해를 입은 것으로 조사되었다. 국내에서 딥페이크를 활용한 불법 합성물 성범죄가 급증하고 있는데, 지인이나 유명인 얼굴과 성적인 영상물을 합성해 유포하는 이른바 ‘지인 능욕’ 범죄가 대표적이다.
－06_“이미지 조작 사례 2:디지털 성범죄와 이미지 도용” 중에서
머신 바이어스는 편향된 학습 데이터가 특정 집단에 불리하게 구성되어 있을 경우 일어날 수 있다. 2016년 프로퍼블리카(ProPublica) 조사에 따르면 미국의 범죄 예측 알고리즘 콤파스(COMPAS)는 흑인 피고인들을 재범 위험이 더 높은 집단으로 분류한 바 있는데, 이는 실제 재범률과 일치하지 않았다. 인종에 따른 재범률을 산출할 때 머신 바이어스가 작용한 사례라고 분석할 수밖에 없는 것이다. 알고리즘에 의한 결론 도출 과정에 머신 바이어스가 계속 발견될 수 있다는 점은 AI와 공존해야 하는 우리로선 당혹스러운 측면이다. 머신 바이어스에다 AI를 사용하는 사람의 사악함까지 더해진다면 최악의 경우 AI에 의한 신종 범죄에 우리 인류가 신음하게 될 것이다.
－09_“머신 바이어스 문제” 중에서