미리보기
미리듣기
휴대전화 잠금부터 출입국 심사, 채용과 범죄 수사까지, 사람을 식별하고 분류하는 인공지능이 일상이 되었다. 이 책은 얼굴과 몸짓, 말투와 감정까지 읽어 내는 생체 인식 기술의 계보를 살피며, 그 안에 스며든 편견과 권력 관계를 드러낸다.
얼굴 인식 기술은 신경망 인공지능의 발전과 함께 빠른 속도로 발전했다. 대표적인 사례로 개인 핸드폰의 얼굴 인식 기능은 본인 인증이 필요한 다양한 업무를 집에서 간편하게 처리하는 데 활용되고 있다. 담당자와의 대면을 통해서만 처리할 수 있었던 일의 많은 부분이 ‘얼굴 지문(faceprint)’을 인식할 수 있는 자동화 기계에 위임되었다. 이러한 위임의 과정에는 기술을 만들거나 활용하는 기관이 나의 얼굴 데이터를 신중하고 안전하게 다루어 줄 것이라는 기대가 있고, 그러한 기대는 얼굴 인식 기술의 윤리적 문제를 제기하는 여러 시민 단체의 노력 덕분에 명문화되고 있다.
－01_“얼굴” 중에서
음성을 이해하는 기계에 대한 상상은 음향분광기를 통해 소리를 시각화하고 이를 바탕으로 발화자의 신원을 식별하려는 시도에서부터 숫자를 인식하는 초기 음성 인식기 오드리, 그리고 방대한 데이터를 활용한 통계적 예측 모델에 이르기까지 기술의 발전과 함께 점차 현실적인 모습으로 구체화되었다. 패턴 인식에서 데이터 중심의 접근으로 전환하는 변화 속에서 말을 담은 음성은 단순한 소통의 수단에 머무르지 않고 과학적 분석과 기술적 조작의 대상이 되었고, 기계가 이해하고 처리할 수 있는 정보로 재구성되었다. 오늘날 일상화된 음성 인식 기술의 기원에는 소리를 다른 방식으로 듣고자 했던 과거의 실험들과 음성 속에 숨겨진 구조를 읽어 내려 했던 집요한 시도가 자리하고 있다.
－03_“음성” 중에서
의료 인공지능 기술이 개발되는 배경은 시대마다 달랐지만, 이들이 직면한 공통 과제는 분명하다. 단순히 기능적 성능을 넘어, 실제 의료 환경에서 효과적으로 작동하고 신뢰받을 수 있어야 하며, 제도적·문화적·윤리적 조건들과 조화를 이루어야 한다는 점이다. 다시 말해, 의료 인공지능은 환자와 의료진 모두의 신뢰를 기반으로, 다양한 임상적 요구에 섬세하게 응답하는 능력이 뒷받침되어야 한다. 그렇지 못한 기술은 질병을 이해하지도, 해답을 제시하지도 못한 채, 결국 실패한 사업이라는 낙인과 함께 역사의 뒤안길로 사라질지도 모른다.
－06_“질병” 중에서
많은 경우, 우리가 거짓말 탐지기에게 기대하는 것은 ‘객관적이고 결정적인 진실’이 아니다. 더 중요한 것은 기술이 작동하는 그 과정을 통해 관계가 회복되고 불안한 마음이 달래지는 것이다. 하지만 진실을 기계로 판별할 수 있다는 믿음이 지나치게 강하면, 오히려 대화와 해석, 회복의 여지가 사라져 버릴 수 있다. 거짓말 탐지기의 진정한 문제는 기계의 가능성을 진실 판별이라는 좁은 틀에 가두는 순간 드러난다.
－09_“거짓말” 중에서