미리보기
미리듣기
AI가 기록을 되살리고 학습하며 다시 해석하는 과정을 따라간다. 복원과 번역의 가능성 뒤에는 편향된 데이터, 사라진 맥락, 환각과 출처 상실의 문제가 남는다. 이 책은 출처, 원질서, 진본성, 책임이라는 아카이브의 원칙이 AI 시대에 왜 더 중요해지는지 짚는다. 기록을 다루는 사람의 역할을 다시 묻는 책이다.
기록이 읽힐 수 있게 됐다면, 그 기록을 특정한 범주(Class, Category)로 분류하고 기술(Description)해야 한다. 다수의 문서를 입수했을 때, 개별 기록이 어떤 유형인지, 어떤 주제를 다루는지, 보존 기간은 얼마인지를 판단하는 것이 분류 작업이다. 전통적인 아카이브에서 이 작업은 아키비스트가 기록을 일일이 읽고 분류하는 식으로 이루어졌다. 처리 속도는 느렸고, 처리되지 못한 채 쌓이는 기록은 늘어났다. AI 기반 자동 분류는 이 병목을 해소하는 도구로 빠르게 도입됐다. 초기 방식은 규칙 기반이었다. 특정 키워드가 포함되거나, 특정 단어가 자주 등장하면 그에 따라 분류하는 조건문의 집합이었다. 규칙이 맞지 않는 예외가 생기면 규칙을 추가했다. 이 방식은 예측할 수 있었지만, 규칙이 상정하지 않은 텍스트에는 취약했다. 지금 AI의 분류는 다르다. 트랜스포머 기반 텍스트 분류 모델은 문서 전체의 내용과 구조를 읽어 유형을 판단한다. 제목 한 줄이 아니라 본문의 어휘, 문체, 구조, 언급된 기관명과 날짜까지 종합해 분류의 범주를 결정한다.
－01_“읽을 수 없던 것을 읽어 내다” 중에서
손상된 필사본의 디지털 복원은 이 지표 관계를 복잡하게 만든다. 원본에 금박으로 그려진 그림은, 화가의 손과 그림이라는 물질적인 인과의 연쇄가 있다. 그러나 AI 알고리즘이 주변 패턴과 학습 데이터로부터 추론하여 생성한 픽셀들은, 원본 화가의 행위와 아무런 인과적 연결을 갖지 않는다. 그것은 지표가 아니라 도상, 혹은 도상을 모방한 새로운 생성물이며, 원본이 ‘그렇게 있었을 것’이라는 추론의 시각화일 뿐이다. 이런 구분이 중요한 것은, 그것이 진본으로서, 그러므로 증거로서의 기록의 가치와 직결되기 때문이다. 바랜 색을 보정한 것과, 사라진 그림을 AI가 추론해 채운 것은 다른 행위다. 가상 복원이 보여 주는 모습이 ‘실제 원본’이 아니라 ‘추정된 원본’임을 명확히 기록해 두지 않으면, 추정이 사실로 받아들여질 위험이 있다. 그래서 어떤 부분이 원본이고 어떤 부분이 AI가 채운 것인지, 어떤 알고리즘으로 어떤 데이터를 학습해 처리했는지를 함께 기록하는 것이 중요하다.
－03_“손상된 것을 되돌리다” 중에서
그러므로 침묵 앞에서 할 수 있는 일이 반드시 채우는 것만은 아니다. 채우지 않고 표시하는 방법이 있다. 아카이브에는 이미 그 관행이 있다. 결번이 된 문서 번호를 그대로 두는 것, 폐기된 기록의 목록만이라도 남기는 것, 비공개 기록의 존재 사실은 공개하는 것. 무엇이 없는지를 기술하는 일이야말로 아카이브가 오래 해 온 일이다. 부재의 기술(記述)은 부재를 없애지 못하지만, 부재가 있었다는 사실만은 남긴다. AI에도 같은 요구를 할 수 있다. 학습 데이터에 무엇이 얼마나 담겼는지를 공개하는 것, 데이터가 희박한 영역에서는 모델이 그 사실을 밝히도록 설계하는 것, 무엇보다 모른다고 말할 수 있게 하는 것이다. 지금의 언어 모델은 답을 생성하지 않는 선택지를 갖고 있지 않다. 침묵을 침묵으로 돌려주는 능력, 곧 여기에 공백이 있다고 말하는 능력이야말로 아카이브가 AI에 요구할 수 있는 것이다.
－06_“입을 다문 아카이브” 중에서
집단기억은 단수가 아니다. 다양한 집단기억이 공존하고 때로는 충돌하는 것이 역사의 정상적인 모습이다. 그런데 수억 명이 같은 AI에 집단기억으로서의 역사를 묻는다면 어떻게 될까? 그 AI가 특정 서사를 학습 과정에서 익혔다면, 다양했던 집단기억이 AI의 단일한 서술로 끊임없이 수렴될 위험이 생긴다. 초기에는 ‘소수 의견으로는’이라는 형식으로 다른 서사를 일부 소개할 수는 있겠지만, 시간이 지날수록 다수의 일반적인 견해로 수렴되도록 서사가 ‘정렬’될 것이다. 이것은 단순히 어떤 정보가 옳고 그른가의 문제가 아니다. 기억의 다양성이라는 가치에 대한 문제다. 서로 다른 기억들이 충돌하고 협상하는 과정에서 역사 이해가 풍부해진다. 어떤 사건에 대해 피해자의 기억과 가해자의 기억이 다르다는 사실 자체가, 그 사건의 역사적 의미를 이해하는 데 중요하다. AI가 하나만을 기본값으로 선택하면, 나머지는 결
국 보이지 않게 된다.
－09_“누가 기억을 통제하는가?” 중에서