미리보기
미리듣기
AI가 인간의 초상과 음성을 사실적으로 재현하는 상황에서 디지털 모사물은 실존 인물의 권리를 직접적으로 위협한다. 이 책은 디지털 모사권 논의를 중심으로 현행 법제의 한계를 분석하고, 인격 표지를 보호하기 위한 새로운 법적 대응 방향을 제시한다. AI문고.
디지털 모사물은 “특정 인물을 사실적으로 묘사하되 허위로 표현하는 방식으로, AI를 포함한 모든 디지털 기술에 의해 생성되거나 조작된 영상, 이미지 또는 오디오 녹음”으로 정의된다. 디지털 모사권은 이러한 디지털 모사물의 생성 및 이용을 허락하고 통제할 수 있는 권리를 말한다. 디지털 모사권은 실존 인물의 외관, 음성, 동작 등을 사실적으로 모사하여 마치 본인인 것처럼 인식되도록 만든 디지털 콘텐츠로 인해 발생하는 경제적·인격적 이익의 무단 이용과 침해로부터 해당 인물을 보호하고자 하는 것이다.
－01_“딥페이크 시대, 디지털 모사권” 중에서
실존 인물을 기반으로 한 캐릭터화된 아바타가 온라인상에서 상품을 판매하거나 가상 인플루언서로 활동하는 등 상업적으로 이용되는 경우, 해당 아바타가 특정 자연인을 식별 가능하게 하고 그 이용이 해당 인격 표지의 권리자 동의 없이 이루어졌다면, 퍼블리시티권, 초상권, 헌법상 인격권 침해 및 부정경쟁 행위에 해당할 수 있다. 실존 인물을 사실적으로 디지털화한 디지털 모사물 또한 마찬가지다. 다만 디지털 모사권은 아직 국내에서 입법 논의 단계에 있는 개념으로, 실정법상 명문화되지 않은 이상 침해 여부를 직접적으로 판단하기 어렵다.
－03_“나의 아바타, 아바타의 아바타” 중에서
음악은 여러 음이 모여 만들어진 하나의 유기체로서 ‘음들의 합’이라 할 수 있다. 이 음들은 음계를 이루고 AI 시스템은 이용자가 해당 저작물에 대한 인식이 없는 경우에도 특정 저작물과 유사한 결과물을 생성할 수 있다. 이용자가 단순한 프롬프트를 입력하였으나 해당 저작물이 AI 학습 데이터에 포함되어 있었고 AI 산출물이 해당 저작물과 실질적으로 유사한 경우 저작권 침해가 발생할 수 있다. 이용자가 특정 저작물에 대한 접근을 구체적으로 지시하지 않았더라도 AI 모델이 해당 저작물에 접근하여 이를 기반으로 산출물을 생성할 수 있으며, 이로 인한 저작권 침해 책임이 발생할 수 있다는 의미다.
－06_“AI 산출물의 침해 판단 기준” 중에서
AI의 순환적 학습에서 발생하는 가장 심각한 기술적 문제는 모델 붕괴(model collapse) 현상이다. 모델 붕괴는 AI 산출물과 인간의 원저작물 간 경계가 모호해지고 학습 데이터의 품질이 점차 저하된다. 이러한 데이터의 품질 저하는 모델의 성능 저하와 편향(bias)의 증폭으로 연결된다. 원본 데이터에 내재된 편향이 AI 생성 과정에서 강화되고, 강화된 편향이 다시 학습 데이터로 활용되면서 편향이 누적·확대되는 악순환을 만들어 내는 것이다.
－09_“AI 산출물 표시와 AI 재학습의 음영” 중에서