미리보기
미리듣기
생성 AI 시대, 인간과 AI 표현의 혼동으로 인한 정보 위기를 막기 위해 AI 산출물에 ‘표시’를 요구하는 규제의 필요성과 설계 방향을 제시한다. 국내외 논의와 쟁점을 폭넓게 다룬다.
위험은 반드시 악의를 가진 사람에 의해서만 조장되는 것이 아니다. LLM이 환각(Hallucination) 작용으로 뱉어낸 그럴듯한 거짓말을 사람이 걸러내지 못해 잘못된 정보가 소셜네트워크(SNS)를 타고 급속하게 전파될 수 있다. 패러디나 밈(Meme)으로 쓰려고 장난 삼아 만든 딥페이크가 예상치 못한 파장을 낳기도 한다. 해악의 의도가 없는 허위정보(Misinformation)와 의도성 짙은 허위조작정보(Disinformation)를 개념적으로 구분하기도 하지만, 항상 후자의 폐해가 더 크다고는 말할 수 없다. 거짓정보 전달 경로에 있는 대다수는 보통의 대중이다. 따라서 위험의 규모는 악의의 유무보다도, 진실과 거짓을 구분하기 곤란한 정도에 더 크게 영향을 받는다. 그리고 이는 진실과 거짓을 각각 표상하는 매체의 외면적 동등성 수준에 좌우된다.
－01_“구체적 위험: 딥페이크와 권리 침해” 중에서
2018년 크리스티 경매에서 GAN 기술을 이용해 제작한 가상 인물의 초상화 <에드몽 드 벨라미(Edmond de Belamy)>가 43만 2500달러(약 5억 원)에 거래된 일이 AI 산출물의 최초 미술 경매 사례로 꼽힌다. 2024년 말에는 AI 로봇 아이다(Ai-Da)가 로봇 팔로 그린 작품이 소더비 경매에서 108만 달러(약 15억 원)에 낙찰된 일이 있다. 보다 최근엔 논란 속에서 2주간 진행된 크리스티의 AI 창작 작품 경매가 약 73만 달러(약 10억 5000만 원)라는 예상 이상의 실적을 거두며 2025년 3월 5일 마감되었다. 여전히 부정적 시선이 있지만, 경매 참가자의 다수가 MZ세대와 경매 경험이 없던 사람들이었다는 점에서 대중의 예술 시장 참여의 인상적인 성과로 남았다.
－03_“AI 산출물의 보호와 표시” 중에서
AI 산출물 표시 규제의 방법에 관해선 민간의 이해관계인들 사이에서도 입장이 나뉜다. 미국 저작권청이 2023년 8월부터 12월까지 실시한 공개의견수렴 과정에서 제출된 의견서들을 보면, 생성 AI로부터 크든 적든 타격을 입을 권리자(단체)들의 다수가 AI 산출물의 표시를 법으로 강제하는 데 찬성했다. 구글이나 스테이빌리티AI와 같은 AI 기업들은 법적 의무화를 서두르기보다 표준기술 개발과 시장의 자율적인 노력을 살펴 신중하게 대응하는 것이 바람직하다는 의견을 피력했다. 이처럼 자율규제를 선호하는 입장에선 AI 산출물 표시 분야에서 강제규제가 광범위하게 도입되면 기술 중립성의 원리를 해치고 표현의 자유와 경제활동을 위축시킬 수 있다는 우려를 표명한다.
－06_“자율규제와 강제규제” 중에서
한계와 부작용을 규제를 막는 원인으로서가 아니라, 규제를 형성해 가는 과정에서 이를 보완하는 계기로서 활용하기 위해서는 규제정책의 입안가들과 정부가 다음과 같은 측면에서 그 한계와 부작용에 대한 인식을 정책 활동에 반영해야 한다. 첫째, 지적된 한계를 극복하고 부작용을 최소화할 수 있도록 표시 요구사항의 세심한 설계에 힘써야 한다. 둘째, 규제의 필요성과 수준에 대한 국제적 공감대를 끌어내기 위한 활동이 전개되어야 한다. 셋째, 자율규제 및 기술표준화 동향에 관심을 기울이는 가운데 민관(民官)이 힘을 합쳐 조화로운 AI 거버넌스를 구축하기 위한 노력을 경주해야 한다.
－09_“AI 산출물 표시 규제의 한계” 중에서
교보문고: