미리보기
미리듣기
2024년 발효된 EU ｢AI 법｣의 위험 기반 규제, 고위험·생성형 AI 사업자의 의무, 데이터 거버넌스, 기록·보관·감독 체계를 정리하고 한국의 ｢AI 기본법｣과의 차이를 비교한다. 글로벌 시장에서 기업이 준비해야 할 규제 대응 전략을 제시하는 실무 지침서다.
EU ｢AI 법｣은 인공지능 기술의 안전성과 기본권 보호를 핵심 가치로 삼아, 위험 기반 접근법을 구체화한 최초의 포괄적 규제 체계다. 이 법은 AI 시스템을 위험 수준에 따라 분류하고 고위험 시스템에 대해서는 데이터 품질, 편향 방지, 설명 가능성, 감사 가능성 등을 법적으로 요구함으로써, 데이터 거버넌스를 규제의 핵심 요소로 끌어올렸다. 개발자, 배포자, 사용자 등 다양한 행위자에 대한 책임을 명확히 하고, 기술적 통제와 법적 책임의 이중 프레임을 제시함으로써, 단순한 기술 규제를 넘어 사회적 신뢰 형성과 기본권 보호를 제도화하고자 한다.
－01_“입법 취지” 중에서
｢AI 법｣은 “책임 있는 혁신”과 “개방형 기술 생태계의 조성”을 명시적 목표로 삼고 있으며, 이를 위해 두 가지 핵심 장치를 규정한다. 첫째는 신기술의 실험과 조정을 허용하는 규제 샌드박스 제도(Regulatory Sandbox)이고, 둘째는 오픈 소스 AI 기술에 대한 일정 부분의 투명성 규제 완화 및 보호 장치다. 이러한 입법 설계는 규제와 기술 진보 사이의 협력적 통치를 제도화한 것으로 평가된다.
－03_“혁신과 오픈 소스” 중에서
AI 시스템의 성능과 신뢰성은 그 토대가 되는 데이터의 질과 관리 수준에 크게 의존한다. 특히 고위험 인공지능 시스템의 경우, 부정확하거나 편향된 데이터는 개인의 권리 침해, 차별, 사회적 불평등의 심화를 초래할 수 있다. 이에 따라 EU ｢AI 법｣ 제10조는 단순한 기술 관리 차원을 넘어, 인공지능의 법적 정당성과 사회적 수용성을 확보하기 위한 기반으로서 데이터 거버넌스를 규정하고 있다. 이는 인공지능 시스템이 공정하고 투명하게 작동하도록 하는 핵심 장치이며, 데이터가 알고리즘에 미치는 구조적 영향을 제어하고 책임을 분산시킬 수 있는 수단으로 기능한다.
－06_“데이터 거버넌스” 중에서
EU ｢AI 법｣ 제27조는 기본권 영향 평가(FRIA)의 개념, 절차, 이행 주체를 명확히 규정하며, AI 시스템을 배포하려는 주체가 사전에 책임 있게 기술을 운용하도록 유도한다. (…) 이러한 제도는 기술적 적합성 평가만으로는 포착하기 어려운 윤리적·사회적 위험까지 고려해, 차별, 프라이버시 침해, 표현의 자유 제한 등 기본권 침해 가능성을 최소화하고, AI 기술에 대한 사회적 신뢰와 규제 정당성을 동시에 확보하는 데 기여한다.
－09_“기본권 영향 평가 제도” 중에서