미리보기
미리듣기
EU의 인공지능법(AI Act)과 한국 AI 기본법을 비교 분석하여, AI로 인한 개인정보 침해·차별·책임 불명확성 등 새로운 위험에 대응하기 위한 소비자 보호 전략을 제시한다. AI 시대의 소비자 보호를 법·기술·윤리의 관점에서 종합적으로 안내하는 필독 해설서다.
자동화된 컴퓨터 알고리즘이 데이터에서 가치를 추출하는 강력한 도구가 될 수 있다는 것은 의심의 여지가 없으며, 잠재적으로 시장 효율성과 혁신을 촉진하고 심지어 경쟁을 촉진할 수도 있다. 그럼에도 새로운 기술 도구가 기업의 운영 및 상호작용 방식에 큰 혁명을 일으킬 때마다 일부 시장 참여자가 사회적 목표와 일치하지 않는 사적 이익을 달성하기 위해 강화된 힘을 사용할 위험은 충분하다. 즉, 악의적인 조작은 물론 무의식적으로 알고리즘이 이용될 수 있다.
－01_“알고리즘 소비” 중에서
알고리즘의 불투명성에 따라 발생하는 문제에 대한 책임 주체 또한 명확하지 않다. 즉, 알고리즘이 내린 결론이 문제되었을 때 어느 단계에서 문제가 되는지 확인이 쉽지 않다는 점이다. 알고리즘의 블랙박스 현상이 가장 큰 문제로 인식되는 이유다. 데이터의 정제 과정에서의 문제인지, 데이터의 학습 문제인지, 모델에 대한 파라미터를 조정하는 과정에서 문제인지, 알고리즘 조작에 따른 문제인지를 쉽게 확인할 수 없기 때문이다. 이러한 사항은 내부적으로 풀어야 할 문제이며, 소비자에게 무과실 책임을 주장하기 어렵다.
－03_“블랙박스화한 알고리즘” 중에서
제대로 된 설명이 이행되지 않을 경우에는 원인에 따른 결과 책임을 벗어나기는 어렵다. 만약 어떤 결과에 대해 그 원인을 알 수 없다면 소비자는 어떠한 선택을 할 수 있을 것인지 의문이다. 손해 발생에 따른 책임을 누구에게 물을 것인지가 가장 큰 문제다. 서비스 제공자나 개발자에게 묻기 어려운 상황이 발생할 수 있다. 손해는 발생하였으나 그 책임을 질 수 있는 관계자의 부존재 현상도 배제할 수 없다. 현재로서는 최종적인 서비스를 제공하는 사업자에게 그 책임을 물을 수밖에 없는 상황이다.
－06_“주체별 책임” 중에서
소비자 안전을 체계적으로 관리하기 위해서는 소비자 거버넌스(governance)의 수립이 필요하다. (…) 거버넌스로서 알고리즘 규제와 소비자 보호라는 부분도 정부의 소비자 정책이나 소비자 단체의 알고리즘에 대한 대응 체계의 구축을 의미한다. 무엇보다 소비자 단체를 포함한 시민사회의 역할은 인공지능에 대한 감시자로서 역할이라고 본다. 이러한 내용을 구체화하는 것이 ‘소비자 권리 장전’으로 볼 수 있다.
－09_“소비자 거버넌스” 중에서