미리보기
미리듣기
AI를 둘러싼 위험을 기술 문제가 아닌 책임과 신뢰의 문제로 다룬다. 블랙박스 AI의 오류, 알고리즘 권력, 자율 규제의 한계를 짚으며 규제의 의미를 새롭게 정의한다. AI 안전은 통제가 아니라 관리이며, 기술과 사회의 균형을 세우는 조건임을 설득력 있게 제시한다.
디지털 심화기에는 국민 누구라도 안전한 상태에서 일상생활을 영위할 수 있어야 한다. 안전은 추상적인 개념이지만 헌법상 안전권이라는 기본권 차원에서 논의가 이루어지고 있다. 다만, 직접적인 기본권이라기보다는 파생적 기본권으로 안전권이 논의되고 있다. AI의 안전은 AI가 가져오는 의사 결정의 투명성도 포함할 수 있다. 블랙박스화된 AI가 내린 결정은 이용자가 수용할 수 있는 수준의 신뢰성을 가질 수 있어야 한다는 의미다. 그렇지 않을 경우 안전의 전제가 되는 신뢰성을 가지기 어렵기 때문이다. 이를 위해 AI 결정에 대한 설명 의무를 부여하거나 설명 가능한 AI의 개발이 진행 중이기도 하다. 더 나아가서 SW 안전이라는 국가의 책무에 대해 디지털 안전이라는 확장된 개념으로 프레임을 구성하는 것도 의미가 있다.
－01_“AI 안전과 안전권” 중에서
AI가 가져오는 여러 가지 문제에 대응해야 한다는 당위성은 인정된다. 다만, 기술에 대한 규제는 자칫 기술 투자나 개발을 저해할 수 있으며, 기술 중립성에 위배될 수 있기 때문에 기술 규제는 지양될 필요가 있다. 따라서 원칙 중심으로 갈 것이냐 위험 기반에 따른 규제로 갈 것이냐의 정책적 결정이 필요하다. 위험 중심의 방식이나 원칙에 따른 위험 대응이냐는 방법론의 차이지, 안전을 위한 AI 규제 목적은 크게 다르지 않다.
－03_“AI 안전을 위한 규제 원칙” 중에서
AI가 안전하게 작동하려면 단순히 성능만 좋은 것이 아니라 그 결과를 사람이 이해할 수 있어야 한다. 그래서 최근에는 설명 가능한 AI를 만들거나, 결과에 대한 신뢰성을 높이는 기술을 개발하는 방향으로 연구가 진행되고 있다. 먼저, 설명 가능한 AI가 구체화하기 전 단계로서 요구받는 안전성 확보 방안으로 알고리즘 공개가 주장된다. 알고리즘을 공개함으로써 문제의 원인을 찾고, 그에 따른 대응 방안을 찾을 수 있다는 이유다. 다만 사업자들은 알고리즘 공개에 대해 영업 비밀이나 기업 정보가 외부에 유출됨으로써 기업 자산이 제3자에게 유출될 수 있다고 주장한다. 이러한 우려를 불식하기 위해 알고리즘 공개는 일반 공중이나 제3자에 대한 공개이기보다는 관리 가능한 객관적이고 공정한 기관을 통해 이루어지도록 설계해야 한다.
－06_“설명 가능한 AI와 기술적 구현” 중에서
누구나 자신이 있는 곳이 안전하다는 것을 느낄 수 있는 상태의 유지는 국가의 중요한 책무다. 물리적인 안전의 중요성은 물론 디지털 환경에서의 안전 또한 무시할 수 없다. 인터넷 기반의 다양한 서비스는 일상생활을 유지하는 중요한 기반 시설이라는 점에서 디지털 안전 체계는 중요하다. 디지털 환경에서의 안전은 프라이버시(privacy)로서의 개인의 사생활 보호를 넘어선 물리적인 환경이나 사회적인 영역에서의 안전까지로 확대되고 있다.
－09_“AI 안전과 신뢰 사회” 중에서