미리보기
미리듣기
AI의 위험을 여덟 가지 개념으로 정리하며, 기술의 어두운 측면을 체계적으로 분석한다. 편향, 불투명성, 범죄 가능성, 인간 의존 심화까지 AI가 초래할 구조적 문제를 짚는다. AI를 이해하기 위해 반드시 마주해야 할 ‘그림자’를 드러낸다.
주변에서 낯설고 생소한 일이 발생할 때 그 현상의 특징이 무엇인지 처음부터 제대로 파악하기란 쉽지 않다. 하지만 유사한 사례들을 모아 공통점을 추려낸 후 이를 하나의 개념으로 ‘추상화’한다면, 이후에는 그 개념의 틀 안에서 현상을 바라볼 수 있어 보다 명확하게 그 특징을 이해할 수 있다. 그리고 ‘사례-개념’이라는 계층적 관계가 형성되기 때문에 향후 현상에 대한 체계적인 연구도 가능하다. 이처럼 개념은 현상의 특징을 파악하는 데 중요한 요소다. 마찬가지로 AI가 일으키는 사회의 어두운 현상을 제대로 이해하기 위해서는 무엇보다 다크 AI를 명확하게 정의할 필요가 있다. 그러나 아직 우리에게 다크 AI는 불명확한 개념으로 다가온다. 그렇다 보니 살펴본 바와 같이 AI의 어두운 측면을 다룬 연구들은 존재하지만, 다크 AI 자체에 초점을 맞춘 연구는 아직 찾아보기 어렵다.
－01_“다크 AI” 중에서
‘프라이버시(privacy)’는 자신에 대한 정보를 타인이 함부로 접근하지 못하도록 통제하고, 필요에 따라 선택적으로 공개할 수 있는 권리를 의미한다. 특히 공동체 중심의 삶에서 개인 중심의 삶으로 사회 구조가 변화하면서 프라이버시의 중요성은 더욱 강조되고 있다. 이렇게 인간은 서로의 프라이버시를 존중하면서 서로에게 완전한 투명성을 요구하지 않는다. 그렇다면 우리가 AI에게 투명성을 요구하는 것은 모순이 아닐까? 우리는 왜 AI가 투명하기를 바라는 것일까?
－03_“불투명성” 중에서
AI가 알고리즘이나 프로그램의 형태로 존재한다면, 그 AI를 범죄의 주체로 인식하기는 쉽지 않다. 범죄는 말 그대로 ‘죄를 범하는 행위’를 의미하며, 기본적으로 ‘행위성’을 전제한다. 그런데 알고리즘이나 프로그램은 행위를 직접 수행하는 주체라기보다 그러한 행위를 가능하게 하는 기술적 기반에 더 가깝다. 하지만 AI가 휴머노이드 로봇과 하나가 되어 물리적 형태로 존재하게 된다면 상황은 달라진다. 물리적 신체를 가진 존재를 행위의 주체로 인식하는 것은 어렵지 않기 때문이다.
－06_“범죄 가능성” 중에서
반면 인공지능은 방대한 지식을 축적할 수 있을 뿐 아니라 어떤 선택을 할 때 그 수많은 정보를 동시에 활용할 수 있다. 이러한 점을 고려하면 인간과 인공지능의 경쟁에서 누가 이길지는 이미 정해져 있는 것인지도 모른다. 일각에서는 향후 인공지능 통제가 어려운 상태가 발생하기 전에 지금이라도 개발을 멈춰야 한다고 주장한다. 그러나 인공지능을 개발하는 기업은 모델 개발로 인한 위험보다는 얻을 수 있는 이익에 더 큰 비중을 두고 있어, 현실적으로 개발을 멈추기는 쉽지 않다.
－09_“통제 불능” 중에서
교보문고:
알라딘:
예스24: