미리보기
미리듣기
효율 중심의 인공지능 개발이 낳은 불안과 한계를 짚으며, 인간을 다시 기술의 중심에 두려는 흐름을 분석한다. 인간 증강, 통제권, 책임이라는 관점에서 인간중심 AI의 가능성과 문제를 함께 살피고, 그것이 과연 해법이 될 수 있는지 비판적으로 질문하는 책이다. AI문고.
‘인간중심’이라는 개념은 한 명의 학자나 단일한 이론에서 비롯된 것이 아니다. 오히려 여러 시대적 문제의식과 실천이 서로 얽히며 형성된 결과에 가깝다. 인간중심 개념의 하나의 뿌리는 ‘기술의 인간화(humanizing technology)’와 ‘인간 해방’과 같은 철학에서 찾을 수 있다. 이 철학은 단순히 기술 비판을 넘어, 사회 변화와 혁신이라는 보다 넓은 가치를 담아내고자 했다. 1970년 뉴욕의 비디오 예술가들이 창간한 잡지 《급진적 소프트웨어(Radical Software)》는 창간호에서 기술의 인간화라는 비전을 선언했다. 그들에게 기술의 인간화란, 기술을 무비판적으로 수용하거나 완전히 거부하는 것이 아니라, 기술을 인간 친화적으로 설계하고 시민들이 쉽게 접근할 수 있도록 만들어 기술의 힘을 시민에게 되돌려주는 일이었다. 이들에게 이 작업은 인간 종의 생존과도 직결된 문제였다.
－01_“인간중심 개념의 역사” 중에서
물론 모든 기술이 그렇듯, 인공지능 역시 예기치 않은 오류나 오작동에서 완전히 자유로울 수는 없다. 기술을 100퍼센트 통제할 수 있다는 믿음은 신화에 가깝다. 중요한 것은 사람들이 인간이 인공지능에 대해 통제권을 갖고 있다고 인식하도록 만드는 구조를 갖추는 것이다. 그래야만 인공지능의 운영과 그로 인한 결과에 대한 책임이 인간에게 귀속될 수 있다. 따라서 통제 가능성은 인간중심 인공지능의 핵심적인 조건이 된다. 이처럼 인간이 인공지능을 통제할 수 있어야 한다는 원칙에는 합의가 이루어졌지만, 인공지능을 어떤 형태로 설계할 것인지에 관해서는 의견이 엇갈린다.
－03_“인간중심 AI의 구현을 위한 조건들” 중에서
창작 영역의 인공지능은 전문적인 훈련 없이도 아이디어만을 가지고 있다면 누구든 이를 표현할 수 있는 기회를 제공한다는 의의가 있다. 창작의 문턱을 낮추고 있다는 것이다. 다른 한편으로, 인간 창작자의 독창성, 진정성, 그리고 그들이 작품에 부여하는 특별한 가치는 여전히 보존되고 존중받아야 한다. 인간중심 인공지능은 단순히 기존 작품을 모방하거나 대체하는 것이 아니라, 인간 창작자의 창의성을 증진하고, 새로운 표현 가능성을 열어주는 도구로 기능해야 한다.
－06_“인간중심 AI와 창작” 중에서
앞서 살펴본 기술 낙관주의와 함께, 인간중심 인공지능 논의의 또 다른 핵심적 한계는 인간과 기술 간의 근본적인 이분법을 전제한다는 점이다. 예컨대 인간은 내재적으로 인과관계에 대한 호기심을 갖고 있지만 기계는 그러한 특성이 없다고 주장하거나, 인간은 합리적인 판단 능력을 지니고 있어 인공지능에 대한 인간의 통제를 강화하면 위험을 줄일 수 있다는 가정 등이 여기에 해당한다. 이러한 구도에서 인간과 기술은 서로 분리된 실체로 간주되며, 기술은 인간의 통제 아래 있고, 있어야만 하는 수단으로 이해된다.
－09_“인간중심 AI 속 인간과 기술관” 중에서
교보문고:
알라딘:
예스24: