미리보기
미리듣기
AI 로봇이 낳는 권리·재산·물리적·사회적 위험을 체계적으로 분류하고, 이를 측정할 수 있는 지표(11개 항목, 52개 지표)를 제시한다. 기술·윤리·정책을 아우르며 AI 로봇 시대의 공존 조건을 정밀하게 해설한다.
아이로봇이라는 공상과학 영화에서 보던, 음식을 만들고 심부름 등 가사 도우미 역할을 하는 로봇이 현실에서도 나타났다. 우리에게 로봇이란 더 이상 영화에서만 보던 존재가 아니다. 최근에는 재활이나 일상 보조 역할을 하기 위해 인간 신체에 착용하는 웨어러블 로봇이 개발되었다. 중국에서는 휴머노이드 로봇이 마라톤 대회에 참가해 완주했다. 효과적으로 병을 치료하기 위해 액체로 된 체내용 로봇도 개발이 한창이다.
-01_“AI 로봇 발전사” 중에서
앞으로 휴머노이드와 함께 사는 미래 사회에서는 휴머노이드로 인한 여러 가지 위험 상황과 윤리적 문제가 일상적으로 일어날 수 있다. 이 경우, 휴머노이드를 구매한 인간에게 형사에 대한 상해 또는 과실치상의 책임을 물어야 하는지, 휴머노이드를 제작하고 판매한 제조사에게 배상 책임을 물어야 하는지에 대한 논란이 생길 것이라는 것은 충분히 예상되는 시나리오다.
-03_“AI 로봇의 인간 신체 위협” 중에서
최근 알파고 개발자는 AI 기술이 잘못 사용될 가능성을 우려한다며 악의적인 사용자가 이 기술을 해로운 목적으로 전용할 수 있다고 우려했다. 또한 인간 수준의 지능을 갖춘 AI를 통제할 안전장치가 부재할 가능성을 매우 위험하다고 했다. AI 로봇은 필요한 데이터를 직접 수집해서 학습하고 자율적으로 판단할 수 있기 때문에 프로그래밍한 대로 행동하지 않을 수 있으며, 인간의 명령이나 예측에서 벗어나는 말을 하기도 한다.
-06_“AI 로봇의 사회적 문제” 중에서
AI 로봇의 위험성 유형별 측정 지표가 법·제도·정책 등 범용적으로 활용 가치가 있으려면 국제 사회에서 통용되는 AI 윤리 원칙과 관계성 연구는 필연적이다. 이를 위해 표준화된 AI 윤리 원칙을 찾는 것은 매우 중요하다. AI 로봇을 안전하게 상용화하기 위해서는 기획·개발하는 단계부터 위험성을 예방하기 위한 제도적 장치가 있어야 하고, 기술 매뉴얼이나 윤리 점검 지표 등 사회적으로 허용 가능한 가이드라인이 필요하다.
-09_“AI 윤리 원칙과의 관계성” 중에서
