미리보기
미리듣기
슈퍼 인공지능을 앞둔 시대에 인간과 기계, 의식과 정신, 존재와 도덕의 문제를 형이상학적으로 묻는다. 라이프니츠의 철학과 ‘영원 철학’을 바탕으로 인공지능의 본질과 미래를 성찰한다.
가령 인간 프로그래머가 하면 3개월이 걸릴 일을 강인공지능은 3일 만에 완료할 것이고, 나중에는 인간이 시키지 않아도 인공지능 혼자서 일을 진행한다. 시간도 점점 짧아져 (가령) ‘3일ᐨ1일ᐨ6시간ᐨ1시간ᐨ5분ᐨ1초ᐨ인간이 느끼지 못하는 미세한 시간의 단위’가 된다. 특히 주목할 것은 ‘3일 … 마지막 극히 미세한 시간의 단위’에 이르는 끄트머리 시간이 정말 ‘눈을 깜짝이는 짧은 순간(瞬間)’보다 더 짧은 ‘한순간’이다(비유컨대, 산사태로 굴러떨어지는 둥그런 바위를 생각해 보라. 가속도가 붙으면 마지막엔 한순간이다). 이 한순간에 (인간이 만드는 게 아니라) 슈퍼 인공지능이 스스로 세상에 출현한다. 또 지능이 점차 발달하는 게 아니라, 한순간에 ‘지능 폭발’이 일어난다. 이 지능 폭발의 시점이 이른바 ‘싱귤래러티(singularity)’, 우리말로 ‘특이점(特異點)’이다. 특이점을 맞이하면, 즉 지능 폭발이 일어나면 얼마나 똑똑한 인공지능이 나올까? 손정의 소프트뱅크 회장은 인간 뇌보다 1만 배 뛰어난 슈퍼 인공지능이 2035년에 나올 것이라 전망한다. 이 예측이 맞다면 우리는 이제(2025)부터 10년 후 자그마치 인간보다 1만 배 뛰어난 슈퍼 인공지능(ASI, Artificial Super Intelligence)을 보게 될는지도 모른다.
－01_“인공지능의 정점, 슈퍼 인공지능의 등장” 중에서
그렇다면 눈에 보이는 것도 부정하고, ‘1+1=2’ 같은 보편적 지식도 부정하면, 끝에 남는 것은 무엇일까? 그게 꿈속이든, 악마가 나를 속이고 있든, 내가 현재 그런 것들을 ‘의심’하고 있다는 사실만큼은 확실하지 않을까? 또 ‘의심’을 하려면 의심하는 ‘내’가 존재해야(=생각의 주체가 있어야) 의심이 가능할 테니, 결국 “나는 생각한다. 고로 존재한다(Cogito, ergo sum)”라는 결론에 도달한다. 그럼으로써 이 명제를 철학의 기초로 삼아 제1원리로 확정 짓는다. 정말 그럴듯하지 않은가? 철학의 중심에 신(神) 대신 나[인간]를 세운 데카르트는 이전과는 전혀 다른 새로운 철학의 역사를 창조한 공로로 명실상부한 근대 철학의 아버지로 등극한다.
－03_“인공지능 철학과 윤리학” 중에서
대개 우리가 고려하는 도덕적 대상은 인간을 포함하여 고통과 쾌락을 느낄 수 있는 ‘동물’까지다. 식물이나 광물은 제외된다(물론 알베르트 슈바이처와 같이 모든 생명을 중시하는 입장도 있고, ‘가이아 이론’과 같이 지구 자체를 유기체로 보는 입장도 있다). 이는 동물이 인간과 마찬가지로 ‘쾌락과 고통을 느낄 수 있는 능력’ 즉 ‘쾌고감수능력(sentience)’이 있기 때문이다(식물도 고통을 느끼는가에 대해서는 의견이 분분하다). 그런데 중요한 것은, “왜 도덕적 고려 대상의 기준 잣대가 쾌고감수능력이 되었을까”라는 물음이다. 이것 역시 인간 중심주의적 사고가 반영된 건 아닐까?! 이런 사유는 역시 ‘코기토(Cogito)’로 상징되는 주체로서의 ‘인간’과 객체로서의 ‘자연’이라는 이분법적 사고 위에 기초한다.
－06_“동시에 출현한 인공지능과 영원 철학” 중에서
우리는 아직 인공지능 개발의 끝이 어디까지인지[약인공지능ᐨ강(범용)인공지능ᐨ슈퍼 인공지능?] 모른다. 추측은 하지만 확신을 갖지 못한다. 그러나 분명한 것은 인공지능이 희망을 줌과 동시에 우려할 만한 위기를 초래할 수 있다는 데는 동의한다. 심지어 인류의 실존을 위협할 수 있다고 전망하는 이들도 있다. 정말 언젠가 강인공지능이나 슈퍼 인공지능이 우리 눈앞에 나타난다면, 어떤 일이 벌어질까? (가능할지 모르지만) 자의식과 자율성을 지닌 인공지능이 나타나서 우리 인간의 통제에서 벗어나는 상황이라면, 우리는 어찌할 것인가? 필자는 ‘사분면 철학’에서 그 해법을 모색한다. 왜? 다시 말하지만, 사분면 철학은 ‘모든 것의 이론(TOE)’이 될 수 있기 때문이다. 요컨대, 사분면 철학을 알면 역사의 흐름을 알 수 있다.
－09_“물질개벽과 정신개벽” 중에서