미리보기
미리듣기
AI가 보건 의료 분야에 미치는 영향을 다루며 AI의 도입에 따른 윤리적 문제를 분석한다. 전통적인 의료 윤리를 넘어, AI가 인간과 환경의 건강을 고려하는 포괄적 접근을 제시한다. 헬스케어 AI 윤리는 다양한 학문을 통합해 현실적인 해결책을 모색하며 AI가 인류와 생물권의 건강을 지키는 방법을 제시한다.
헬스케어 AI가 도입된다고 하여 보건 의료 영역 또는 헬스케어에서 환자 및 시민의 역능 강화(empowerment)가 자연스럽게 이루어질 것이라는 예상은 과도하다. 오랫동안 전문가가 독점해 온 보건 의료 영역은 특히 그 지식의 복잡성과 실천의 무거움으로 인해 여전히 환자와 시민의 접근이 쉽지 않다. 의료 지식이 대중화된다고 해도, 오랫동안 다양한 경험을 해 온 의료인이 아닌 환자에게 스스로 의료적 결정의 책임을 지도록 하는 것은 오히려 환자에게 해를 끼치는 결과를 낳을 수 있다.
－01_“헬스케어 AI의 약속과 그에 대한 질문” 중에서
AI 기만이란 설정된 목적을 달성하기 위해 인간을 포함한 다른 행위자에게 거짓 믿음을 심도록 AI가 체계적으로 활동하는 것을 의미한다. 가짜 뉴스 사례가 제시하는, 주로 인간 행위자가 AI 도구를 활용해 의도적으로 다른 행위자를 오도하기 위한 정보를 생산하는 역정보와 AI 기만은 차이를 보이는데, 특히 AI 기만은 반드시 어떤 정보를 생성하는 방식으로만 작동하지 않는다는 점에서 그렇다. 위 사례에서 볼 수 있듯, 인간 행위자에게 체계적으로 특정 정보를 제공하지 않는 방식으로 행위자에게 잘못된 믿음을 심는 AI는 역정보 생산과 무관한 AI 기만의 형태를 보여 준다.
－03_“원칙 1: 인간의 자율성 존중과 보호” 중에서
헬스케어 AI의 개발과 활용에서 각 당사자, 즉 개발자·연구자·의료인·환자·시민·정부 등은 각자 책무(accountability)와 법적 책임(legal obligation and liability)을 져야 함을 헬스케어 AI 윤리의 책무, 법적 책임 원칙은 말하고 있다. 여기에서 책무란 좁게는 연구자와 개발자의 책임 있는 연구·개발 수행을 의미하지만, 넓게는 의료인·환자·시민을 포함한 AI 사용자가 자신의 책임하에 해당 알고리듬이나 앱을 활용해야 함을 의미하기도 한다. 법적 책임은 헬스케어 AI의 개발·활용과 관련해 발생한 피해를 보상하는 데서 각 행위자의 피해 최소화 노력과 함께 구체적인 보상 방안이 마련되어야 함을 요구한다. 따라서 책무가 모든 행위자의 책임 있는 행위를 요청하는 보편적 명령이라면, 법적 책임은 피해 보상과 관련해 개발자나 기관에서 어떤 행동을 취할 것인가와 관련된 실제적 규제라고 할 수 있다.
－06_“원칙 4: 책무, 법적 책임” 중에서
헬스케어 AI 연구 윤리의 접근을 위해선 다음 사항들이 고려된 별도의 체계가 필요하다. 첫째, 헬스케어 AI의 특성을 반영하면서도 기존 생명 의과학 분야의 연구 윤리와 융합될 수 있는 방안이 마련되어야 한다. 둘째, 의료인도 쉽게 이해할 수 있고 개발자도 접근 가능해야 한다. 특히, 이미 연구 윤리 체계를 접해 본 의료인과 달리 공학 분야의 개발자는 해당 분야의 지식이 없다는 점이 고려되어야 한다. 셋째, 이미 제시·확립된 검토와 관리 체계로 전술한 IRB가 있으며, 공공 데이터를 포함해 여러 데이터의 가명 처리 적절성을 판단해 수집 시점과 다른 목적 및 기관에서 활용할 수 있는지를 검토하는 데이터심의위원회(DRB)가 헬스케어 AI 연구 맥락에서 해야 할 역할을 정립해야 한다. 넷째, 헬스케어 AI 윤리 체계는 연구자·개발자·개발 기관의 자율 규제를 지원하고, 이런 연구와 개발에 대한 국가 및 정부 기관의 거버넌스 방식을 제안해야 한다.
－09_“헬스케어 AI 연구 윤리 자율 규제 거버넌스” 중에서