미리보기
미리듣기
생성형 AI가 글쓰기, 창작, 정보 탐색, 의사 결정에 깊숙이 들어온 시대의 핵심 질문을 다룬다. 우리는 AI가 만든 정보를 어디까지 믿을 수 있는가. AI의 효율성, 친숙함, 맞춤형 응답이 신뢰를 만들지만, 환각, 편향, 딥페이크, 저품질 콘텐츠, 알고리즘의 불투명성은 불신을 키운다. 기술 성능만으로는 충분하지 않다. AI를 지속 가능하게 활용하려면 투명성, 공정성, 리터러시, 사회적 책임을 기준으로 신뢰의 조건을 세워야 한다.
주목할 점은 AI가 제공하는 답변은 실제로 불확실성을 제거하기보다 불확실성이 제거된 것처럼 보이게 한다는 점이다. 인간은 다양한 선택지와 모호한 상황에 대해 결정을 하기 위한 인지적 부담을 가진다. 하지만 AI는 ‘사회 불평등’, ‘국가 간 전쟁’과 같이 난해한 문제에 대해서도 비교적 단순화하는 경향이 있다. 이용자 입장에서는 복잡한 판단 과정을 생략하고, 단일한 해석을 받아들이기 쉬운 환경에 놓이게 된 셈이다. 결과적으로, 생각할 시간과 노력, 에너지를 줄임과 동시에 AI가 주는 정보를 그대로 신뢰하려는 판단이 클 가능성이 높다.
－01_“신뢰 동기” 중에서
익숙함은 단순 노출 효과를 높이는 핵심 요소 중 하나다. 반복적으로 접하게 된 정보나 대상은 처리 과정에서 적은 인지 노력을 요구한다. 이는 곧 해당 서비스나 기술에 대해 긍정적인 감정으로 이어질 수 있다. 사람들은 어떤 대상을 이해하기보다 익숙하다는 이유만으로 신뢰할 수 있다는 것이다. 예를 들어 사람들이 특정 브랜드의 제품을 반복적으로 접할 경우, 해당 제품의 성능이나 품질을 충분히 검토하지 않더라도 긍정적인 인식을 갖게 되는 경우가 많다. 편의점에서 음료를 고를 때도 처음 보는 제품보다 자주 접한 제품을 선택하는 경향이 있는데, 이는 해당 제품이 더 우수할 수도 있지만, 궁극적으로 익숙하기 때문이다.
－03_“익숙함의 효과” 중에서
이렇듯 각 영역에서 다르게 나타나는 신뢰는 AI 시스템 설계에 중요한 시사점을 제시한다. 모든 영역에서 이용자의 신뢰를 얻으려 하기보다 이용자가 신뢰할 수 있는 영역을 명확히 하고, 정치·젠더 등 민감한 영역에서는 AI 스스로 답변의 한계를 제시하는 것이 신뢰를 얻는 데 장기적으로 더 효과적일 것이다. 예컨대 이용자가 제기한 정치적으로 논쟁이 심각한 질문에 대해 AI가 “이 내용은 다양한 관점이 존재하며 제 답변이 편향될 수 있습니다”라고 답변을 제시하는 것이 AI에 대한 이용자의 신뢰를 지키는 방법이 될 수도 있을 것이다. 즉 AI 시스템의 편향성을 투명하게 알리고, 이용자가 항상 비판적 시각을 견지하며 다양한 AI의 답변을 입체적으로 검증할 수 있도록 하는 것이 훨씬 건강하고 현실적인 신뢰 구축의 방향일 것이다.
－06_“편향 인식과 신뢰 철회” 중에서
인간과 AI의 신뢰 형성 과정에서 AI 리터러시 역할은 기술적 메커니즘을 이해하고 조절하는 역할을 할 수 있다. AI 리터러시는 기술 활용 능력뿐만 아니라 AI의 윤리적 문제와 한계 등을 비판적으로 이해할 수 있는 능력을 포함한다. 인지적 신뢰 차원에서 AI 리터러시 역할은 AI의 기능적 특성과 한계를 보다 명확하게 이해할 수 있다. 나아가 정서적 신뢰 형성 과정에서는 AI에 대한 맹목적인 의존을 예방하고 객관적 성찰을 가능하게 할 수 있다. 따라서 AI와 인간이 건강한 신뢰적 관계를 형성하기 위해서는 무엇보다 AI를 비판적으로 이해할 수 있는 리터러시 역량이 필요하다.
－09_“AI 리터러시와 신뢰 강화” 중에서