미리보기
미리듣기
인공지능 알고리즘은 자체로 중립적일 수 없다. 이는 개발 과정 또는 학습 과정에서 의도하든 그렇지 않든 인간의 의지가 반영되기 때문이다. 따라서 알고리즘을 포함해 기술을 객관적인 것이라고 판단하는 우를 범해서는 안 된다. 알고리즘은 이용자에게 일관된 결과를 보여 줌으로써 그것이 객관적인 것이라고 오인하도록 유도한다. 광고 사업자가 제공하는 광고를 예로 들 수 있다. 광고 사업자들이 내보이는 결과는 전혀 중립적이지도 객관적이지도 않지만 결과에 급진적 차이가 없기 때문에 이용자는 객관적으로 오인한다.
인간의 관여가 줄고, 기계화된 알고리즘이 스스로 의사 결정을 내리는 상황에 대한 책임과 대응을 어떻게 할 것인지에 대한 고민이 필요하다. 그러기 위해서는 알고리즘이 어떤 의도를 가지고, 어떻게 기능하였는지, 그 과정에서 어떤 데이터를 학습하거나 변수 범위를 어떻게 설정했는지 등 해당 알고리즘의 설명 가능성을 담보할 수 있어야 한다.
－01_“알고리즘” 중에서
의식적 편향과 무의식적 편향 중 전자는 의도적인 경우라서 수정이 가능하지만, 후자는 의도성이 반영된 영역을 확인하기가 쉽지 않기 때문에 수정이 어렵다. 블랙박스화되어 인간이 처리 과정을 확인할 수 없고, 그 처리 결과만을 확인할 수 있기 때문에 대응이 쉽지 않다.
－03_“편향과 차별” 중에서
알고리즘 권력화는 알고리즘에 의한 권력화라기보다는 알고리즘을 이용한 권력화라는 표현이 타당하다. 사업자의 대부분은 알고리즘을 도구적으로 활용하여 영향력을 행사하는 것이기 때문이다. 알고리즘 권력화는 알고리즘을 활용하는 기업의 힘이 그만큼 커지고 있다는 의미다.
－04_“알고리즘의 권력화” 중에서
알고리즘이 가져오는 다양한 문제를 해결해야 할 주체는 플랫폼 사업자다. 규제 당국이나 이용자는 문제 제기를 할 수 있을지언정, 바람직한 알고리즘의 방향을 제시하기는 어렵기 때문이다. 플랫폼 사업자들은 자발적으로 알고리즘의 작동 방식과 원칙을 공개하거나 설명하려는 노력을 해야 한다. 또한 소비자와 관련 업계 종사자는 알고리즘 설명요구권을 남용하지 않고 적절하게 사용해야 한다.
－08_“알고리즘의 영업비밀 이슈” 중에서