인공지능이 내린 의사결정은 많은 경우 인간이 주도하는 과정의 부분일 뿐이다. 인간 의사결정자를 위해 보다 상세한 정보를 제공하는 역할로 활용될 뿐, 최종 의사결정은 그 권한과 책임을 갖는 인간이 내린다. 인공지능 의사결정에 의존해 인간이 어떤 판단을 내릴 땐, 편향성이 유입될 수 있는지 인공지능 판단을 포함한 의사결정 전 과정을 살펴보아야한다. 사전에 의도하지 못했던 결과를 효과적으로 찾아내기 위해 제3자에 의한 독립적 검토가 필요하다. 인공지능이 개입된 의사결정을 더 주의하여 살펴보아야할 이유는 그 결과가 미치는 파급이 전에 없이 크기 때문이다.

인공지능이 가져올 혜택과 폐해는 동전의 양면처럼 붙어있다. 누가 어떤 목적으로 이 기술을 적용하는지에 따라 인공지능 설계와 학습 데이터 선택은 달라지며, 결과가 누구에겐 혜택이 되고 또 다른 이에겐 폐해가 될 수 있다. 얼굴인식 알고리즘을 광범위하게 적용하고 싶어 하는 경찰은 최신 기술로 범죄율을 낮추고 싶어 한다. 하지만 이로 인해 이유 없는 감시와 검문을 받게 되는 시민은 인권 침해를 우려할 수밖에 없다. 수백 수천 명의 응시자가 몰리는 취업 인터뷰를 하는 기업은 효율성을 위해 인공지능 인터뷰를 활용하지만, 응시자는 공정성을 의심한다. 이렇듯 인공지능이 만들어가는 미래는 서로 다른 이해관계자 간 충돌을 초래한다. 바로 이 지점이 인공지능이 끄는 디스토피아로의 행진을 막기 위해 시급히 고민해야 할 부분이다.

Comment

Everyone's AI

믿을 수 없는 선생님, 믿을 수 있는 인공지능

인공지능 - 희망 혹은 두려움