인간을 모방한 AI는 인간처럼 편향된 판단을 내릴 수 있다. 다가오는 AI 시대에도 인종에 따라, 성별에 따라 직장을 구하거나 은행에서 대출받을 때 차별을 당할 수 있다는 이야기다.
MIT에서 얼굴인식 인공지능(AI)을 연구하던 조이 부오라뮈니(Joy Buolamwini)는 이상한 경험을 하기 시작했다. 컴퓨터 전면 카메라 앞에 앉아 얼굴을 갖다 대도 컴퓨터가 그녀의 얼굴을 인식하지 못하는 것이었다. 피부색이 밝은 친구들이 앞에 앉을 때는 인식에 문제가 없었다. 그런데 화이트 마스크를 얼굴에 붙이고 컴퓨터 앞에 앉은 어느 날, 얼굴인식 소프트웨어가 작동하며 갑자기 컴퓨터 스크린이 켜졌다.



자기 컴퓨터만의 문제가 아닐 수도 있다고 생각한 그녀는 마이크로소프트(MS)와 IBM, 투자금 5억 달러를 모집한 중국 스타트업 ‘페이스++’의 AI 구동 얼굴인식 소프트웨어를 연구하기 시작했다. 각 소프트웨어에 1000명의 얼굴을 보여주고, 한 명씩 성별을 판단하도록 하는 연구였다. 3사 소프트웨어 모두 백인의 얼굴을 인식하는 데 아무 문제가 없었고 특히 백인 남성의 성공률은 더 높았다.

※ 해당 기사는 유료콘텐트로 [ 온라인 유료회원 ] 서비스를 통해 이용하실 수 있습니다.