닫기 공유하기

'성차별적' 편견 학습한 아마존 AI, 폐기처분되다

AI 기반 채용 시스템, '여성' 이력서 배제
男 구직자 많았던 산업 특성 인해 '편견 학습'

[편집자주]

아마존 (자료사진) © AFP=뉴스1
아마존 (자료사진) © AFP=뉴스1

여성을 성차별하는 인공지능(AI)을 막지 못한 아마존이 결국 AI 기반 채용 시스템을 폐기 처분했다.

10일(현지시간) 로이터통신에 따르면 아마존의 기계학습 전문가들은 지난 2014년부터 구직 지원자들의 이력서를 검토하는 컴퓨터 AI 시스템을 개발했다.

시스템은 지원자들한테 1~5점 사이의 점수를 매겨서 만일 100명이 지원했다면 이 중 최상위 5명을 골라냈다. 아마존은 시스템이 선별한 지원자만 채용하면 되는 것.

그러나 개발 1년이 지난 2015년이 되어서야 개발팀은 이 시스템이 여성에 대해 성차별하고 있다는 사실을 깨달았다.

시스템은 지난 10년간 아마존에 제출된 이력서 패턴을 검토해 지원자를 검토하도록 설계됐는데, 프로그램 개발자 대다수가 남자였던 산업적인 특성에 따라 시스템 스스로 '남성 지원자가 더 적합하다'고 학습했기 때문이다.

그 결과 시스템은 '여성 체스 동호회장' 등 '여성'이 들어간 이력서를 배제하고, 여자 대학교를 졸업한 지원자에게 낮은 점수를 매겼다.

아마존은 프로그램을 수정해 성차별적인 요소를 없애고자 했지만 그렇다고 해서 시스템이 다른 방식으로 또 다른 지원자를 차별하지 않는다고 확신할 수 없었다.

익명을 요구한 한 관계자는 로이터통신에 "결국 아마존 임원진은 AI 기반 채용 시스템 개발에 대한 희망을 접고 지난해 개발팀을 해산했다"고 말했다.

그는 아마존 채용 담당자들이 신규 직원을 채용할 때 시스템이 만든 추천자를 검토했지만 여기에만 전적으로 의지하진 않았다고 설명했다.

아마존은 AI 시스템과 성차별 문제에 대한 논평을 거부하면서 "직장에서의 다양성과 평등을 위해 노력하고 있다"고 말했다고 통신은 전했다.
로딩 아이콘