[이로운 BOOK촌] ‘백인 남성’ 만을 위한 테크놀로지? 쫄지 말고 뒤집자
[이로운 BOOK촌] ‘백인 남성’ 만을 위한 테크놀로지? 쫄지 말고 뒤집자
  • 이로운넷=양승희 기자
  • 승인 2019.06.21 02:15
  • 댓글 0
이 기사를 공유합니다

‘페미니즘 인공지능: 오해와 편견의 컴퓨터 역사 뒤집기’

“컴퓨터 시스템은 그것을 만드는 사람들을 대변한다.”

인공지능, 로봇기술, 생명과학, 빅데이터, 블록체인 등 ‘첨단기술’이 전 인류의 일상은 물론 역사 전체를 뒤바꾸고 있다. 4차 산업혁명을 주도하는 기술들의 핵심 기반인 컴퓨터 시스템이 그것을 만드는 몇 사람들만 대변한다면 미래는 어떻게 될까?

신간 ‘페미니즘 인공지능’은 그동안 테크놀로지 산업을 이끌어온 책임자들이 ‘백인 남성 엘리트’ 집단에 의해 장악돼왔다는 사실을 꼬집는다. 이들이 만든 기술이 인종과 성별을 차별하고 있으며, 이들의 공고한 네트워크를 통해 강화된 편견과 편향이 향후 개발될 시스템에도 영향을 미칠 수 있음을 지적한다.

‘페미니즘 인공지능: 오해와 편견의 컴퓨터 역사 뒤집기’ 표지 이미지./사진제공=이음출판사
‘페미니즘 인공지능: 오해와 편견의 컴퓨터 역사 뒤집기’ 표지 이미지./사진제공=이음출판사

저자인 메러디스 브루서드는 어려서부터 로봇 장난감을 좋아하던 소녀로, 대학에서 컴퓨터과학을 전공해 현재는 인공지능 전문가이자 데이터 저널리스트로 활동 중이다. 그는 ‘백인 남성 엘리트’ 중심으로 발전해온 테크놀로지 시스템의 문제를 해당 분야에서 소수자인 여성의 시각으로 분석하고, 이를 견제하고 제어할 장치가 작동해야 함을 주장한다.

책은 첨단 기술의 엄청난 데이터와 정보, 경험을 토대로 개발돼 객관적이고 공정하며 완전할 것 같지만, 그렇지 않다는 사실이 여러 사례를 통해 나타나고 있음을 보여준다.

예를 들어 미국 법원이 선고 과정에서 ‘COMPAS’라는 알고리즘을 사용했는데, 아프리카계 미국인들에게 불리한 결과를 낸다는 사실이 2016년 언론 보도를 통해 밝혀진다. COMPAS는 경찰이 체포한 사람들을 대상으로 한 설문조사를 분석해 응답자의 범죄 재발 가능성을 예측하는 점수를 내는 일종의 인공지능(AI) 프로그램으로, 판사들은 ‘객관적 판결’의 근거로 이 점수를 썼다. 하지만 그 결과는 흑인이 백인보다 더 긴 형기를 선고받는 불공정함으로 이어졌다.

브루서드는 “COMAS 설계자들이 기술 지상주의에 눈이 멀어 알고리즘의 해악성을 인지하지 못했다”며 “컴퓨터에 의해 생성된 판단이 사람의 판단보다 낫거나 공정하다고 믿으면, 시스템에 입력되는 것들의 타당성을 따져보지 않게 된다”고 비판한다.

책은 미국에서 열리는 소프트웨어 프로그래밍대회 ‘해커톤(Hackathon)’에서 개발된 성희롱 애플리케이션을 또 다른 차별의 사례로 든다.

해커톤에서는 흥미롭고 기발한 아이디어가 개발되고, 헤드헌터는 여기서 인재를 발굴하기도 한다. 그런데 2013년 열린 한 해커톤에서 남성 참여자 2명이 여성의 가슴이 노골적으로 드러난 사진을 공유하는 앱을 개발하며 비난을 받는다. 이는 “여성 혐오는 겉으로 진보적 세계관을 가지고 있다고 자부하는 이 분야의 진짜 수준을 드러낸 것”이다.

‘페미니즘 인공지능’ 북카드 이미지 속 저자의 모습./사진제공=이음출판사
‘페미니즘 인공지능’ 북카드 이미지 속 저자의 모습./사진제공=이음출판사

저자는 “테크놀로지의 세계를 보다 공정하게 만들기 위해서는 더 다양한 목소리들이 나와야 한다”고 강조한다. 그러려면 관련 분야의 진입 장벽을 낮추고, 경력이 어느 정도 쌓인 여성들이 정상에 오르기 전에 이탈하거나 정체되게 만드는 ‘새는 파이프라인(leaky pipeline)’ 문제에 대처하는 해결책을 도입해야 한다는 의견을 밝힌다.

‘페미니즘 인공지능’은 단순히 기술 분야의 성비 불균형을 해소하자는 이야기를 넘어, 배제된 다양한 구성원들의 목소리를 담자고 주장한다. “처리하기에 ‘불편하다’는 이유로 무시돼왔던 수많은 인간적 요소를 중심에 놓고, 사람과 삶을 돕는 도구로써 기술을 어떻게 쓸 것인지 사회‧윤리적으로 협의해야 한다”는 것이다.

“인간이야말로 모든 테크놀로지가 향해야 하는 가치다. 특정한 일부가 아닌 인간 모두가 테크놀로지의 발전과 적용 과정에서 고려돼야 한다. 테크놀로지는 공공의 이익이 돼야 한다.”

페미니즘 인공지능=메러디스 브루서드 지음, 고현석 옮김, 이음출판사 펴냄, 364쪽/ 1만5000원.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.