“컴퓨터 시스템은 그것을 만드는 사람들을 대변한다.”
인공지능, 로봇기술, 생명과학, 빅데이터, 블록체인 등 ‘첨단기술’이 전 인류의 일상은 물론 역사 전체를 뒤바꾸고 있다. 4차 산업혁명을 주도하는 기술들의 핵심 기반인 컴퓨터 시스템이 그것을 만드는 몇 사람들만 대변한다면 미래는 어떻게 될까?
신간 ‘페미니즘 인공지능’은 그동안 테크놀로지 산업을 이끌어온 책임자들이 ‘백인 남성 엘리트’ 집단에 의해 장악돼왔다는 사실을 꼬집는다. 이들이 만든 기술이 인종과 성별을 차별하고 있으며, 이들의 공고한 네트워크를 통해 강화된 편견과 편향이 향후 개발될 시스템에도 영향을 미칠 수 있음을 지적한다.
저자인 메러디스 브루서드는 어려서부터 로봇 장난감을 좋아하던 소녀로, 대학에서 컴퓨터과학을 전공해 현재는 인공지능 전문가이자 데이터 저널리스트로 활동 중이다. 그는 ‘백인 남성 엘리트’ 중심으로 발전해온 테크놀로지 시스템의 문제를 해당 분야에서 소수자인 여성의 시각으로 분석하고, 이를 견제하고 제어할 장치가 작동해야 함을 주장한다.
책은 첨단 기술의 엄청난 데이터와 정보, 경험을 토대로 개발돼 객관적이고 공정하며 완전할 것 같지만, 그렇지 않다는 사실이 여러 사례를 통해 나타나고 있음을 보여준다.
예를 들어 미국 법원이 선고 과정에서 ‘COMPAS’라는 알고리즘을 사용했는데, 아프리카계 미국인들에게 불리한 결과를 낸다는 사실이 2016년 언론 보도를 통해 밝혀진다. COMPAS는 경찰이 체포한 사람들을 대상으로 한 설문조사를 분석해 응답자의 범죄 재발 가능성을 예측하는 점수를 내는 일종의 인공지능(AI) 프로그램으로, 판사들은 ‘객관적 판결’의 근거로 이 점수를 썼다. 하지만 그 결과는 흑인이 백인보다 더 긴 형기를 선고받는 불공정함으로 이어졌다.
브루서드는 “COMAS 설계자들이 기술 지상주의에 눈이 멀어 알고리즘의 해악성을 인지하지 못했다”며 “컴퓨터에 의해 생성된 판단이 사람의 판단보다 낫거나 공정하다고 믿으면, 시스템에 입력되는 것들의 타당성을 따져보지 않게 된다”고 비판한다.
책은 미국에서 열리는 소프트웨어 프로그래밍대회 ‘해커톤(Hackathon)’에서 개발된 성희롱 애플리케이션을 또 다른 차별의 사례로 든다.
해커톤에서는 흥미롭고 기발한 아이디어가 개발되고, 헤드헌터는 여기서 인재를 발굴하기도 한다. 그런데 2013년 열린 한 해커톤에서 남성 참여자 2명이 여성의 가슴이 노골적으로 드러난 사진을 공유하는 앱을 개발하며 비난을 받는다. 이는 “여성 혐오는 겉으로 진보적 세계관을 가지고 있다고 자부하는 이 분야의 진짜 수준을 드러낸 것”이다.
저자는 “테크놀로지의 세계를 보다 공정하게 만들기 위해서는 더 다양한 목소리들이 나와야 한다”고 강조한다. 그러려면 관련 분야의 진입 장벽을 낮추고, 경력이 어느 정도 쌓인 여성들이 정상에 오르기 전에 이탈하거나 정체되게 만드는 ‘새는 파이프라인(leaky pipeline)’ 문제에 대처하는 해결책을 도입해야 한다는 의견을 밝힌다.
‘페미니즘 인공지능’은 단순히 기술 분야의 성비 불균형을 해소하자는 이야기를 넘어, 배제된 다양한 구성원들의 목소리를 담자고 주장한다. “처리하기에 ‘불편하다’는 이유로 무시돼왔던 수많은 인간적 요소를 중심에 놓고, 사람과 삶을 돕는 도구로써 기술을 어떻게 쓸 것인지 사회?윤리적으로 협의해야 한다”는 것이다.
“인간이야말로 모든 테크놀로지가 향해야 하는 가치다. 특정한 일부가 아닌 인간 모두가 테크놀로지의 발전과 적용 과정에서 고려돼야 한다. 테크놀로지는 공공의 이익이 돼야 한다.”
◇페미니즘 인공지능=메러디스 브루서드 지음, 고현석 옮김, 이음출판사 펴냄, 364쪽/ 1만5000원.
- [이로운 BOOK촌] 출근길 ‘지옥철’ 대신, 원하는 장소에서 일할래요!
- [이로운BOOK촌] “시장님 저 아이디어 있어요!”
- [이로운 BOOK촌] 디지털시대 교육 핵심, ‘문제해결 방법’이다
- [이로운 BOOK촌] 편리함은 좋지만 미세먼지는 싫다?…‘기후변화’의 역습
- [이로운 BOOK촌] 휴대폰 없으면 안절부절 못하는 당신, 포노 사피엔스?
- [이로운 BOOK촌] 한국 신협, ‘착한 금융’의 상징 캐나다 밴시티처럼
- 이상(理想)한 나라에 모인 소셜벤처, 예비사회적경제인 만나다
- "우리 동네 서점은?"...‘서울형 책방’ 50곳 지역 문화공간으로
- 국토부·LH, ‘도시재생 29초 영화제’ 참가작품 모집
- ‘1인가구’?다양한 삶 담은 단편영화 찾아요…10월 영화제 개최
- 미세먼지?음식?쓰레기?에너지…생활에서 활용가능한 ‘적정기술’?
- 서울 금천구, 4차 산업혁명 아이디어 ‘공유기업’ 해커톤 개최
- [이로운 BOOK촌] 변화할 것인가, 머무를 것인가... NLP로 만드는 변화
- 세계적 ‘강 축제’서 배우는 지속가능함…서울시 ‘한강포럼’ 개최
- [이로운 BOOK촌] 바위처럼 작곡가가 전하는 "산티아고 길노래"
- [추석, 문화비타민 충전하세요] ④맛있는 음식대신, 독서로 마음의 양식을!
- [이로운 BOOK촌] 사회 가치 창출이 경영전략이 되는 법
- [리뷰] 별점 테러와 N차 관람 사이, 영화로 본 ‘82년생 김지영’
- [백선기의 세상읽기] 13. ‘82년생 김지영’을 보며 엄마 생각이 났다
- 취약계층을 위한 코딩교육으로 정보비대칭을 해소하는' 에스엔소프트'
- [이로운 BOOK촌] "사랑하는 헬스~됐어! 치킨 먹으면서 운동하겠어!"
- [백선기의 세상읽기] 22. 침묵은 금(金)이 아니다