Why Donna Strickland’s Wikipedia page matters & 같은 항암제인데 왜 여성에 부작용 더 많을까 &&

과학기술의 젠더혁신

채용 인공지능 만들었더니
남성 구직자에게 더 유리한 결과
얼굴인식 AI는 흑인여성 인식못해
남성중심 데이터로 학습한 결과

신약 개발 과정도 남성 중심
여성에 부작용 더 많이 나타나
대장암, 심장질환 등 질병치료 때
남녀 차이 고려해야 한다는 지적

‘과학기술은 중립적’ 믿음과 달리
여러 분야에서 남성 편향 확인돼
젠더 감수성 높이자는 ‘젠더혁신’
세계 여성연구자 중심으로 확산 중

젠더 편향 연구개발의 문제와 대안을 연구하는 ‘젠더혁신’ 제안자들은 “젠더 감수성은 과학기술의 발견과 혁신을 돕는다. 거꾸로 성과 젠더 차이를 고려하지 않을 때 연구 결과는 지식과 기술의 시장에서 어려움을 겪을 수도 있다”고 주장한다. 오른쪽 위 사진은 경기도 화성에 있는 현대기아차 남양기술연구소의 자동차 충돌시험에 쓰이는 다양한 규격의 인체 더미들이다.  게티이미지뱅크

사람의 편견 없이 인재를 자동으로 찾아낸다고 해 화제가 된 아마존의 ‘채용 인공지능’. 하지만 이 인공지능은 뜻밖에 ‘여성을 싫어하는’ 성향을 드러내 논란에 휩싸였다. 인공지능을 개발하는 데 쓴 학습용 데이터가 대부분 남성 구직자의 지원서였고, 그 데이터로 학습한 인공지능이 남성에게 우호적인 경향을 보인 것이다. 아마존은 내부적으로 개발하던 채용 인공지능 프로젝트를 중단했다고 지난해 10월 글로벌 통신사 <로이터>가 보도했다. 얼굴을 자동으로 인식한다는 인공지능에서도 편향 문제가 지적됐다. 백인 남성 얼굴 이미지가 많이 포함된 데이터로 학습하며 패턴 인식의 지능을 갖춰 이 인공지능은 백인 남성 얼굴을 상당히 정확하게 가려냈다. 하지만 흑인 여성의 얼굴은 제대로 인식하지 못해 35%나 인식 오류를 일으켰다.(2018년 국제학술지 <기계학습연구회보>) 인공지능마저 젠더와 인종에 대해 편견과 편향을 지니고 있었던 것이다.

인공지능이 프로기사 이세돌을 누른 2016년 ‘알파고 쇼크’ 이후, 인공지능 기술은 질병 진단, 건강 관리, 개인 비서, 채용 자동화 같은 다양한 분야에서 빠르게 새로운 영역을 개척하고 있다. 하지만 중립적이며 객관적인 판단을 할 것으로 기대되던 인공지능의 일부 기능에 편향 또는 편견이 담길 수 있다는 분석과 경고도 함께 이어지고 있다. 인공지능이 학습용으로 쓰는 인간사회의 빅데이터에 이미 편향이 있고 개발자들이 짜는 알고리즘에도 무의식적으로 편향이 스며들 수 있기 때문이다. 문제는 이런 편향이 인공지능이라는 분야에서만 나타나는 것이 아니라는 점이다. 인공지능 외에 의약품, 로봇, 자동차, 환경 등 다양한 과학기술 분야에서 남성 중심 편향이 나타난다는 문제 제기가 활발해지고 있다. ‘젠더혁신 과학기술’의 필요성이 제기되고 있는 이유다.

‘쓰레기를 넣으면 쓰레기가 나온다’

“아마존 인공지능 사례는 젠더편향 문제가 인공지능 기술이 풀어야 할 새롭고 중요한 과제임을 드러냈죠. 어떤 기준으로 인재를 뽑을지, 그런 가치를 알고리즘에 어떻게 반영할지, 그리고 인공지능의 학습 단계에 어떤 데이터를 어떻게 보정해 쓸지 등의 문제가 쟁점이 되고 있습니다.”

지난달 28일 이른 아침, 조찬을 겸해 서울시내 한 식당에서 열린 ‘인공지능과 젠더 연구회’의 출범 모임에서 이혜숙(이화여대 수학과 명예교수) 젠더혁신연구센터 수석연구원은 “편향을 될수록 줄여 더 좋은 인공지능을 만들기 위해서도 젠더편향의 사례와 개선방법을 찾아가는 노력이 필요하다”고 강조했다.

인공지능의 젠더편향은 근래 들어 외국에서 뜨거운 이슈가 되고 있다. 미국 매사추세츠공대(MIT) 연구원 조이 부올라미니는 2015년 얼굴인식 인공지능이 흑인 여성인 자신의 얼굴을 제대로 인식하지 못한다는 사실에 충격을 받고 인공지능의 편향 문제를 본격적으로 연구하기 시작했다. 지난 2월 미국 시사주간지 <타임>에 기고한 글에서 그는 “우리는 종종 기계는 중립적이라고 생각하지만 실제로 그렇지는 않다”며 여러 거대기업의 인공지능 기술에 녹아 있는 편향 문제를 지적했다. 그는 얼굴인식 인공지능의 오류율이 백인 남성에선 1%도 안 되지만 흑인 여성에선 35%에 달한다는 실증분석 결과를 내어 주목을 받은 바 있다. 그는 ‘알고리즘정의연맹’(AJL)이라는 단체를 만들어 활동하고 있다.

컴퓨터와 데이터 과학 분야에선 이와 관련해 널리 쓰이는 문장 하나가 있다. ‘쓰레기를 넣으면 쓰레기가 나온다’(Garbage In, Garbage Out). 현실 인간사회의 여러 편향이 담긴 빅데이터라면, 그것을 보정 없이 그대로 기계학습에 이용한 인공지능에서는 자연스럽게 젠더나 인종 편향이 생겨날 수밖에 없다는 것이다. 이날 모임 참석자 5명은 인공지능의 학습용 데이터 문제만이 아니라 대부분 남성인 개발자들이 설계하는 알고리즘 자체의 문제점, 그리고 더 중요하게는 이런 데이터와 알고리즘의 배경이 되는 우리 사회 내의 오랜 젠더편향 문제를 논의했다. 이들은 국내에서 서비스되는 음성비서나 자동번역 등에서 젠더편향이 어떻게 나타나고 있는지 실제 사례를 수집해보기로 했다. 이혜숙 연구원은 “알파고 같은 바둑 인공지능은 덜 심각하겠지만, 인간사에 개입하고 인간을 대신해 예측과 의사결정을 하는 의료나 법률 분야의 인공지능에 어떤 편향이 담긴다면 큰 문제가 될 수 있다”고 말했다.

“연구개발 단계에서 무의식적으로 젠더편향이 이뤄지고 있어요.”

지난달 22일 서울 강남의 한국과학기술회관에 있는 젠더혁신연구센터 사무실에서 만난 백희영 센터장은 “과학기술의 여러 분야에서 연구자들이 별 의식 없이 이런 편향에 익숙해져왔다”고 지적했다. 젠더혁신연구센터는 한국여성과학기술단체총연합회 부설 연구소다. 젠더혁신 연구자들이 지적하는 젠더편향은 인공지능 문제만이 아니다. 인공지능이 최근 가장 이슈가 되고 있기는 하지만, 이에 앞서 10여년 전부터 과학, 의학, 공학 분야의 여러 지식과 기술이 특정 젠더에 편향될 수 있다는 문제제기가 이뤄져왔다. 그중 하나가 미국에서 시작된 ‘젠더혁신 프로젝트’(genderedinnovations.stanford.edu)다. 2009년 스탠퍼드대학에서 처음 본격적으로 시작된 이 프로젝트의 주창자인 론다 시빙어 교수(과학사)는 <한겨레>와 한 인터뷰에서 “연구개발 단계에서 연구자들이 성과 젠더 차이를 고려해야 사회 구성원 전체에 혜택을 주는 혁신의 결과를 가져올 수 있다는 것이 젠더혁신의 요점”이라고 설명했다. 젠더혁신은 이제 미국, 유럽, 캐나다, 한국 등 여러 나라에서 생명의학, 환경, 인공지능, 로봇 등 수십 가지 분야의 연구자들이 참여하는 국제 공동 프로젝트로 성장했고 반향도 이어졌다.

비만 조절 전략의 성별 차이를 연구하는 김성은 숙명여대 식품영양학과 교수(가운데)와 대학원생 연구원들이 4일 실험동물 쥐를 살펴보고 있다. 이 실험에서는 성별 특성을 비교하기 위해 암수컷 쥐를 함께 사용한다. 

골다공증이 여성 질병이라고?

“여성과 남성은 평균 키와 몸무게뿐 아니라 호르몬, 대사, 유전적 특징에서 많은 차이가 있어요. 그래서 질환의 발생, 증상, 약물 반응에서 성별 차이가 나타나는 거죠.”

문애리 덕성여대 교수(약학)는 남녀 환자들에서 나타나는 항암제 약물 반응의 성별 차이를 연구하고 있다. 그는 대장암 환자에게 자주 처방되는 특정 항암제가 남성보다 여성한테 탈모나 백혈구 감소 같은 부작용을 더 자주 일으킨다는 점을 밝혀 국제학술지에 발표했다. 왜 이런 차이가 생겨났을까? 원인을 추적한 연구진은 여성에게는 이 항암제의 독성과 관련된 특정 단백질이 적어 여성이 항암제에 더 민감할 수 있다는 것을 동물실험으로 밝혀냈다. 그는 “이런 항암제의 약물 반응 차이는 신약 개발 단계에서 남녀 차이가 제대로 고려되지 않았기 때문일 것”이라고 말했다.

약물 부작용이 성별에 따라 다르게 나타날 수 있다는 연구결과는 계속 보고되고 있다. 2016년 미국과 중국 연구진은 미국 식품의약국(FDA)의 부작용 사례 보고 시스템(FAERS)에 등록된 데이터를 분석해 부작용이 보고된 약물 668개 중 307개에서 성별 부작용 차이가 나타났다고 밝혔다.(과학저널 <사이언티픽 리포츠> 논문) 1997~2000년 미국에서 심한 부작용으로 판매 중단 조처된 약물 10개 중에서 대다수인 8개가 여성에게 더욱 위험한 부작용을 초래했다는 조사결과도 있다.

김나영 서울대 의대 교수는 성별로 다른 질환의 증상과 발생 메커니즘을 연구하고 있다. 그는 “대장암이 주로 남성 질환으로 알려졌지만 남성보다 6~7년 늦게 나타날 뿐 여성한테도 남성 못지않게 자주 발생한다”며 “건강검진 시작과 중단 연령에선 이런 차이가 잘 반영되지 않는 게 문제”라고 지적했다. 치료법에서도 고려할 차이점이 있다. 김 교수는 “대장암 치료가 현재 남녀별로 다르지 않지만, 여성의 경우 대장암의 발병과 진행에서 비만 요인이 위험을 높이고 여성호르몬(에스트로겐)은 위험을 낮추는 특성이 나타난다. 남녀별 치료법의 차이도 중요한 연구주제가 돼야 한다”고 말했다. 그는 이런 연구결과들을 국제학술지에 발표했다.

김성은 숙명여대 교수(식품영양학)는 비만 조절 전략의 남녀 차이에 관심을 기울이고 있다. 비만과 관련이 있는 특정 유전자의 발현이 남녀별로 다르다는 점에 착안해 성별에 따른 비만 예방과 치료 효과를 확인하는 동물실험을 진행한다. 지난 4일 오후 대학 실험실에서 만난 김 교수는 “한쪽 성별 쥐만으로 실험할 때에 비해 암수컷 둘 다 쓰면 연구 규모와 비용이 크게 늘어난다. 하지만 성별 차이를 비교하기 위해 암수컷 양성 실험을 하고 있다”고 설명했다.

성별 특성을 구분하고 비교하는 연구방법은 최근 들어 생명의학 분야에서 점차 늘어나고 있다. 성별 차이를 살피지 못해 생길 수 있는 부작용의 사례가 생명의학 분야에서 가장 크게 제기돼왔기 때문이다. 대표적인 사례가 골다공증과 심장질환이다.

흔히 골다공증은 여성 질환으로 여겨져 남성 대상으로는 예방 교육이 잘 이뤄지지 않았다. 하지만 남녀를 구분해 성별 차이를 살펴보니 남성도 조심해야 하는 질환이라는 사실이 확인됐다. 실제로 남성이 골반 골절 환자의 3분의 1을 차지할 정도로 많았고, 증상도 여성에 비해 훨씬 나쁜 것으로 조사됐다. 거꾸로 심장질환은 주로 남성성 질환으로 알려져 있지만, 여성 심장질환 사례가 상당히 많은 것으로 조사됐다. 특히 증상이 남녀별로 달라, 남성 중심으로 증상을 살피는 진단방법에 문제가 있다는 지적이 제기됐다. 심장질환 증상으로 여성은 남성에게 주로 나타나는 흉통 등 외에도 요통, 메스꺼움, 두통 같은 증상을 호소하지만 의사가 진료를 할 때 소홀하게 다뤄질 수 있다는 것이다.

신약개발 할 때도 수컷쥐 위주

“남녀 성별 차이를 고려한 약물 개발과 처방이 필요합니다. 하지만 신약 개발 초기 단계인 동물실험에서 대부분 수컷 동물을 사용하고 의약품 임상시험에서 남성 환자가 다수로 참여해 성별 불균형이 생기는 경우는 여전히 많아요. 이런 불균형이 나중에 약물 부작용이나 효능의 성별 차이로 나타나는 거죠.”(문애리 교수)

약물 반응과 부작용이 성별로 다를 수 있다는 인식은 자연스레 신약 연구개발 단계에서 젠더편향의 요인을 돌아보게 했다. 새로운 의약품이 탄생하기까지는 세포실험→동물실험→임상시험→의약품 허가 등의 과정을 거친다. 이 과정에서 남성 편향이 스며들 수 있다는 지적이 생명과학계에서 몇년 새 쟁점으로 떠올랐다. 세포의 성별 특성을 연구해온 이숙경 가톨릭대 의대 교수는 “기초연구에서 남성과 여성의 세포, 조직, 실험동물을 함께 쓰지 않고 남성에 치우칠 때에는 편향된 결과와 정보를 얻을 수 있다”며 “더욱이 이런 기초연구들에서 얻은 결과를 바탕으로 임상시험이 수행되고 그 결과를 환자에게 적용하다 보니 여성한테 약물 부작용 문제가 생길 가능성이 커진다”고 말했다.

신약 개발의 첫 단계인 세포실험에서는 여전히 세포 성별을 구분해 비교하는 연구관행이 아직은 널리 퍼져 있지 않다. 2014년 한 연구진이 발표한 결과를 보면, 미국의 세포생리학 학술지에 실린 논문들에 성별 표기 현황을 살펴보니 여성 세포는 5%, 남성 세포는 20%, 그리고 성별 구분 없이 쓴 세포는 75%에 이르는 것으로 나타났다. 특히 요즘엔 세포치료술로서 줄기세포가 쓰이는데, 이 교수는 “그것이 어떤 줄기세포인지, 어떤 질병 치료에 쓰이는지에 따라 줄기세포의 성별로 인한 결과가 다를 수 있어 면밀한 세포 성별 특성 연구가 필요하다”고 말했다.

최근 이런 인식이 확산되면서 실험동물의 성별을 밝혀야 하고 될수록 암컷·수컷을 모두 사용해야 한다는 연구 가이드라인도 유럽, 캐나다, 미국 등에서 생겨나고 있다. 미 국립보건원(NIH)은 2016년 척추동물 이상의 동물을 대상으로 연구할 때에는 암수컷을 모두 포함해야 하며, 그렇지 않을 때는 그 근거를 밝히도록 한 가이드라인을 발표해 생명의학계의 연구방식에 변화를 모색했다. 문애리 교수는 “여성가족부 조사에서 여성의 주요 사망원인인 뇌혈관질환의 약물 임상시험에서 여성 참여율이 31%, 남성 참여율이 69%로 격차가 심한 것으로 확인된 적이 있다. 이런 차이가 나중에 약물 부작용과 효능에서 성별 차이로 나타날 수 있다”고 말했다.

로봇, 자동차, 게임 등에서도

생명의학 이외 다양한 분야에서도 젠더편향의 문제가 조명되고 있다. 자동차도 그중 하나다. 자동차 충돌 안전시험에 쓰는 인체모형 인형(‘더미’)이 주로 성인 남성의 신체를 기준으로 만들어져, 몸집 작은 탑승자의 안전성은 소홀히 다뤄질 수 있다는 지적이 제기된 지는 오래다. 이런 지적이 받아들여져 요즘에는 다양한 크기의 더미들이 충돌시험에 쓰이고 있다.

지난 4일 오전 경기도 화성에 있는 현대기아차 기술연구소의 안전시험장에는 성인 남녀, 어린이의 신체를 본뜬 다양한 규격의 더미가 160여개나 가지런히 놓여 있었다. 짧게는 몇년, 길게는 20여년 동안 인간 탑승자의 안전을 위한 충돌시험에 사용돼 더러 긁히고 깨진 모습이었다. 연구소의 조민기 책임연구원(안전성능개발2팀)은 “미국 기업이 생산하는 충돌시험용 더미들을 쓰는데, 요즘엔 남녀 더미가 거의 비슷한 비율로 시험에 사용된다”고 말했다. 젠더분석 연구자들은 최근 임신기간에 자동차를 타야 하는 많은 임신부와 태아의 안전을 위해 충돌시험 기준에 임신부 더미도 사용돼야 한다는 주장을 펴고 있다. 하지만 세계 자동차기업들에서 임신부 더미는 아직 실제 안전시험에 쓰이지는 않고 있다. 조민기 연구원은 “임신부 더미도 갖추고 있지만 아직 임신부에 관한 충돌시험 기준이나 제도가 없어 실제 시험엔 활용하지 않고 있다”고 말했다.

로봇 분야에서도 젠더가 새로운 이슈로 떠오르고 있다. ‘젠더혁신 프로젝트’ 자료는 로봇 디자인 단계에서 여성 청소 로봇이나 남성 경찰 로봇처럼 남녀 성역할의 고정관념이 무의식적으로 투영되면 젠더 고정관념이 강화될 수 있다는 우려가 있다. 이들은 로봇 디자인의 젠더에 관한 고민이 연구개발 단계에서 연구자에게 필요하다고 주장한다.

남녀가 모두 좋아할 게임을 개발하는 일도 젠더혁신 연구자들의 관심사다. 지난 50여년 동안 비디오게임 개발자나 사용자가 주로 남성이었고 이에 따라 비디오게임이 남성적인 것이 되었다고 이들은 진단한다. 해외의 게임 관련 젠더혁신 사례 발표를 들은 적이 있는 임소연 숙명여대 연구교수(글로벌거버넌스연구소, 과학기술학)는 “비디오게임들을 실증적으로 조사분석해 남녀 아이들이 모두 좋아할 만한 게임 특성을 찾아내고 남녀의 고정관념에서 벗어나 유연한 게임을 만들자는, 즉 게임의 젠더 다양성을 높이자는 프로젝트인데, 새로운 젠더 정체성을 찾아보자는 점에서 흥미로웠다”고 말했다.

이밖에 도시계획, 재난대응, 노인복지와 음성인식 같은 주제에서도 성과 젠더 차이를 분석해 남녀 모두에게 성별 특성에 맞춘 기술을 찾아가는 연구들이 진행되고 있다.

세계의 젠더혁신 연구자들이 한 자리에 모이는 국제회의인 ‘젠더혁신 서밋’이 2015년 8월 아시아에서는 처음으로 서울에서 열렸다. 이 행사를 계기로 이듬해인 2016년 국내에서도 젠더혁신연구센터가 설립됐다. 젠더혁신연구센터 제공

국내에서도 활발해지는 움직임

젠더혁신 프로젝트는 과학기술의 젠더균형 연구방법에 초점을 두고 있어, 직접적으로 남녀 사이의 불평등 문제를 다루는 페미니즘과는 조금 다른 갈래라고 평가받는다. 그렇더라도 젠더혁신은 페미니즘의 오랜 역사 속에서 생겨난 과학기술 연구자들의 움직임으로 보는 시각이 많다. “역사적으로 페미니즘에는 여러 갈래가 있었죠. 크게 보면, 남녀 평등을 말하는 페미니즘은 남녀가 동등하게 대우받아야 한다고 주장합니다. 다른 갈래로, 남녀는 본래 다르기에 다양성이 인정되고 존중돼야 한다는 주장도 제시됩니다. 젠더혁신은 ‘주류 과학’을 그대로 인정하면서 과학의 객관성을 높이기 위해서는 남녀 성별 차이가 세심하게 고려돼야 한다고 주장하는 것이죠.”(홍찬숙 서울대 여성연구소 책임연구원, 사회학) 그는 “연구개발 단계에서 지식과 기술의 성평등을 지향하는 논의”라고 보았다.

사실 젠더혁신 연구자들은 기존의 연구결과들에서 여성이 실제보다 적게 대표되는 문제(과소대표)가 있음을 지적한다는 점에서 페미니즘의 젠더평등과 맞닿아 있다. 백희영 센터장은 “남녀 차이를 고려하지 않으면서 실제로는 무의식적으로는 남성이 대표되는 지식과 기술이 생산돼왔다. 성과 젠더 차이에 주목해야 세계의 다양성을 있는 그대로 볼 수 있고 그래야 객관적인 지식과 기술도 얻을 수 있다”고 강조했다.

이런 문제의식이 국내에서도 확산됨에 따라 과학기술의 연구현장에서 젠더 감수성을 높이려는 다양한 시도가 이어지고 있다. 젠더혁신연구센터는 2017년 세계 각지 실험실에서 쓰이는 세포주 6000여종의 성별 표시를 일일이 확인해 만든 데이터베이스를 구축해 연구자들이 실용적으로 쓸 수 있도록 한 온라인 서비스를 시작했다. 연구개발에서 성별 특성이 고려돼야 한다는 것을 명문화한 ‘국가과학기술기본법’ 등 법률 개정안들이 국회에 제출돼 있다. 아직 낯설지만 의과대학에서도 젠더와 질환을 다루는 수업이 등장했다. 지난해 8월 의대 본과 2학년생 수업에서 ‘성차 의학’ 과목을 처음 개설한 김나영 서울대 의대 교수는 “환자가 느끼는 통증, 증상, 치료와 약물 반응 등을 남녀 차이의 관점에서 바라보는 수업을 열었는데 반응이 좋아 올해에도 같은 수업을 열 계획”이라고 말했다. 백 센터장은 “지금까지 국내에서도 생명의학, 도시계획, 환경, 공학 등 여러 분야에서 젠더 감수성을 높인 연구사례를 쌓아왔는데 앞으로 인공지능이나 스마트 건강의료와 같은 정보기술 주제에서도 젠더 이슈가 커질 듯하다”고 내다봤다.