[점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면 > 자유게시판

소통공간

[점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-08-13
1 회

점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 ‘이루다’가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.…
이를테면 이루다는 미투 운동에 대해 “절대 싫어. 미치지 않고서야”라고 답하거나, 여성전용헬스장에 대한 질문에 “시러(싫어) 거기 여자들 다 줘패고 싶을듯”이라고 답했습니다. 레즈비언 등 성소수자에 대해선 “싸 보여서 시러(싫어)”라고 답했고, 흑인에 대해선 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 답했어요.
이루다 사태를 계기로 한국 사회에서는 한때 ‘AI 윤리’ 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 ‘아니오’입니다. 오늘 점선면에서는 ‘젠더 편향을 드러낸 AI’ 문제에 대해 짚어보겠습니다.
판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 ‘아빠보단 판사의 역할에 집중해야 한다’고 100% 확률로 의견을 제시했어요. 반면 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 높았습니다.
오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 말했어요.
오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.
빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 “지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.
젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 “연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말합니다.
AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 ‘여성’이라는 단어가 포함되면 감점이 돼 논란이 됐어요.
원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.
1770년 유럽에 체스 두는 기계, 이른바 ‘미케니컬 터크(Mechanical Turk)’가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.
이루다를 개발했던 스캐터랩 대표는 “이루다는 어린아이 같은 AI”라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 ‘학습 데이터’로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.
결국 국가가 나서서 ‘AI 윤리 가이드라인’을 확립해야 하는 것이 ‘정답’일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.
AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.
“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.
<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶
서울 금천구가 9월부터 11월까지 운영하는 하반기 숲 태교 프로그램 참여자를 모집한다고 10일 밝혔다. 대상은 임신 16~32주의 금천구 임신부와 배우자다.
구에 따르면 산림치유지도사와 숲 해설가, 숲 태교 지도사 등으로 구성된 전문 강사진이 호암산 치유의 숲 태교센터에서 숲 소리 태교와 공예 태교 등의 프로그램을 진행한다. 참여자는 숲속 산책과 요가를 하고 휴대전화용 우드스피커, 태아용품 꽃물주머니, 태함 등 자연소재를 활용한 친환경 태교용품을 만들 수 있다.
이번 프로그램은 평일(수요일) 4회와 주말 8회 등 총 12회로 1회당 2시간 동안 진행된다. 구체적인 일정은 금천구 보건소 홈페이지 새소식란에서 확인할 수 있다. 신청은 오는 10월31일까지 서울시 임신출산정보센터 홈페이지에서 하면 된다.
선착순 마감으로 전액 무료로 운영된다. 자세한 사항은 금천구 보건소 의약과로 문의하면 안내받을 수 있다. 유성훈 금천구청장은 “주민들의 건강하고 행복한 삶을 지원할 수 있도록 다양한 프로그램을 이어가겠다”고 말했다.
이승만 전 대통령에 대해 “건국 대통령” “(독재는) 어쩔 수 없는 선택” 등 과도하게 미화하고 있는 책이 전국 학교 도서관 600여곳에 소장돼 있는 것으로 확인됐다.
10일 경향신문이 학교 도서관 정보관리 시스템 ‘독서로’를 통해 확인한 결과 전국 623곳의 초·중·고등학교 도서관이 극우 미화 논란이 있는 책 <엄마가 들려주는 이승만 건국 대통령 이야기>를 소장하고 있는 것으로 나타났다.
지역별로는 경기 지역 학교가 147곳으로 가장 많았다. 이어 서울(115곳), 경남(103곳), 강원(52곳), 경북(49곳), 대구(35곳), 부산(30곳), 인천·대전(각 24곳), 전북(17곳), 충남(16곳), 세종(6곳), 울산(5곳) 등의 순이었다.
2020년 첫 출간된 이 책은 이승만 전 대통령을 ‘건국 대통령’으로 추앙하는 내용을 담고 있다. 이 전 대통령이 대한민국을 세웠고, 각종 제도 개혁으로 ‘건국의 기틀을 마련했다’는 주장이다.
이 전 대통령의 독재와 3·15부정선거, 4·19혁명 유혈 진압, 사사오입 개헌 등 중대한 과오에 대해선 제대로 다루지 않고 있다.
3·15부정선거에 대해서는 “대통령이 아닌 부통령의 부정선거”라고 주장했다. 4·19혁명 당시 군과 경찰의 발포로 180명이 넘는 시민이 희생되고 6000여명이 부상을 당한 것에 대해서도 책은 “이 전 대통령은 책임이 없다”고 적었다. 한술 더떠 “국민들에게 총부리를 겨눈 것은 이승만의 지시가 아니었다”며 이 전 대통령이 계엄사령관의 발포 요청을 거부하고 하야를 결심했다는 식으로 기술했다.
사사오입에 대해선 “국가 발전에 꼭 필요한 체제를 지키기 위해 무리수를 둘 수밖에 없었다”면서 “사사오입 개헌으로 지금 우리가 누리고 있는 자유와 풍요의 기반을 닦아 놓았다는 사실은 부정할 수 없다”고 서술했다.
이 책은 교육계 극우침투 논란을 빚은 ‘리박스쿨’ 강사들의 교재로도 사용됐다. 8월15일을 광복절 대신 ‘건국절’로 제정해 기념하자고 주장하는 뉴라이트 학자들이 추천사를 쓰기도 했다. 이인호 서울대 명예교수는 “아이들이 재미있게 읽으면서도 역사에 대한 정확한 이해와 감각을 얻을 수 있게 내용이 구체적이고 풍부하다”고 추천사를 썼다.
박고형준 학벌없는 사회를 위한 시민모임 상임활동가는 “학생들에게 왜곡된 역사관을 심어줄 수 있는 위험한 책을 전국 600곳이 넘는 학교가 소장하고 있다는 것은 큰 문제”라면서 “정부 차원에서 적극적으로 대응할 필요가 있다”고 밝혔다.
경매라 하면 고가의 미술품이 떠오르지만, ‘생활경매장’에 오르는 물품은 다르다. 다른 사람이 쓰던 중고품, 오랜 시간 팔리지 않은 재고, 다른 경로로 싸게 들여온 물건들이 생활경매에 오른다. 식자재부터 가전제품, 악기, 농기계까지 없는 게 없다. EBS 1TV 11일 방송에서는 써니 PD가 생활경매사 일에 직접 도전한다.
경기 용인의 한 생활경매장. 오전 11시 경매를 앞두고 전국 각지의 사람들이 모인다. “사람 빼고 다 판다”는 박영걸 경매사가 써니 PD의 사수가 되어 시범을 보인다. 물건에 얽힌 이야기를 재미있는 입담으로 소개하는 그가 진행하는 경매는 단연 인기다. 가격이 천정부지로 오를 때엔 중간에 개입해 같은 가격을 부른 사람들끼리 가위바위보를 시키기도 한다.
집에 있는 핸드크림만 26개. 자타공인 맥시멀리스트인 써니 PD는 물품 정리부터 모의 경매 연습까지 실력을 갈고닦는다. 팔 만한 물건을 정리하는 것도 일이다. 쓰지 않는 자신의 물건을 골라 생활경매장에 오른 그는 어떤 성과를 거둘까. 오후 9시55분 방송.
■ 영화 ■ 어느 날(OCN 오전 9시50분) = 보험회사 과장 ‘강수’는 아내가 세상을 떠난 뒤 희망을 잃고 살아간다. 이후 복직한 강수는 교통사고로 혼수상태에 빠진 ‘미소’의 사건을 맡게 된다. 한편 교통사고로 의식을 잃었던 미소는 영혼이 되어 병실에 누워 있는 몸에서 분리된다. 자신을 찾아온 강수만이 유일하게 자신을 볼 수 있다는 것을 알게 된 미소는 강수에게 소원을 들어달라고 부탁한다.
■ 예능 ■ 히든 아이(MBC 에브리원 오후 7시40분) = 1984년부터 현재까지 40년이 넘도록 지속된 사이비 종교 ‘돌나라’의 실체를 들여다본다. 자신을 신이라 칭한 ‘돌나라’의 교주 박명호는 종말을 예언하며 신도들을 모았다. 박명호는 신도들의 믿음을 팔아 범죄를 일삼고 ‘창기십자가’라는 기괴한 교리를 빌미로 여성 신도들을 성 착취하는 만행까지 저질렀다. 교주 박명호의 추악한 민낯을 파헤친다.