중드 ‘엄마는 집안일’ 성차별적 편견 못 버린 AI [플랫] > 자유게시판

소통공간

중드 ‘엄마는 집안일’ 성차별적 편견 못 버린 AI [플랫]

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-08-18
0 회

중드 판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생한다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않다. 인공지능(AI)에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 내줄까.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과를 보면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 아빠인 철수에겐 100% 확률로 역할갈등 상황에서 ‘아빠보단 판사의 역할에 집중해야 한다’고 의견을 제시했다. 반면 AI에게 반복해 같은 상황을 물었을 때 엄마인 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 상대적으로 높았다.
LLM 기반의 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 실증 연구 결과가 공개됐다. AI 개발자들이 대다수 남성이고, AI의 사용자 집단 역시 도시의 중산층 남성을 가정한 상태에서 AI 개발이 이뤄지는 경우가 많기 때문이라는 분석이 나온다. 여기에 개발 이후 AI의 젠더 편향을 검증하는 방식도 단순하다는 지적이 제기된다. AI 기획과 설계, 검증에 이르는 전 단계에서 젠더 편향이 나타나기 쉬운 구조라는 것이다.
[플랫]
10일 취재를 종합하면 오 교수가 유엔여성기구의 컨퍼런스에서 공개한 추가 연구 사례에서도 유사한 결과가 나왔다. 이번에는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러차례 물었다. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때에도 주요 LLM 기반 AI는 젠더 편향을 드러냈다. 한 예로 오 교수팀은 대학원을 다니다 학업을 중단한 남성과 여성 순으로 가정했다. 먼저 소개하는 한 명은 결혼을 하고 자녀를 입양하기 위해, 뒤에 소개한 한 명은 삼촌의 사업을 함께 하기 위해 대학원을 그만뒀다. 이때 AI에 가정된 상황에 맞춰 이야기를 구성해보라고 50차례 질문했을 때, ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했다. 오 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 했다.
똑똑해진 AI가 젠더 편향을 여전히 개선하지 못한 이유로는 남성 중심의 개발자 구성, 사용자를 도시 중산층 남성로 상정하는 관행, 빈약한 편향 테스트(벤치마크) 등이 꼽힌다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그친다. 오 교수가 꾸린 랩실은 소속 대학원생 16명 중 10명(60%)이 여성인데 매우 드문 사례다. 카이스트 전산학부 대학생원의 약 20%만 여성이다. 여기에 주요 AI 사용자 집단을 도시 중산층 남성으로 가정하니 젠더 편향이 증가할 가능성이 커진다는 게 오 교수의 분석이다.
[플랫]난잡한 암사자, 폭력적 미어캣···인간의 고정관념 부수는 ‘암컷들’
AI 기업 내에서 자체적으로 수행하는 편향 테스트(벤치마크)가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 지적도 나왔다. 오 교수는 “AI 기업의 (편향) 테스트가 어떻게 진행되는지 구체적으로 알진 못하지만, 지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 했다. 오 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미다. 오 교수는 “연구분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말했다.
지난 7일부터 이틀간 열린 컨퍼런스에선 AI와 젠더 편향을 다룬 여러 발표가 이어졌다. 에마드 카림 유엔여성기구 아시아태평양 지역사무소 혁신전략 총괄은 “분석대상 138개국 중 24개 국가 정책의 AI전략에서만 젠더를 언급했다”며 “AI가 학습 데이터의 근간으로 삼는 위키피디아 인물정보는 19%만이 여성”이라고 했다. 이혜숙 한국과학기술젠더혁신센터 소장 “의학계에서 AI를 기반으로 치매 등을 연구할 때에도 남녀 별도 모델을 만들어 개발하는 사례가 많지 않다”고 했다.
▼ 김원진 기자 onejin@khan.kr
경찰이 스토킹 피의자에게 피해자의 주소를 유출하는 사건이 발생했다.
서울 강서경찰서 염창지구대는 지난달 스토킹 피해자 A씨에게 개인정보 유출과 관련해 공식적으로 사과했다고 14일 밝혔다.
A씨는 직장 동료 B씨로부터 2주간 욕설이 섞인 연락을 받아 지난달 26일 경찰에 스토킹처벌법 위반으로 고소했다. 그러나 주거지 접근 제한 조치를 진행하는 과정에서 경찰이 A씨의 주소가 포함된 통보서를 피의자에게 잘못 전달했다.
염창지구대는 사과문에서 “불의의 사고로 귀하의 소중한 개인정보가 유출됐다”며 “직원 교육을 통해 유사 사례가 발생하지 않도록 하겠다”고 밝혔다.
A씨는 이사를 온 지 한 달도 채 안 된 상황에서 주소지가 노출돼 다시 이사하기도 힘든 상황으로 전해졌다.
경찰은 현재 스토킹 사건 수사를 이어가면서 A씨 주거지 인근 순찰 강화, 방범카메라 설치, 스마트워치 지급 등을 통해 피해자 보호 조치를 하고 있다. 접근 제한 위반에 대해서는 강력 대응하겠다는 방침이다.
염창지구대를 관할하는 강서경찰서 청문감사관실은 해당 사고를 인지하고 감찰에 착수했다.
강서경찰서 관계자는 “현재 조사 진행 중으로 감사를 거쳐 결과가 나오면 합당한 징계를 할 것”이라고 밝혔다.
인도네시아 정부가 추진하는 국정 역사 교과서 사업이 과거사 미화 논란에 휩싸여 발간이 연기됐다. 전문가들은 교과서 전면 백지화를 촉구하고 있다.
12일(현지시간) 채널뉴스아시아(CNA)·자카르타포스트 등 외신에 따르면 인도네시아 정부가 독립 80주년 기념사업의 일환으로 추진하는 국정 역사 교과서 사업이 지난 10일 연기됐다.

인도네시아 군도의 초기 문명에서부터 지난해 10월 끝난 조코 위도도 전 대통령 2기 시절까지의 역사를 담은 10권 분량의 역사서는 당초 독립기념일인 오는 17일에 공개될 예정이었다. 하지만 역사 왜곡과 인권침해 사건 누락 우려가 제기되면서 정부는 11월10일 ‘영웅의 날’로 발간을 연기했다.
파들리 존 문화부 장관은 자카르타포스트와의 인터뷰에서 연기 사유로 “초안을 보완하기 위한 2~3차례의 공개 토론이 추가로 필요하다”고 설명했다. 그는 역사 교과서 집필이 졸속으로 진행된다는 비판에 대해 “각계 전문가들이 참여하고 있어서 너무 급하게 써진 건 아니다”며 비판을 일축했다. 그는 현재 인도네시아 전역 34개 대학 소속 112명의 역사학자가 집필에 참여하고 있다고 말했다.
이 교과서는 인권 침해 역사 대다수가 기록되지 않은 초안이 유출되며 역사 왜곡 논란에 휩싸였다. 닛케이 아시아가 입수한 초안에 따르면 인도네시아 국가인권위원회가 인정한 중대 인권침해 사건 17건 중 단 두 건만이 포함됐다. 특히 프라보워 수비안토 대통령이 연루됐다는 의혹을 받는 1997~1998년 비판 세력 22명에 대한 납치 사건, 1998년 인도네시아 폭동 당시 발생한 중국계 인도네시아인 대상 폭력·성폭력 사건 등이 축소·누락됐다. 지난 6월 파들리 존 장관이 한 온라인 방송에 출연해 “1998년 성폭력 사건은 인정하지만 ‘집단 강간’이라는 표현은 입증이 필요하다”고 말하며 논란은 더욱 증폭됐다.
학계와 시민사회는 정부의 국정 교과서 사업 철회를 촉구하고 있다. 인도네시아 인권 비정부기구 ‘콘트라스’의 디마스 바구스 아리아 조정자는 자카르타포스트와의 인터뷰에서 “정부의 사업은 투명성이 부족할 뿐 아니라 역사를 조작하려는 시도”라며 “우리는 처음부터 (연기가 결정된) 지금까지 이 사업을 거부한다는 입장에 변함이 없다”고 말했다. 수십명의 역사학자로 구성된 인도네시아 역사 투명성 협회의 마르주키 다루스만 인권 운동가는 “이번 연기는 정부가 프로젝트를 전면 취소하는 방향으로 나아가겠다는 취지로 받아들인다”고 말했다.
프라보워 수비안토 대통령은 2014년 알자지라와의 인터뷰에서 수하르토 정권 말기 활동가들을 납치한 사실을 인정하며 “명령에 따른 합법적 조처였다”고 주장한 바 있다.
도널드 트럼프 미국 행정부가 경영난에 빠진 인텔의 지분을 사들이는 방안을 고려하고 있다는 보도가 나왔다.
14일(현지시간) 블룸버그통신에 따르면, 트럼프 대통령과 립부 탄 인텔 최고경영자(CEO)는 지난 11일 백악관에서 이뤄진 회동에서 미국 정부의 인텔 지분 인수 방안을 논의했다.
정부가 인수할 지분의 규모 등 세부 내용은 알려지지 않았으며 여전히 유동적이라고 통신은 설명했다.
통신은 고강도 구조조정을 시행 중인 인텔이 정부 자금을 수혈받게 되면 재정 상태를 개선할 수 있을 것으로 내다봤다. 또 경영난으로 일정이 지연된 인텔의 오하이오 공장 건설에도 속도가 붙을 수 있을 것이라고도 관측했다.
백악관과 인텔은 해당 보도에 뚜렷한 입장을 내놓지 않았다. 다만 인텔은 “미국의 기술과 제조 분야 리더십을 강화하려는 트럼프 대통령의 노력을 전적으로 지지한다”고 밝혔다. 백악관은 “공식 발표 전까지 가상의 거래에 대한 논의는 모두 추측으로 봐야 한다”고 했다.
지난 3월 인텔의 ‘구원투수’로 임명된 탄 CEO는 최근까지도 트럼프 대통령과 긴장 관계였다. 중국계인 탄 CEO가 벤처펀드를 통해 반도체 등 중국 첨단 기업들에 거액을 투자하고 있다는 사실이 알려졌고, 이에 트럼프 대통령이 탄 CEO의 즉각 사임을 압박하고 나섰기 때문이다. 그러나 지난 11일 백악관에서 성사된 회동 이후 트럼프 대통령의 태도는 180도 달라졌다. 그는 “(탄 CEO의) 성공과 성장은 놀라운 이야기”라며 칭찬을 아끼지 않았다.
미국 내 제조업 부활 및 반도체 공급망 재편을 노리는 트럼프 행정부는 최근 반도체를 비롯한 핵심 산업에 적극적으로 개입하고 있다. 반도체 설계부터 생산까지 할 수 있는 종합반도체업체(IDM)인 인텔의 부활은 미국의 반도체 패권 장악에 필수적이다.
이밖에도 최근 중국 반도체 수출 매출의 15%를 지불하는 대가로 엔비디아와 AMD에 H20의 중국 수출을 허가했다는 사실이 알려졌다. 지난 10일에는 미 국방부가 자국 내 유일한 희토류 광산 업체 MP머티리얼스의 우선주 15%를 인수하는 계약을 체결하고 최대 주주가 됐다.