양육권 AI 시대의 성폭력 [플랫] > 자유게시판

소통공간

양육권 AI 시대의 성폭력 [플랫]

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

26-01-08
2 회

양육권 일론 머스크의 xAI가 운영하는 인공지능(AI) 챗봇 그록이 최근 전 세계적 논란을 만들고 있다. 이 기능은 지난달 머스크 소유의 소셜미디어 플랫폼인 엑스에 기본으로 탑재됐는데, 엑스에 사진을 올리면서 그록 계정인 @grok을 태그하고 사진을 특정한 형태로 바꿔달라고 적기만 하면 AI로 합성된 이미지가 즉시 멘션으로 날아온다.
얼마 전 산타클로스가 하늘을 날아가는 이미지나 만들어볼까 하고 이 계정 태그를 클릭했다가 경악해서 뒤로가기 버튼을 연타한 일이 있었다. 몇초에 한 장씩 쏟아지는 합성사진의 대부분이 나체에 가까운 옷차림을 하고 성적인 자세를 한 여성의 사진이었기 때문이다. 아마도 이 중 상당수는 실제 인물일 것이며, 자신의 사진이 이와 같은 방식으로 편집되어 전 세계 사람들에게 전시되는지조차 몰랐을 것이다.
그록은 경쟁사들의 AI 챗봇과 달리 ‘표현의 자유’를 내세워 규제를 최소화한다. 챗GPT, 제미나이 등의 AI 서비스는 ‘옷을 벗겨라’ ‘인물의 자세를 성적으로 바꿔라’ 등의 요청을 수행하지 않지만, 그록은 성적 콘텐츠를 허용하면서 이용자를 늘려왔다. 지난해 8월에는 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’를 내놓기도 했다.
AI로 성적 허위영상물(딥페이크)을 만드는 범죄는 원래 잦았지만 이전까지는 그나마 기술적 장벽이 있었다. 이미지를 저장하고 별도 프로그램을 이용해 합성하고 재업로드를 하는 과정을 거쳐야 했다. 이 과정이 아주 간단치는 않다 보니 텔레그램을 통해 돈을 받고 딥페이크 영상을 만들어주는 범죄도 성행했다. 의도적으로 범행 대상의 사진을 찾아 다운로드하고, 합성을 위한 애플리케이션을 찾고, 때로는 돈까지 내는 과정을 감내하는 ‘의도를 가진’ 가해자들만 이 판에 들어왔다는 얘기다. 하지만 그록이 제공하는 사진 합성은 하루 방문자 수가 1억5000만명에 달하는 거대 소셜미디어 플랫폼에서 클릭 한 번으로 접근할 수 있는 기본 기능이다. 심지어 다른 사람의 계정에 올라온 사진도 클릭 한 번으로 합성할 수 있다.
이렇게 쉽게 장난처럼 성적 허위영상물을 만들어낼 수 있게 되었을 때 가해와 피해의 문턱은 급격히 낮아질 수밖에 없다. 프랑스의 한 비영리단체가 지난해 말 일주일간 엑스에서 @grok을 태그한 게시물 5만건과 이미지 2만장을 분석했더니, 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성이었다고 한다. 이렇게 만들어진 이미지는 클릭 한 번으로 재게시돼 퍼져나간다. AI 도구를 사용하는 방식이 극도로 간편해지고 표현의 자유라는 이름으로 플랫폼이 아무 책임을 지지 않는 동안, 불과 한 달 만에 생긴 일이다. 다른 소셜미디어 플랫폼들은 이 길을 따라가지 않을까. 그러지 않을 거란 확신이 들지 않는다.
[플랫]딥페이크 성착취의 시대, ‘검열’이 ‘여성착취’보다 더 억울한 세계 안에서
[플랫]“‘딥페이크 성착취’를 가볍게 여기지 말라”… 정치 변화 촉구하는 여성들
지금까지 인터넷과 기술의 발전은 수많은 혁신을 낳았지만 성폭력과 성착취를 확산시키기도 했다. 초고속인터넷망 보급과 함께 불법촬영물의 온상인 소라넷이 등장했고, 소셜미디어와 온라인 메신저는 성착취물 유포 경로가 됐다. 소형화된 카메라는 동의 없는 촬영에, 이미지 압축과 스트리밍 기술의 진화는 불법촬영물을 퍼뜨리는 데 이용됐다. AI의 발전도 같은 길을 갈까봐 두렵다. 한국은 지난해 딥페이크 사태 후 피해자의 의사에 반해 성적 허위영상물을 제작·유포·소지·시청·저장하는 행위를 모두 처벌한다. 하지만 이걸 다 잡을 수 있을지도 회의적이고 잡는다고 이미 유포된 합성사진과 영상이 삭제되지도 않는다.
아동이 성적으로 대상화된 합성사진까지 범람하자 영국과 유럽연합(EU) 등은 엑스에 조치를 요구하고 있다고 한다. 기술은 가치중립적이라고 하지만 플랫폼이 어떤 기능을 내세우느냐는 전혀 가치중립적이지 않다. 표현의 자유라는 구호 뒤에 숨어 성착취의 가능성을 방치하고 이익을 추구하는 것은 기업의 가치판단이며, 디지털 성범죄는 어떻게 보면 나쁜 개인의 일탈이라기보다는 이 판단의 결과다. 사후 처벌만으로는 확산되는 피해를 되돌릴 수도 없다. 더는 거대 기술기업에 책임을 묻는 데 사회와 세계가 실패하지 않아야 한다. 실패의 대가는 언제나 가장 취약한, 피해를 호소할 곳이 없는 사람들에게 돌아갈 수밖에 없고 이번에도 예외는 아닐 것이기 때문이다.
▼ 남지원 젠더데스크 somnia@khan.kr
시리아 북부 도시 알레포에서 시리아 정부군과 쿠르드족 주도의 시리아민주군(SDF) 사이에 격렬한 교전이 이틀째 이어지면서, 수천명의 주민들이 피란길에 올랐다. 정부군이 알레포 일대를 포위하고 군사작전을 예고하면서 시리아 내부 통합 과제는 멀어지고, 오랜 내전의 악몽이 재현될 위기에 처했다.
정부군은 7일(현지시간) 쿠르드족 인구가 밀집된 알레포 셰이크막수드와 야슈라피야 지역을 “폐쇄된 군사 지역”으로 선포하고 주민들에게 대피령을 내렸다. 알레포의 공항과 고속도로가 폐쇄되고 산업단지 공장 가동이 중단됐다. 정부군이 민간인 탈출을 위한 통로를 개설하면서 4만5000여명 주민들이 피란길에 올랐다.
정부군이 통보한 대피 시한이 지나자 이 지역에 폭발음이 울렸고, 쿠르드족 통제 구역에서 7명, 정부군 통제 지역에서 5명이 사망하고 수십명이 부상당했다고 AP통신은 전했다.
SDF는 이날 해당 지역에 80대 이상의 탱크와 군용 차량으로 포위돼 있다며 “더 큰 규모의 분쟁으로 확산될 우려를 불러일으키는 심각한 경고 신호”라고 밝혔다.
전날부터 시작된 유혈 사태의 책임을 양측은 서로에게 떠넘기고 있다. 정부군은 SDF의 로켓포, 무인기(드론) 등 공격에 대응하기 위한 것이라고 밝혔으며, SDF는 정부군 연계 세력이 무차별 포격이 원인이라고 주장하고 있다.
이번 충돌은 시리아 정부군이 SDF를 통합하기 위한 협상이 교착상태에 빠지면서 격화됐다.
쿠르드족은 14년의 시리아 내전 기간 시리아 북동부 지역과 알레포 일부 지역에서 준자치권을 행사해왔다. 이들이 통제하는 지역은 시리아 영토의 25~30%에 달한다. 특히 이슬람국가(IS)가 이 발호하자 미군은 SDF를 파트너 삼아 IS 소탕 작전에 나섰다.
2024년 12월 바샤르 알아사드 독재 정권 축출 후 들어선 시리아 임시정부는 지난해 3월 수만명의 병력을 보유한 SDF를 정부군에 통합하기로 합의했다. 2025년 말까지 통합을 완료하기로 약속했지만, 통합 방식을 둘러싼 이견 때문에 협상은 교착상태에 빠졌다. 정부군은 중앙집권적 통제 하에 SDF를 개별 병력으로 흡수하길 원했지만, SDF는 자신들의 독자적인 지휘 체계 등 자치권을 유지하길 원하고 있다. 정부군과 SDF는 통합 합의 이후에도 간헐적 무력충돌을 반복해왔으며 지난해 말에도 교전이 벌어진 바 있다.
격화된 정부군과 SDF의 충돌은 알아사드 내부 통합과 안정이 달성되기 어려운 과제임을 방증한다. 반군을 이끌고 알아사드 정권을 전복한 아메드 알샤라 시리아 임시 대통령은 시리아 정상국가화를 위한광폭의 외교 행보를 보이며 미국 등 서방의 제재를 해제하는 성과를 보였지만, 국내에서는 오랜 내전 기간 고착화된 갈등으로 유혈충돌 사태가 반복되고 있다.
미국이 정부군과 SDF 간의 중재를 위해 나섰지만 현재 진전은 없는 상황이다. SDF를 정부군에 통합하기 위한 노력이 무산된다면 앞으로 추가 폭력 사태가 발생할 위험이 있으며, 쿠르드족을 적대시하며 테러리스트로 간주해온 튀르키예가 이를 명분 삼아 개입할 우려도 있다고 로이터통신은 지적했다.