개인회생대출 AI 시대의 성폭력 [플랫] > 자유게시판

소통공간

개인회생대출 AI 시대의 성폭력 [플랫]

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

26-01-09
0 회

개인회생대출 일론 머스크의 xAI가 운영하는 인공지능(AI) 챗봇 그록이 최근 전 세계적 논란을 만들고 있다. 이 기능은 지난달 머스크 소유의 소셜미디어 플랫폼인 엑스에 기본으로 탑재됐는데, 엑스에 사진을 올리면서 그록 계정인 @grok을 태그하고 사진을 특정한 형태로 바꿔달라고 적기만 하면 AI로 합성된 이미지가 즉시 멘션으로 날아온다.
얼마 전 산타클로스가 하늘을 날아가는 이미지나 만들어볼까 하고 이 계정 태그를 클릭했다가 경악해서 뒤로가기 버튼을 연타한 일이 있었다. 몇초에 한 장씩 쏟아지는 합성사진의 대부분이 나체에 가까운 옷차림을 하고 성적인 자세를 한 여성의 사진이었기 때문이다. 아마도 이 중 상당수는 실제 인물일 것이며, 자신의 사진이 이와 같은 방식으로 편집되어 전 세계 사람들에게 전시되는지조차 몰랐을 것이다.
그록은 경쟁사들의 AI 챗봇과 달리 ‘표현의 자유’를 내세워 규제를 최소화한다. 챗GPT, 제미나이 등의 AI 서비스는 ‘옷을 벗겨라’ ‘인물의 자세를 성적으로 바꿔라’ 등의 요청을 수행하지 않지만, 그록은 성적 콘텐츠를 허용하면서 이용자를 늘려왔다. 지난해 8월에는 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’를 내놓기도 했다.
AI로 성적 허위영상물(딥페이크)을 만드는 범죄는 원래 잦았지만 이전까지는 그나마 기술적 장벽이 있었다. 이미지를 저장하고 별도 프로그램을 이용해 합성하고 재업로드를 하는 과정을 거쳐야 했다. 이 과정이 아주 간단치는 않다 보니 텔레그램을 통해 돈을 받고 딥페이크 영상을 만들어주는 범죄도 성행했다. 의도적으로 범행 대상의 사진을 찾아 다운로드하고, 합성을 위한 애플리케이션을 찾고, 때로는 돈까지 내는 과정을 감내하는 ‘의도를 가진’ 가해자들만 이 판에 들어왔다는 얘기다. 하지만 그록이 제공하는 사진 합성은 하루 방문자 수가 1억5000만명에 달하는 거대 소셜미디어 플랫폼에서 클릭 한 번으로 접근할 수 있는 기본 기능이다. 심지어 다른 사람의 계정에 올라온 사진도 클릭 한 번으로 합성할 수 있다.
이렇게 쉽게 장난처럼 성적 허위영상물을 만들어낼 수 있게 되었을 때 가해와 피해의 문턱은 급격히 낮아질 수밖에 없다. 프랑스의 한 비영리단체가 지난해 말 일주일간 엑스에서 @grok을 태그한 게시물 5만건과 이미지 2만장을 분석했더니, 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성이었다고 한다. 이렇게 만들어진 이미지는 클릭 한 번으로 재게시돼 퍼져나간다. AI 도구를 사용하는 방식이 극도로 간편해지고 표현의 자유라는 이름으로 플랫폼이 아무 책임을 지지 않는 동안, 불과 한 달 만에 생긴 일이다. 다른 소셜미디어 플랫폼들은 이 길을 따라가지 않을까. 그러지 않을 거란 확신이 들지 않는다.
[플랫]딥페이크 성착취의 시대, ‘검열’이 ‘여성착취’보다 더 억울한 세계 안에서
[플랫]“‘딥페이크 성착취’를 가볍게 여기지 말라”… 정치 변화 촉구하는 여성들
지금까지 인터넷과 기술의 발전은 수많은 혁신을 낳았지만 성폭력과 성착취를 확산시키기도 했다. 초고속인터넷망 보급과 함께 불법촬영물의 온상인 소라넷이 등장했고, 소셜미디어와 온라인 메신저는 성착취물 유포 경로가 됐다. 소형화된 카메라는 동의 없는 촬영에, 이미지 압축과 스트리밍 기술의 진화는 불법촬영물을 퍼뜨리는 데 이용됐다. AI의 발전도 같은 길을 갈까봐 두렵다. 한국은 지난해 딥페이크 사태 후 피해자의 의사에 반해 성적 허위영상물을 제작·유포·소지·시청·저장하는 행위를 모두 처벌한다. 하지만 이걸 다 잡을 수 있을지도 회의적이고 잡는다고 이미 유포된 합성사진과 영상이 삭제되지도 않는다.
아동이 성적으로 대상화된 합성사진까지 범람하자 영국과 유럽연합(EU) 등은 엑스에 조치를 요구하고 있다고 한다. 기술은 가치중립적이라고 하지만 플랫폼이 어떤 기능을 내세우느냐는 전혀 가치중립적이지 않다. 표현의 자유라는 구호 뒤에 숨어 성착취의 가능성을 방치하고 이익을 추구하는 것은 기업의 가치판단이며, 디지털 성범죄는 어떻게 보면 나쁜 개인의 일탈이라기보다는 이 판단의 결과다. 사후 처벌만으로는 확산되는 피해를 되돌릴 수도 없다. 더는 거대 기술기업에 책임을 묻는 데 사회와 세계가 실패하지 않아야 한다. 실패의 대가는 언제나 가장 취약한, 피해를 호소할 곳이 없는 사람들에게 돌아갈 수밖에 없고 이번에도 예외는 아닐 것이기 때문이다.
▼ 남지원 젠더데스크 somnia@khan.kr
서울 강남구가 관내 종량제 생활폐기물을 일원동 강남자원회수시설에서 전량 소각처리하는 ‘발생지 처리 원칙’을 유지한다고 8일 밝혔다. 소각로가 멈추는 대정비 기간에만 처리 공백을 메우기 위해 예비처리체계를 마련한다.
최근 서울의 쓰레기가 지방의 민간 소각업체로 넘어가고 있다는 비판에 “지방 민간 소각업체 계약은 불가피한 상황에서의 비상수단일 뿐 발생지 처리원칙을 지키겠다”는 점을 명확히 한 것으로 보인다.
서울시와 자치구에 따르면 기후에너지환경부가 자원회수시설의 정비 기간 동안 예외적으로 직매립할 수 있다고 했지만, 어느 정도 양을 매립할 수 있을지 확실하지 않아 비상책으로 민간 소각장과의 계약에 나선 것이다.
강남구는 올해 강남자원회수시설을 통한 종량제 생활폐기물 소각물량을 7만1268t으로 계획하고 있다. 강남자원회수시설은 강남구뿐 아니라 성동·광진·동작·관악·서초·송파·강동 등 7개 자치구의 생활폐기물도 함께 처리하고 있다.
다만, 구는 소각로 정비 기간인 5월 8일~6월 15일에는 처리 공백에 대비해 지방의 민간 소각장 5곳과 계약을 체결한 상태다. 경기 화성, 충북 청주, 충남 서산, 대전 대덕 등에 있는 업체들이 컨소시엄 형태로 구와 2만3000t 처리 계약을 맺었다. 최소 물량은 2300t이다.
강남구 관계자는 “평상시 반출을 전제로 한 조치가 아닌, 시설 정비로 소각이 중단되는 기간에 처리 공백이 생기지 않도록 하는 비상 대응용 안전장치”라면서 “계약은 행정안전부의 ‘지방자치단체 입찰 및 계약 집행기준’에 따라 전국 단위의 공개경쟁입찰로 진행한 것으로, 우리 구가 처리 지역을 임의로 특정할 수는 없다”고 말했다.
강남구에 따르면 t당 처리비용은 자원회수시설 8만935원, 수도권매립지 11만6855원, 민간 18만3059원 수준이다. 다만 수도권매립지 비용도 분담금과 수수료 인상으로 14만원 내외로 인상될 전망이다.
시와 자치구는 정부가 정비기간 동안 발생한 양을 100% 매립할 수 있도록 확답을 준다면 굳이 t당 처리 비용이 수만 원 더 드는 민간소각장과 계약을 할 필요가 없다는 입장이다.
정비 기간 중 수도권매립지에 직매립이 가능해도 계약에 따라 최소물량은 민간에 맡겨야 한다.
비용도 문제지만 불필요한 지역 간 갈등이 빚어질 수 있다는 것도 부담이다. 민간 소각장 상당수에 외국계 사모펀드가 참여하면서 소각처리 예산이 국외로 흘러간다는 지적도 나오고 있다. 민간 소각장 위탁 비용은 공공 시설에 비해 높게 형성돼 있다.
노원·마포·양천 등 서울 내 나머지 3곳의 자원회수시설에서 종량제 쓰레기를 전량 소각 처리하기로 한 자치구도 비슷한 상황이다.
시 관계자는 “정부는 정비 기간 동안 뾰족한 수가 없으면 직매립을 하라는 건데 구에선 불안하니 민간업체와 계약을 할 수밖에 없다”며 “정비기간 중 발생한 쓰레기 물량이 민간 소각장이 아닌 매립지로 들어가도 계약사항 불이행 문제가 생길까 걱정하는 상황”이라고 말했다.
현재 서울의 생활폐기물은 서울에서 78%, 경기도에서 20%를 처리한다. 수도권 밖으로 빠져나가는 양은 1.7%이다.
기후에너지부 관계자는 “민간업체를 포함하면 수도권 내 처리가 충분히 가능하지만 입찰 결과 지역 업체가 선정되는 걸 막을 수 없어 우회적으로 계약 조건에 수도권 외 지역이 선정되기 어렵게 하도록 안내하고 있다”면서 “정비기간 동안 매립가능한 양은 수도권 지자체와 협의해 5월 이전 확정하겠다”라고 밝혔다.
서울 노원구가 소득과 나이 기준의 문턱을 없앤 ‘노원형 어르신 일자리 사업’ 참여자를 모집한다고 8일 밝혔다.
노원구는 서울시 자치구 중 65세 이상 노인 인구가 세 번째로 많은 지역으로 고령 인구 비중이 계속 늘고 있다. 이에 구는 지난 2023년부터 만 60세 이상 어르신이라면 소득과 무관하게 참여할 수 있는 ‘노원형 어르신 일자리’를 자체적으로 운영하고 있다. 일할 의지와 역량이 있음에도 기존 제도적 기준으로는 참여가 어려웠던 어르신들의 사회활동 기회를 확대하기 위해서다.
노원형 어르신 일자리 사업은 지역 환경 개선과 공공가치 실현을 동시에 도모한다. 어르신들은 ‘클린지킴이단’으로 활동하며 골목 청소와 불법 광고물 제거, 역 주변 집중 청소 등 생활밀착형 환경정비 업무를 수행한다.
하루 2시간, 월 15일 진행되는 활동은 어르신의 신체 부담을 최소화하면서 규칙적인 외부 활동을 가능하게 해 건강관리와 사회적 관계 회복에 도움을 준다.
구는 “단순한 소득 보전을 넘어 어르신이 지역사회 일원으로 다시 역할을 수행하며 자긍심과 삶의 활력을 되찾는 계기가 되고 있다”며 “지역 곳곳의 환경을 보다 깨끗하고 쾌적하게 가꾸는 긍정적 효과도 함께 만들어 내고 있다”고 설명했다.
사업은 올해 2월부터 11월까지 10개월간 진행된다. 참여를 원하는 이들은 동 주민센터를 방문하면 된다. 모집은 오는 12일부터 16일까지며 면접을 통해 오는 28일 최종합격자를 발표한다. 자세한 사항은 구 홈페이지를 참조하면 된다.
오승록 노원구청장은 “앞으로도 어르신들께서 지역사회 일원으로 활동할 수 있도록 실질적인 일자리 정책을 꾸준히 추진하겠다”고 말했다.