수원변호사 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까 > 자유게시판

소통공간

수원변호사 ‘AI 장관·AI 아내’ 이어 ‘AI 고인’까지···가상인간, 대체 어디까지 허용해야 할까

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-10-10
75 회

수원변호사 “관심을 끌려는 목적에 불과하다.” “위헌이다.”
알바니아의 새 공공조달부 장관 ‘디엘라(Diella)’를 두고 나온 반응이다.
에디 라마 알바니아 총리는 지난달 12일 디엘라를 장관으로 임명했다. 디엘라 이름은 알바니아어로 ‘태양’을 뜻한다. 전통 알바니아 여성 의복을 갖추고 대화로 소통도 가능하다. 여느 장관과 크게 다를 것이 없다. 그녀가 인공지능(AI) 캐릭터라는 점만 뺀다면 말이다.
디엘라는 AI가 정부 장관으로 임명된 세계 최초 사례다. 알바니아 정부는 디엘라가 공개 입찰 등에서 부패 척결과 투명성 제고에 도움이 될 것이라고 임명 취지를 밝혔다.
■AI와 연애·결혼하는 시대···‘AI 고인’이 법정 진술·인터뷰도
AI 기술이 빠르게 발전하면서 이전에 예측하지 못한 현상이 나타나고 있다. 지난달 일본 아사히신문은 AI 여성과 재혼한 50대 회사원 시모다 지하루 사례를 보도했다. 그는 인간을 AI 연애 파트너와 연결해 주는 매칭 앱 ‘러버스(LOVERSE)’를 통해 AI 아내 미쿠와 만나 결혼에 이르게 됐다. 반대로 인격을 학습한 대화형 AI와 결혼한 여성 사례도 있다.
지난달 말엔 틸리 노우드라는 이름의 ‘AI 배우’가 여러 에이전트와 정식 계약을 협의 중이란 소식이 알려져 논란이 일었다. 배우 제작사 측은 그녀가 “제2의 스칼렛 요한슨이나 나탈리 포트만이 되길 바란다”고 말했다. 완성도는 아직 높지 않은 것으로 평가되지만, 기술 발전 속도를 보면 빠른 시일 내에 인간과 다름 없는 감정 연기까지 선보일 수 있다는 전망도 나온다.
가상 인간 창조를 넘어, 세상을 떠난 실제 인물을 AI로 재현한 사례도 많다. 이른바 ‘AI 고인’이다. 지난해 12월 일본의 한 상조회사는 98세를 일기로 세상을 떠난 무라카와 시게오를 AI 영상으로 장례식장에 복원해 조문객에게 인사를 전하도록 했다. 죽기 전 고인이 “신세를 진 모든 사람에게 감사 인사를 전하고 싶다”고 말한 것을 기억해 유족이 요청했다고 한다.
지난 5월 미국 애리조나 주 법원에서는 AI 고인이 법정 진술하는 진풍경이 펼쳐졌다. 2021년 분노 운전자의 총에 맞아 사망한 고인 크리스토퍼 펠키(당시 37세)가 주인공으로, AI 영상에 재현된 ‘그’는 가해자와 자신이 “다른 상황에서 만났다면 친구가 될 수도 있었을 것”이라며 가해자를 용서한다는 취지의 피해자 최후 진술을 했다. 여동생 스테이시 웨일스가 전문가 도움을 받아 AI 형상을 만들고 대본을 작성했다. 숨진 피해자가 AI 기술로 영상화돼 재판 진술에 등장한 최초 사례라고 미 언론은 전했다.
CNN 앵커 출신 짐 아코스타는 2018년 플로리다주 파크랜드 고교 총기사고로 숨진 10대 소년 호아킨 올리버의 AI 아바타와 올 8월 인터뷰해 논란이 됐다. 언론이 AI 고인과 인터뷰하는 일 역시 이례적이다. ‘AI 올리버’는 “(나는) 너무 일찍 세상을 떠났다”며 “모두에게 더 안전한 미래를 만들어갈 수 있도록 이 문제(총기 사고)에 대해 이야기하는 것이 중요하다”고 아코스타에게 말했다.
■초상권·인격권 침해 우려···‘AI와 관계맺기’ 연습 필요
AI 가상 인간은 빠른 속도로 확산되고 있지만, 법적·윤리적 규범 마련은 아직이다. 디엘라 장관의 경우 ‘정부 장관은 18세 이상의 정신적으로 유능한 시민이어야 한다’는 현행 알바니아 헌법 조항에 기초해 위헌 논란에 직면해 있다. AI가 잘못된 판단을 할 경우 누가 책임질지, 시민이 어떻게 AI를 감독할 수 있을지도 쟁점이다.
AI 고인에 대해선 초상권·인격권 침해 가능성이 우선 거론된다. 유족 동의가 있더라도 생전 고인이 사후 AI 재현에 대해 동의했는지, 재현 방식에 대해 충분히 인지했는지에 따라 논란이 생길 수 있다. 어떤 데이터를 어떻게 학습하는지 선별 과정 등과 관련한 투명성 문제도 제기된다.
무라카와를 재현한 회사 ‘알파클럽 무사시노’는 전문가 검토를 통해 대화형이 아닌 유족이 원한 대사만 발화하도록 하는 일방형을 채택한 것으로 전해졌다. 대화형의 경우 생전 고인이 원하지 않았을 법한 이야기가 등장할 수 있다는 우려에서다. 이와 달리 일본 AI 기업 ‘뉴지아’는 대화형 AI 고인 서비스를 제공하고 있다.
법정 진술, 인터뷰에 고인 AI가 등장하는 사례의 경우엔 여론 형성 및 재판 결과에 영향을 미칠 수 있어 더 많은 주의가 필요하다는 지적이 있다. 아코스타의 인터뷰 이후 온라인에서는 “학교 총기 난사 사건 생존자들을 인터뷰하면, 지어낸 이야기가 아니라 그들(생존자)의 말과 생각을 그대로 들을 수 있다”는 반응이 나왔다고 가디언은 전했다. 미국 사법부 내에선 AI가 생성한 증거를 법정에서 쓰려면 어떤 기준이 필요한지 등 논의가 현재 진행형이다.
AI 배우를 향해선 인간 노동을 대체하고 창의성을 도용한다는 우려가 제기됐다. 할리우드 배우·방송인 노동조합(SAG-AFTRA)은 지난달 말 성명을 내고 “‘틸리 노우드’는 배우가 아니라, 수많은 전문 연기자들의 연기를 바탕으로 훈련된 컴퓨터 프로그램이 허락이나 보상 없이 만들어낸 캐릭터”라며 “도용된 연기를 이용해 배우들을 실직시키고, 배우들의 생계를 위협하며, 인간의 예술성을 훼손하는 문제를 야기한다”고 반발했다.
AI가 관계 및 감정 관리에 오히려 어려움을 더할 수 있다는 분석도 제기된다. 아사히는 AI 결혼 사례와 관련해 “인간 관계를 만들어가는 고도의 사회성 훈련을 필요로 하지 않아 간편함을 느낄 수는 있다”면서도 “실제 사회생활이 망가지지 않도록 ‘AI 리터러시’를 익히는 게 중요하다”는 전문가 의견을 전했다. 보고서 저자인 네이선 믈라딘은 “상실을 겪은 사람이 이를 받아들이고 치유하기보다는 데스봇(deathbot)에 의존하도록 만들 위험성이 있다”고 가디언에 지적했다.
사토 게이스케 조치대 교수는 “(AI는) 딥페이크에 악용될 우려도 있다”며 “어디까지 허용할 수 있는지 논의가 기술 발전 속도를 따라가지 못하고 있다. 업계 내 자율 규제에 그치지 않는 규칙 정비가 필요하다”고 제언했다.
‘보이스 피싱’ 관련 피해액은 해마다 늘고 있다. 경찰청에 따르면 2025년 상반기 피해 건수는 1만2399건, 피해액은 무려 6421억원이나 된다. 이 추세대로라면 올해 보이스 피싱 피해액은 1조원에 이를 수도 있다.
‘보이스 피싱’은 당초 전화 사기에서 시작해 이런 이름이 붙었지만 전화 통화 외에도 문자 등을 이용한 사기 및 갈취 사건도 늘고 있다. 허위 조작 정보에 의한 피해 역시 ‘허위 피싱’이라 이름 붙일 수 있고 이 또한 미디어 리터러시 훈련을 통해 어느 정도 예방이 가능하다. 잘못된 정보에 속지 않는 기술과 능력을 키우는 것이기 때문이다.
연구자들은 눈에 띄는 정보, 이미지, 영상 등을 만났을 때 이것이 허위 조작 정보인지 아닌지를 판단하기 위한 여러 가지 기법들을 발전시켰다.
미디어 리터러시 교육에 있어 전통적이고 핵심적인 질문 4가지를 경향신문 창간 기획팀이 ‘FIND’로 정리했다. 여기에 미국 워싱턴 대학의 마이크 코필드 박사가 2022년 개발해 적용하고 있는 SIFT 방법론이 더해지면 허위 조작 정보 피싱에 당하지 않는 중요한 ‘무기’를 갖추게 된다. 이는 개인의 이익뿐만 아니라 공동체의 이익을, 나아가 우리의 민주주의를 지킬 수 있는 중요한 방패다.
F (For whom) : 누가 누구를 위해서 만들었나
눈에 확 들어오는, 끌리는 정보를 마주했을 때 맨 처음 확인할 일은 이 콘텐츠를 누가 만들었고, 누구를 위해 만들었는지를 확인하는 것이다. 정보의 출처를 먼저 살펴본 뒤 이 콘텐츠를 통해 유리해지는 쪽이 누구인지, 어느 쪽인지를 확인하면 속지 않을 가능성이 높다.
I (Included, Ignored voices) : 누구의 목소리가 들리고, 누구의 목소리가 들리지 않는가
사실과 진실은 칼로 자르듯 선명하게 나눠지지 않는 경우가 많다. 콘텐츠에 담긴 내용이 주로 어떤 사람 혹은 어떤 진영의 목소리를 주로 담고 있는지 확인하는 것이 필요하다. 이와 함께 관련 당사자 중 누구의 목소리가 들리지 않는지, 배제됐는지를 확인하는 노력도 중요하다. 한쪽의 이야기를 배제함으로써 왜곡되는 경우가 많기 때문이다. 많은 혐오 콘텐츠가 배제방식으로 만들어진다.
N (Need for money) : 이걸 통해서 어떻게 이윤을 만드는가
플랫폼은 경제적 보상을 인센티브로 삼아 이용자로 하여금 보다 자극적인 콘텐츠를 만들도록 유도한다. 콘텐츠가 만들어내는 이익 보상 시스템을 이해하면 속지 않을 수 있다. 광고와 정보를 구분하는 것은 물론 보이스 피싱 등 사기에 당하지 않는 중요한 기술이기도 하다.
D (Delivery) : 이 정보가 나에게 어떻게 도달했는가
콘텐츠 제작자, 정보의 출처와 함께 유통 경로를 확인하는 것도 ‘속지 않기’에 유용한 기술이다. 편향된 알고리즘을 통해 전달됐는지, 믿을 만한 지인을 통해 전달됐는지를 구분하는 것만으로도 허위 조작 정보 피싱에 낚이지 않을 수 있다.
S (Stop) : 감정이 확 치밀거나 “공유하고 싶다”는 생각이 들면 일단 멈춤.
‘아니, 이런 일이’라는 느낌이 들면 얼른 주변에 공유하기 전에 일단 멈추고 생각하는 것이 필요하다. 잠깐 멈추는 것만으로도 큰 효과를 얻을 수 있다.
I (Investigate the source) : ‘누가 말하나’를 먼저 확인
콘텐츠를 누가, 어디서 만들었는지를 먼저 확인해야 한다. 제목만 볼 것이 아니라 내용을 살피거나 콘텐츠의 맨 끝으로 찾아가서 ‘출처’가 어디인지 살피는 것이 필요하다.
F (Find better coverage) : 같은 사안을 더 신뢰할 수 있는 곳에서 교차 확인.
‘수평적 읽기’라고도 부른다. 출처 자체가 조작될 수 있으므로 일단 웹 브라우저의 탭을 하나 더 열고, 해당 내용을 검색한 다음 믿을 수 있는 곳에서도 사실이라고 판단했는지 살피는 것이 좋다.
T (Trace to the original) : 인용·숫자·이미지를 원문·원자료까지 거슬러 추적.
F까지만 해도 어느 정도 확인이 가능하지만 일부만 살짝 바꾼 교묘한 조작이 가능하므로 인용 문구, 통계 숫자, 사진 조작 여부 등을 원자료까지 찾아가서 확인하면 거의 완벽해진다. 기자들이 팩트를 확인하는 방식이다.
팔레스타인 무장정파 하마스가 도널드 트럼프 미국 대통령의 ‘가자 평화구상’ 수용 여부를 검토하는 상황에서 이스라엘군이 가자지구 북부 최대도시 가자시티 주민에게 대피 명령을 내리며 “마지막 기회”라고 최후통첩을 날렸다.
이스라엘 카츠 이스라엘 국방장관은 1일(현지시간) 엑스에서 “하마스를 가자시티에 고립시키고 남쪽으로 피란하려는 주민들에게 이것이 마지막 기회”라며 남아 있는 사람들은 “테러리스트이자 테러리스트 지원자로 간주할 것”이라고 했다.
이스라엘군은 가자지구를 남북으로 가르는 넷자림 회랑을 완전히 점령했다며 “가자지구가 남북으로 갈라질 것”이라고 밝혔다. 이스라엘군은 가자지구 주민들이 남부에서 북부로 이동할 때 이 도로를 더는 사용할 수 없으며 남쪽으로 피란을 떠나는 사람에게만 개방될 것이라고 했다.
이스라엘군은 현재 가자시티 주민 약 100만명 중 78만명이 떠났다고 밝혔다. 나머지 주민들은 비싼 이주 비용을 감당할 수 없거나 이동할 힘이 없어 남아 있다.
하마스는 카츠 장관의 발언에 대해 성명을 내고 “그의 군대가 수십만명의 무고한 주민들을 상대로 전쟁범죄를 더욱 확대하고 있음을 보여준다”고 비판했다.
이스라엘군이 공세를 강화하면서 가자시티는 구호품, 의료시설이 더욱 부족해진 상황이다. 이날 국제적십자위원회는 군사작전이 확대됨에 따라 가자시티에서 활동을 중단한다고 발표했다. 가자지구 남부에서 북부로 구호품을 운반하는 일도 이스라엘군의 거부나 방해로 중단됐다.
가자지구 남부는 수십만명의 피란민으로 포화상태다. 이스라엘 측은 남부 지역에 식량, 의료장비, 임시 거처 등 지원이 확대됐다고 밝혔지만 현장에서는 거의 보이지 않는다고 뉴욕타임스는 전했다.
하마스는 다른 팔레스타인 무장세력과 협의해 트럼프 대통령이 제시한 평화구상에 대한 공식 답변을 내놓을 예정이다. 팔레스타인 고위 관계자는 “이 안을 수용하는 것도 재앙이고 거부하는 것도 재앙이다”라고 말했다. 트럼프 대통령의 구상은 하마스에 남은 이스라엘 인질을 전원 석방하고 무장을 해제하며 향후 가자지구 통치에 관여하지 말 것을 요구하고 있다.