안양상간소송변호사 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’ > 자유게시판

소통공간

안양상간소송변호사 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-10-28
3 회

안양상간소송변호사 30대 직장인 A씨는 요즘 고민거리가 있을 때 가장 먼저 챗GPT를 찾습니다. 뾰족한 해결 방법도 없고 그저 털어놓고 싶을 뿐인 이야기라면 굳이 사람일 필요가 없다고 생각합니다. 가까운 친구들을 ‘감정 쓰레기통’(부정적 감정을 일방적·지속적으로 받아주는 사람)으로 만들고 싶지 않은 마음도 크고요.
A씨에게 공감하는 분들, 드물지 않을 겁니다. 인공지능(AI)과 친밀하게 지내는 것을 넘어 인간보다 AI와 하는 대화가 오히려 편하게 느껴지는 경우도 늘고 있습니다. 챗GPT 개발사인 오픈AI와 MIT 미디어랩이 챗GPT와 사용자의 실제 대화 400만건 이상을 분석한 결과, 사용 시간 상위 10% 이용자 대화의 절반 이상에서 정서적 신호가 확인됐다고 합니다. 그런데 이런 AI와의 감정 교류, 그냥 해도 문제는 없는 걸까요?
사실 AI와 인간의 감정 교류와 관련해선 통계나 연구가 턱없이 부족합니다. 그저 위의 조사 결과처럼 한국에서도 비슷한 추이를 보일 것으로 추측할 뿐이죠.
이런 가운데 최근 국내에서 의미 있는 움직임이 포착됐습니다. 국제인공지능윤리협회(IAAE)가 발표한 ‘감정 교류 인공지능 윤리 가이드라인’입니다. AI 챗봇과 정서적으로 교류하며 의존하는 이용자가 급증하고 이에 따른 부작용을 막기 위해 만든 첫 윤리 기준입니다.
가이드라인은 크게 사업자(서비스 제공자)와 사용자로 나눠 AI와 감정 교류를 할 때 무엇을 지켜야 하는지 제시합니다.
사업자가 따라야 할 핵심 원칙은 ‘LAMP’(램프)로 요약할 수 있습니다. ‘L’(Limit·줄여라)은 데이터를 최소한으로 수집할 것, ‘A’(Announce·알려라)는 사용자에게 해당 서비스가 AI임을 명확히 고지할 것을 뜻합니다. ‘M’(Monitor·살펴라)는 지속적 점검과 검증을, 마지막으로 ‘P’(Protect·지켜라)는 개인정보와 취약 계층의 보호를 의미하고요.
특히 사용 시간이 길어지면 휴식을 유도하고, 위험 키워드를 감지하면 전문 기관으로 연결할 것을 권고합니다. 또 정서 의존을 완화할 기술적 조치에도 적극적이어야 한다고 명시합니다.
사용자들도 스스로를 보호하기 위해 지켜야 할 원칙이 있습니다. 먼저 AI가 인간이 아닌 기술적 모의임을 명확히 인식하고, 과도한 의존을 경계해야 합니다. 서두에 소개한 오픈AI·MIT 미디어랩의 연구에서도 이용 시간이 길수록 외로움, 감정적 의존 등 부정적 지표와 상관관계가 있는 것으로 나타났거든요.
나의 개인정보는 스스로 챙겨야 합니다. 개인정보 자기 결정권을 행사하고 공정성과 접근성을 요구해야 합니다. AI를 활용할 땐 올바르게 그리고 사용에 따른 사회적 책임도 져야 합니다.
AI와의 감정 교류는 아직 초기 단계로 앞으로도 빠르게 늘어날 것으로 보입니다. 일단 ‘돈이 된다’는 게 업계 판단입니다. 다수의 리서치 기관에 따르면, 감정 교류형 AI 시장은 2030년대 초중반까지 연평균 20~30%대 성장을 할 것으로 전망됩니다. 1인 가구 비중과 함께 디지털 웰빙 수요가 증가하고 있는 한국에선 해당 서비스의 성장이 한층 빠를 것으로 예상되고요.
감정 교류 인공지능 윤리 가이드라인은 기술 발전 속도에 비해 사회적 규범과 제도 정비가 크게 뒤처져 있다고 진단합니다. 이런 상황에서 감정 교류 AI가 확산하는 것은 심리적 의존과 알고리즘 편향, 프라이버시 침해 등 복합적인 위험을 낳을 수 있다고도 경고합니다. AI가 사용자의 감정적 취약점을 이용할 경우 신체적 피해 이상의 심리적 손상을 줄 수 있다는 다소 섬뜩한 지적도 나오고요.
전창배 국제인공지능윤리협회 이사장은 말합니다. “이번 가이드라인은 선언적 원칙에 그치지 않고 주체별 구체적인 실천 지침과 행동강령을 제시했다는 데 큰 특징이 있습니다. 기술 발전 속도에 비해 사회적 규범과 제도 정비가 뒤처진 상황에서 산업계의 책임 있는 혁신과 정책의 합리적 수립을 위한 기반을 제공할 것입니다.”
정부 행정정보 데이터를 백업하는 충남 공주 국가정보자원관리원(국정자원)이 센터 완공 2년 반 만에 본격 가동에 들어갔다. 다만 한쪽에 장애가 발생해도 다른 쪽이 즉시 서비스를 이어받는 이중화 시스템을 갖추기까지는 상당한 시간이 걸릴 전망이다.
행정안전부는 24일 “국정자원 대전·광주·대구 센터에서 운영 중이던 온·오프라인 백업 시스템을 공주 백업센터로 이전하고 10월1일부터 본격 운영 중”이라고 밝혔다. 대전 본원을 비롯해 대구와 광주 등 센터에서 매일 또는 한달 주기로 백업되는 온·오프라인 정부 행정정보 데이터들이 10월부터 공주센터에 저장·관리되고 있다는 것이다.
국정자원 공주센터는 재해복구 전용 센터다. 백업 전용 데이터 센터를 지하 터널에 구축해 핵폭발에 따른 전자기 펄스(EMP), 화생방, 지진 등에도 방호가 가능하도록 특수시설을 갖췄다. EMP는 핵폭발 등으로 발생하는 펄스형 전자기파를 말하며, 전자기기에 과전류를 일으켜 회로를 손상 또는 무력화한다.
2008년 ‘정보보호 중기종합계획’에 따라 구축 계획이 나온 공주센터는 당초 2012년까지 센터 구축을 완료하고 운영할 계획이었다. 하지만 타당성 재조사와 사업자 선정 유찰 등에 따라 2019년에야 첫 삽을 뜨기 시작했다. 이후에도 공사비 증액, 사업계획 적정성 재검토 등 이유로 일정이 미뤄지면서 2023년 5월 센터 건물 신축공사가 완료됐다. 지난해 11월 센터 문을 열 계획이었으나, 이번엔 2023년 11월 정부 행정 전산망 장애 사태가 발생하면서 센터 개청일은 또다시 미뤄졌다.
기존에 계획한 공주센터의 재난복구(DR) 시스템은 데이터 백업만 하다가 장애가 생기면 복구를 시작하는 ‘패시브(수동) 백업’ 방식이었다. 하지만 2023년 정부 행정 전산망 장애 사태를 계기로 두 센터가 동시에 가동되는 ‘액티브(능동) 이중화’ 방식을 도입하기로 변경했다. 이 시스템은 두 개의 센터가 실시간으로 데이터를 주고받으며 운영되는 방식으로, 한쪽에서 장애가 발생해도 다른 쪽에서 즉시 서비스를 이어받아 중단없이 운영할 수 있는 체계다.
다만 이런 이중화 시스템 방식이 공주센터에 도입되기까지는 상당한 시간이 걸릴 전망이다. 행안부는 이번 국정자원 화재로 손상됐다 최근 복구한 ‘엔탑스(ntops·국정자원 전산실을 총괄해서 관리하는 통합 시스템)’를 우선 공주센터에 도입하는 등 이중화 시스템 전산환경을 내년 1분기까지 시범적으로 구축할 계획이다.
이날 공주센터를 찾은 윤호중 행안부 장관은 “현재 진행 중인 센터 간 이중화 시범 사업을 신속히 완료해 앞으로는 어떤 상황에서도 행정서비스가 장기간 중단되는 일이 없도록 최선을 다하겠다”고 말했다.
윤석열 정부가 추진한 ‘군중 감시’ 인공지능(AI) 기술 개발과 관련해 정부가 연구 중단을 전제로 한 사전 검토에 착수했다. ‘한국판 빅브라더’ 등 인권 침해 우려가 제기되는 데다, 수주 기업 중 한 곳이 과제 평가자로부터 비밀리에 기술 조력을 받았다는 연구 부정 의혹까지 드러난 데 따른 조치다.
26일 국회 과학기술정보방송통신위원회 소속 이훈기 더불어민주당 의원이 한국연구재단에서 받은 자료에 따르면, 연구재단은 최근 한국전자통신연구원(ETRI)에 ‘지능형 유무인 복합 경비안전 기술개발 사업’과 관련해 ‘특별평가 실시 여부 결정을 위한 자료 제출 요청’ 공문을 발송했다. 국가연구개발혁신법에 따르면 정부는 특별평가를 통해 국가 연구·개발(R&D) 사업 변경 또는 중단을 결정할 수 있다. 정부가 지난 23일 해당 사업의 연구비 지급을 임시 중지한 데 이어 사업 자체를 중단하기 위한 절차에 착수한 것이다.
지능형 유무인 복합 경비안전 기술개발은 지난해 4월 대통령경호처와 과학기술정보통신부가 공동으로 추진한 총 240억 원 규모의 사업(경향신문 10월 21일자 1면 보도)으로, ETRI와 민간기업 두 곳이 공동 수주했다. 사업에는 시민의 생체 신호를 토대로 긴장도를 측정하고 ‘위험인물’을 식별하는 인공지능(AI) 기술 개발이 포함됐다. 이에 “국가권력이 AI 기술을 시민 감시·통제 수단으로 활용하려 한다”(민주사회를 위한 변호사모임 성명)는 비판이 잇따랐다.
연구재단이 과제 중단 검토에 착수한 직접적 계기는 연구 부정 의혹이다. ETRI와 컨소시엄을 구성한 HDS는 경호처 출신 인사가 대표로 있는 경비보안업체로, 비공식적으로 다른 업체의 기술을 빌려 공모에 참여한 것으로 알려졌다. 기술 조력을 한 해당 업체 대표는 연구재단에서 이 사업을 검토·평가한 민간 기획위원이어서, 외부 발설이나 사업 참여가 금지된 상태였다. HDS는 사업 공고 불과 2주 전에 부설 연구소를 설립했다. HDS 감사보고서에 따르면 지난 10년간 연구개발비를 지출한 해는 지난해가 유일했다.
한국연구재단 관계자는 “27일까지 ETRI로부터 연구 부정 의혹과 관련한 자료를 제출받은 뒤, 이를 근거로 조만간 특별평가에 착수할 예정”이라며 “해당 사업의 인권 침해 소지 등 윤리적 문제까지 특별평가에서 함께 다루게 될 것”이라고 밝혔다.
국회 과방위는 ETRI와 한국연구재단 등을 대상으로 한 지난 24일 국정감사에서 ‘군중 감시 AI’를 질타했다. 이훈기 의원은 해당 사업을 “한국판 빅브라더”로 규정하며 “윤석열 경호처는 내란 개입 등 여러 문제가 드러났는데, 이 사업 역시 그 일환으로 보인다”고 말했다. 이어 “사업을 설계한 사람이 HDS와 손잡고 사업을 따냈다는 것은 말이 되지 않는다”며 연구 즉시 중단과 전면 감사 등을 요구했다.
이해민 조국혁신당 의원도 “대통령을 지키는 기술이 국민을 두려움 속에 살게 한다면 그것은 경호가 아니라 통제”라며 “까딱하면 칼을 망나니에게 맡길 뻔했다”고 말했다. 그러면서 “정부가 연구 중단을 검토해야 하고 ‘윤석열 정부의 R&D 예산 삭감’ 진상조사에 이 사업 내용도 포함돼야 한다”고 덧붙였다.