웹사이트 상위노출 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’ > 자유게시판

소통공간

웹사이트 상위노출 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-10-27
4 회

웹사이트 상위노출 30대 직장인 A씨는 요즘 고민거리가 있을 때 가장 먼저 챗GPT를 찾습니다. 뾰족한 해결 방법도 없고 그저 털어놓고 싶을 뿐인 이야기라면 굳이 사람일 필요가 없다고 생각합니다. 가까운 친구들을 ‘감정 쓰레기통’(부정적 감정을 일방적·지속적으로 받아주는 사람)으로 만들고 싶지 않은 마음도 크고요.
A씨에게 공감하는 분들, 드물지 않을 겁니다. 인공지능(AI)과 친밀하게 지내는 것을 넘어 인간보다 AI와 하는 대화가 오히려 편하게 느껴지는 경우도 늘고 있습니다. 챗GPT 개발사인 오픈AI와 MIT 미디어랩이 챗GPT와 사용자의 실제 대화 400만건 이상을 분석한 결과, 사용 시간 상위 10% 이용자 대화의 절반 이상에서 정서적 신호가 확인됐다고 합니다. 그런데 이런 AI와의 감정 교류, 그냥 해도 문제는 없는 걸까요?
사실 AI와 인간의 감정 교류와 관련해선 통계나 연구가 턱없이 부족합니다. 그저 위의 조사 결과처럼 한국에서도 비슷한 추이를 보일 것으로 추측할 뿐이죠.
이런 가운데 최근 국내에서 의미 있는 움직임이 포착됐습니다. 국제인공지능윤리협회(IAAE)가 발표한 ‘감정 교류 인공지능 윤리 가이드라인’입니다. AI 챗봇과 정서적으로 교류하며 의존하는 이용자가 급증하고 이에 따른 부작용을 막기 위해 만든 첫 윤리 기준입니다.
가이드라인은 크게 사업자(서비스 제공자)와 사용자로 나눠 AI와 감정 교류를 할 때 무엇을 지켜야 하는지 제시합니다.
사업자가 따라야 할 핵심 원칙은 ‘LAMP’(램프)로 요약할 수 있습니다. ‘L’(Limit·줄여라)은 데이터를 최소한으로 수집할 것, ‘A’(Announce·알려라)는 사용자에게 해당 서비스가 AI임을 명확히 고지할 것을 뜻합니다. ‘M’(Monitor·살펴라)는 지속적 점검과 검증을, 마지막으로 ‘P’(Protect·지켜라)는 개인정보와 취약 계층의 보호를 의미하고요.
특히 사용 시간이 길어지면 휴식을 유도하고, 위험 키워드를 감지하면 전문 기관으로 연결할 것을 권고합니다. 또 정서 의존을 완화할 기술적 조치에도 적극적이어야 한다고 명시합니다.
사용자들도 스스로를 보호하기 위해 지켜야 할 원칙이 있습니다. 먼저 AI가 인간이 아닌 기술적 모의임을 명확히 인식하고, 과도한 의존을 경계해야 합니다. 서두에 소개한 오픈AI·MIT 미디어랩의 연구에서도 이용 시간이 길수록 외로움, 감정적 의존 등 부정적 지표와 상관관계가 있는 것으로 나타났거든요.
나의 개인정보는 스스로 챙겨야 합니다. 개인정보 자기 결정권을 행사하고 공정성과 접근성을 요구해야 합니다. AI를 활용할 땐 올바르게 그리고 사용에 따른 사회적 책임도 져야 합니다.
AI와의 감정 교류는 아직 초기 단계로 앞으로도 빠르게 늘어날 것으로 보입니다. 일단 ‘돈이 된다’는 게 업계 판단입니다. 다수의 리서치 기관에 따르면, 감정 교류형 AI 시장은 2030년대 초중반까지 연평균 20~30%대 성장을 할 것으로 전망됩니다. 1인 가구 비중과 함께 디지털 웰빙 수요가 증가하고 있는 한국에선 해당 서비스의 성장이 한층 빠를 것으로 예상되고요.
감정 교류 인공지능 윤리 가이드라인은 기술 발전 속도에 비해 사회적 규범과 제도 정비가 크게 뒤처져 있다고 진단합니다. 이런 상황에서 감정 교류 AI가 확산하는 것은 심리적 의존과 알고리즘 편향, 프라이버시 침해 등 복합적인 위험을 낳을 수 있다고도 경고합니다. AI가 사용자의 감정적 취약점을 이용할 경우 신체적 피해 이상의 심리적 손상을 줄 수 있다는 다소 섬뜩한 지적도 나오고요.
전창배 국제인공지능윤리협회 이사장은 말합니다. “이번 가이드라인은 선언적 원칙에 그치지 않고 주체별 구체적인 실천 지침과 행동강령을 제시했다는 데 큰 특징이 있습니다. 기술 발전 속도에 비해 사회적 규범과 제도 정비가 뒤처진 상황에서 산업계의 책임 있는 혁신과 정책의 합리적 수립을 위한 기반을 제공할 것입니다.”
세계보건기구(WHO)가 이스라엘과 팔레스타인 무장정파 하마스 간 휴전협정 발효 이후에도 가자지구 기아 상태가 “재앙적 수준”이라고 경고하며, 더 많은 식량이 공급돼야 한다고 촉구했다.
테워드로스 아드하놈 거브러여수스 WHO 사무총장은 23일(현지시간) 제네바에서 기자회견을 열고 “가자지구로 반입되는 인도적 지원이 여전히 필요량의 일부에 불과하다”며 “식량이 충분하지 않기 때문에 기아는 전혀 줄어들지 않았다”고 밝혔다.
거브러여수스 사무총장은 이집트와 가자지구 국경의 라파 검문소를 재개방해야 한다고 촉구했다. 라파 검문소는 가자지구로 식량이 반입되는 주요 통로이지만, 이스라엘이 지난해 5월 이곳을 폐쇄하면서 식량 등 구호물자가 반입되지 못하고 있다.
유엔인구기금(UNFPA) 부총장 앤드류 세이버튼은 전날 가자지구 인구의 4분의 1 이상이 굶주리고 있으며 이중에 1만1500명의 임산부가 포함돼 있다며, 영양실조가 가자지구에 세대를 거쳐 영향을 끼칠 것이라고 경고했다.
세이버튼 부총장은 신생아의 70%가 미숙아 또는 저체중 상태이며, 이는 2023년 10월 이전 20%에 비해 대폭 증가한 수치라고 밝혔다. 그는 “영양실조는 산모 뿐 아니라 신생아에게 세대를 거쳐 영향을 미치며, 아이는 평생 장기간의 돌봄을 필요로 하는 등 문제가 발생할 가능성이 크다”고 말했다.
옥스팜과 노르웨이 난민위원회 등 41개 구호단체는 24일 공개 서한을 발표, 이스라엘이 가자지구로 향하는 구호물자 반입을 거부하고 있다고 비판했다. 이들은 “지난 10일부터 21일까지 국제 NGO의 구호품 전달 요청 가운데 99건이 거부됐다. 유엔의 요청도 6건 거부됐다”며 “이스라엘 당국이 거부한 구호품에는 텐트, 방수포, 담요, 매트리스, 식량 및 영양공급품, 위생 용품, 아동복 등이 포함됐다”고 밝혔다.
지난 10일 이스라엘과 하마스 간 휴전이 발효되며 가자지구에 대한 구호물자 공급이 확대될 것으로 예상됐다. 유엔은 매일 2000t의 구호물자가 공급되는 것을 목표로 했다. 하지만 세계식량계획(WFP)은 이스라엘이 라파 국경 검문소를 폐쇄하면서 남부 카렘 아부 살렘과 중부의 알카라라 검문소 두 곳만 운영되고 있기 때문에 하루에 들어오는 식량은 750t에 불과하다고 밝혔다. 이스라엘은 하마스의 이스라엘 인질 시신 송환이 지연된다는 이유로 라파 검문소를 개방하지 않고 있다.
가자지구의 의료 상황도 심각한 상태다. 거브러여수스 사무총장은 현재 일주일에 1회 이뤄지는 가자지구 환자의 외부 의료 후송이 턱없이 부족하다며 700명의 환자가 대기 중 사망했다고 밝혔다. 그는 4000명의 어린이를 포함해 1만5000명의 환자가 가자지구 외부에서 치료받을 필요가 있다며 각국이 더 많은 환자를 수용해줄 것을 촉구했다.
거브러여수스 사무총장은 가자지구 환자 가운데 5000명이 절단 환자이며, 3600명이 심각한 화상을 입었고, 약 100만명이 정신건강 치료를 필요로 한다고 밝혔다.
거브러여수스 사무총장은 가자지구 보건시스템을 재건하는 데 최소 70억달러(약 10조원)가 소요될 것으로 내다봤다.
22일 유엔 사법기관인 국제사법재판소(ICJ)는 이스라엘이 지난 2년간 가자지구 구호물품 반입을 제한한 것이 국제법상 인도주의 의무 위반이라고 판단하며 유엔의 구호 활동에 협조해야 한다고 밝혔다.

TEL.

031
562
0015

평일
09:00~18:00

공지사항

이용안내

오시는길

소통공간

웹사이트 상위노출 [산업이지]챗GPT 고민 상담, ‘LAMP’합시다···감정 교류 AI 첫 ‘윤리 가이드라인’

0315620015

031
562
0015