[2025 경향포럼]“견제 없는 AI가 만들 미래 암울···‘레드팀’ 있어야” > 자유게시판

소통공간

[2025 경향포럼]“견제 없는 AI가 만들 미래 암울···‘레드팀’ 있어야”

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-06-27
102 회

세상의 속도에 맞춰 호흡하는 것만으로 숨가쁜 시대다. 자고 일어나면 진화하는 인공지능(AI)의 속도는 때론 두렵기까지 하다. 한 번의 실수만으로 벼랑 끝으로 떨어질지 모른다는 이 공포를 희망으로 바꿀 방법은 없을까. 한국 사회는 다가올 AI 시대를 어떻게 맞이해야 할까.
25일 서울 중구 롯데호텔에서 열린 <2025 경향포럼>의 오전 세션 ‘숨가쁜 변화, 문명사적 대전환’의 마지막 순서는 이 질문에 대한 세계적인 석학·전문가들의 대답이 될 듯하다. 지나 네프 영국 케임브리지대 민더루 기술·민주주의 센터장과 샹바오 독일 막스플랑크 사회인류학 연구소장, 이광형 카이스트(KAIST) 총장은 AI가 불러올 인간 사회 변화를 예측하고 이를 위해 필요한 준비에 관해 다각도의 의견을 나눴다. 토론자들은 AI가 세상을 완전히 바꿔놓을 것인 만큼 만반의 준비가 필요하다는 데 이견이 없었다. 좌담 진행은 이정동 서울대 공학전문대학원 교수가 맡았다.
AI 기술이 견제받지 않은 채 발전한 10년 뒤 인간 사회 모습을 예측해달라는 질문에 토론자들은 공통적으로 ‘격차’를 꼽았다.
이 총장은 “디지털 격차에 이어 ‘AI 디바이드(격차)’가 나타날 수 있다”고 우려했다. 이미 노년층이 식당 등에서 키오스크 사용에 어려움을 겪으며 소외되고 있는 것처럼 AI 활용 여부에 따라 경제·사회적 격차가 발생할 수 있다는 것이다.
네프 센터장은 AI가 인간의 탐욕에 따라 움직이는 미래를 최악의 시나리오로 그렸다. 그는 “아무리 강력한 AI가 나와도 걱정하지 않는다. 어디까지나 인간의 문제”라며 “권력이 특정 국가나 인물에게 치중돼 전력이나 데이터, 수자원 같은 중요한 자원의 배분을 마음대로 분배하는 상황이 가장 걱정된다”고 말했다. 이것이 극심한 빈부 격차와 불평등으로 이어질 수 있다고 경고했다.
샹 소장 역시 ‘힘의 쏠림’을 가장 우려했다. 소수의 엘리트가 AI의 혜택을 독점하는 시나리오다. 국방과 부의 측면에서 벌어질 격차를 그는 특히 우려했다. 샹 소장은 “경향포럼은 무척 좋은 취지의 행사지만 극히 일부만 관심을 갖고 참여한다”며 “농민이나 택시 기사에게 AI가 어떤 의미가 있을지, 이들의 삶을 AI가 어떻게 편리하게 만들 수 있을지 그들에게 물어봐야 한다”고 했다.
샹 소장은 독일 철학자 마르틴 하이데거의 말을 인용, ‘지루함’이 AI 시대의 문제로 등장할 수 있다고도 내다봤다. AI가 극도로 발전한 사회에서 주도권을 상실한 인간은 일상의 작은 경이로움이나 놀라움마저 빼앗기고 삶의 의미를 의심할 수 있다는 것이다.
“오늘을 살아가는 것이 따분해진다는 것은 심오한 문제입니다. 우리가 모든 것을 잃어도 마지막까지 붙잡아야 하는 것은 감정입니다. 이것을 빼앗긴 세상은 꽤 무서울 겁니다. 이 영향을 예의주시해야 합니다.”
토론자들은 AI가 불러올 변화의 파도가 높은 만큼 비판적인 접근이 반드시 필요하다고 입을 모았다.
샹 소장은 “퇴장(출구)을 위한 기회와 공간이 필요하다”고 말했다. 그는 20세기에 등장한 다른 기술과 비교해 AI는 ‘사용할 수 있느냐 없느냐’보다 ‘선택의 여지가 없음’이 더 문제라고 본다. 포용성이 높고 일상에 침투할 가능성이 크기 때문이다. 그렇기에 개인이 AI의 위험성과 이로 인해 치러야 할 비용을 인지하고 사용을 거부할 수 있는 공간을 마련해두는 것이 중요하다는 게 그의 생각이다.
네프 센터장은 “지금은 가장 큰 목소리만 듣고 AI를 설계하고 있다”며 “세계 각지에서 내는 목소리를 경청하고 이를 녹여낼 필요가 있다”고 말했다.
AI 기술 개발이 메타, 구글 등 빅테크 공룡의 주도로 이뤄지는 상황에서 국제사회 협력과 견제가 필요하다는 의견도 제시됐다. 네프 센터장은 “빅테크, 그중에서도 미국의 대기업들은 ‘AI 기술은 너무 복잡해서 당신들은 이해하기 힘들 테니 우리를 규제하지 말라’는 식의 태도를 취하고 있다. 이것은 말도 안 되는 일”이라며 “여러 국가가 힘을 합쳐 과학 기술을 이해하고, AI 발전이 인류 번영과 인권 존중을 기반으로 이뤄질 수 있도록 적극적으로 참여해야 한다”고 말했다.
이날 현장에서는 인문·사회학의 역할에 관한 질문도 나왔다. AI는 흔히 기술과 공학의 문제로만 여겨지지만, 전통적 인문·사회학이 줄 수 있는 도움도 있지 않겠느냐는 취지다.
이 총장은 “인간의 본성이나 인류의 발전 방향 등을 어려서부터 배우는 것이 중요하다”며 “인문학을 소홀히 해선 안 된다”고 강조했다. 카이스트는 이 총장 취임 이듬해인 2022년 기존에 있던 인문사회과학부를 디지털인문사회과학부로 확대하고 대학원 과정을 개설한 바 있다. 인간과 사회, 예술 분야에 대한 디지털 분석 역량을 갖춘 인문융합공학자를 양성하기 위해서다.
이 총장은 인문학과 공학의 ‘융합’에 방점을 찍었다. “인문학만 공부해서는 부가가치가 너무 적습니다. AI 개발자가 인문학을 공부할 수 있는 환경을 만들어줘야 합니다. 메타나 오픈AI 같은 기업이 나서줄 수 있다고 봅니다.”
사회자인 이정동 교수도 극작술을 연구하는 ‘드라마 터그’를 예로 들며 공감을 표했다. 드라마 터그는 하나의 연극 무대가 완성되기까지 문학적·예술적 조언을 하는 연극 전문가로 일종의 ‘레드팀’(취약점을 발견, 지적하는 조직) 역할을 한다. 이 교수는 “터그는 보통 잔소리를 하는 사람이기 때문에 제작진에게 환영받진 못한다. 하지만 터그가 훌륭하면 결과물이 훌륭하다”며 AI에 있어서도 인문·사회학적 시각이 반드시 필요하다고 말했다.
한국 사회는 다가올 AI 시대를 어떻게 맞아야 할까. 이 총장은 교육의 중요성을 재차 강조했다. 그는 “향후 몇 년간 AI를 어떻게 하는지가 후손의 미래를 결정할 것”이라며 “한국이 과거 디지털 전환 성공으로 번영을 이룬 것처럼 AI 전환(AX)에도 성공하려면 교육 확대를 통해 AI 관련 인력을 2~3배 이상 늘려야 한다”고 말했다.
네프 센터장은 한국의 제조업 경쟁력을 꼽았다. 그는 “한국에는 제조업 관련 자원이 아주 많다는 사실을 알아야 한다”며 “놀라운 한국 경제 역사와 그 강점을 바탕으로 제조업 시스템을 AI를 통해 생산적으로 바꿀 수 있다”고 말했다.
샹 소장은 지난해 12·3 불법계엄 당시 거리로 나선 시민 수백만명의 이야기를 꺼냈다.
“계엄령이 내려진 그날 밤 많은 사람들이 거리에 나왔습니다. 그들은 노래하고 춤추며 하나되는 힘을 보여줬는데, 이건 세상의 많은 나라가 이미 잃어버린 것입니다. 불법계엄을 막은 뛰어나고 역동적인 법치에도 감탄했습니다. 하지만 저는 이 앞의 두 층위는 개개인의 삶이 뒷받침돼야 유지될 수 있다고 봅니다. 내가 내 삶을 주도하고 있고 이 사회에 기여할 수 있다는 감각 같은 것들 말이죠. 이것들은 공식적인 인프라만큼이나 중요한 비공식적 인프라이고 사회 에너지를 생산해냅니다.”
중국 기술기업 샤오미가 서울 여의도 1호 매장 개점을 시작으로 국내 접점을 확대해 한국 소비자를 공략하겠다는 포부를 25일 밝혔다. 오프라인 매장 운영은 ‘가성비’ 이미지를 넘어 프리미엄 전략을 펴기 위한 행보다.
조니 우 샤오미코리아 사장은 이날 서울 여의도 콘래드호텔에서 국내 첫 오프라인 매장 오픈 기념 기자간담회를 열고 “구매도 할 수 있고 애프터서비스(AS)도 제공하는 통합형 매장을 서울뿐 아니라 경기 등 한국 전역에 열 예정”이라고 말했다.
샤오미는 오는 28일 서울 여의도 IFC몰 내 197.62㎡(약 60평) 규모의 첫 매장 운영을 시작한다. 직영 판매와 AS 서비스를 결합한 통합형 매장이다. 스마트폰을 중심으로 태블릿, 스마트워치, TV, 청소기, 생활가전 등이 폭넓게 전시돼 있다. 대부분은 저렴한 편이지만 169만원대 스마트폰(샤오미 15 울트라) 같은 고가 제품도 있다.
우 사장은 “프리미엄 전략을 펼치기 위해서는 제품을 직접 체험할 수 있는 오프라인 매장을 만드는 것이 가장 중요하다”고 말했다.
향후 대형가전까지 수리할 수 있는 독자적인 AS 센터를 운영하고, 국내 AS 파트너와의 협력도 이어갈 계획이다. 국내에서 파는 대형가전 제품군이 늘어날 가능성이 있다. 샤오미는 중국에서 세탁기, 냉장고, 에어컨도 판매 중이다.
샤오미는 개인용 디바이스, 스마트홈 제품, 자동차의 유기적인 연결을 추구하고 있다. 앤드류 리 샤오미 동아시아 지역 총괄은 “한국 스토어는 사람과 자동차, 집을 연결한 생태계를 구축하는 샤오미의 핵심 전략을 실현하기 위한 중요한 매개체”라고 말했다.
매장 오픈과 함께 스마트폰 ‘샤오미 15 일반형’과 웨어러블 밴드 ‘스마트밴드 10’을 출시한다. 스마트밴드 10은 중국, 홍콩, 대만 등 중화권 국가와 함께 한국이 1차 출시국에 포함됐다. 샤오미는 독일 카메라 브랜드 라이카와 협업해 스마트폰을 내놓는 등 기술력을 과시하고 있다. 다만 한국 스마트폰 시장은 삼성전자와 애플이 양분하고 있다. 샤오미가 이 틈을 비집고 들어갈 수 있을지는 지켜봐야 한다.
당장 한국 시장에서 전기차를 출시할 계획은 없다. 샤오미는 지난해 3월 중국 시장에 첫 전기차인 SU7을 출시했다. 현지에서 전기차를 주문하면 10개월 뒤에나 차량을 받을 수 있을 정도로 주문이 밀려 있다고 한다. 리 총괄은 “내수 시장에서 성과를 거두고 충분한 준비를 마치면 글로벌에 진출할 시기가 올 것이라고 생각한다”고 말했다.
인간, AI, 인체·정신증강인…100년 뒤엔 새로운 인류 출현인간 존재·역할 부조화 대비인본주의 사상 더 탄탄히 해야
이광형 카이스트 총장은 25일 네 종류의 인류가 공존하는 사회를 ‘휴머니즘 2.0’으로 명명하고 “사상이 도구를 지배”하도록 해야 한다고 밝혔다. 자연인간과 유전자 편집된 인체증강인, 바이오닉스를 통한 정신증강인, 인공지능(AI)을 공존해야 할 인류로 꼽았다.
이 총장은 이날 서울 중구 롯데호텔에서 열린 <2025 경향포럼>에서 “휴머니즘 2.0은 우리가 미리 준비하는 것”이라며 이같이 밝혔다.
이 총장은 “인문학, 인본주의 사상을 탄탄하게 하고 도구를 통제하는 기술과 제도를 만들며 국제사회와 공조해야 한다”고 말했다. 21세기 ‘새로운 도구’로는 유전자가위·줄기세포와 AI, 바이오닉스를 꼽았다. 이 총장은 “AI가 나타나면서 질서가 흔들리기 시작했다”면서 “새로운 질서를 뒷받침하는 사상, 우리의 사고방식이 바뀌어야 한다”고 밝혔다.
이 총장은 “100년 후 인간은 현재 존재하는 인류와 달라져 있을 것”이라며 “인간의 역할과 위상 등을 두고 존재론적 질문에 빠질 수밖에 없다”고 했다. 현재는 인간의 존재와 역할이 일치하는 시대로 ‘문명의 주인’ 역할을 하지만, 앞으로는 인간이 존재와 사유의 주체이되 역할이 사라질 수 있다고 봤다. 그는 “AI로 인간의 존재와 역할이 부조화가 일어난다”고 말했다.
AI로 기존 질서가 재편되는 사례로 일자리 문제를 꼽았다. 이 총장은 “AI가 대신 열심히 잘하고 있기 때문에 일자리를 줄일 수밖에 없지 않겠는가”라며 “일하지 않는 사람이 많아질 것”이라고 했다.
그는 다만 “우리의 노력에 따라 혁명적으로 큰 전환이 될 수 있다”며 AI 발전에 따른 인류의 미래는 낙관적으로 전망했다.
이 총장은 “우리나라 제조업의 경쟁력이 떨어지고 인구가 줄고 있어 걱정이 많지만 AI가 해결해줄 것”이라며 “AI를 이용해 노동생산성을 올리면 제조업을 다시 살릴 수 있고, AI를 잘 활용하면 인구 감소 문제도 해결할 수 있다”고 말했다.
이 총장은 미래학자로 카이스트에서 다학제적 연구와 교육 활동을 이어왔다. 서울대에서 학사 과정을 마친 뒤 1980년 카이스트에서 산업공학 석사를 취득하고, 프랑스 국립응용과학원(INSA Lyon)에서 전산학 박사학위를 받았다. 1985년 카이스트 교수로 부임했다.
이 총장은 기업가 정신과 스타트업을 중시하는 인물로 알려져 있다. 넥슨, 아이디스, 네오위즈, 올라웍스 등 카이스트 1세대 창업가들을 지도해왔다. 1999년부터 2000년까지 방영된 TV 드라마 <카이스트> 속 괴짜 교수 캐릭터의 실제 모델이기도 하다.