인터넷가입현금지원 ‘정확도 100% 육박’ AI가 만든 댓글 탐지 기술 개발…“여론조작 대응 기대” > 자유게시판

소통공간

인터넷가입현금지원 ‘정확도 100% 육박’ AI가 만든 댓글 탐지 기술 개발…“여론조작 대응 기대”

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-06-24
54 회

인터넷가입현금지원 특정 기사 댓글의 작성자가 사람인지 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발했다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트(KAIST) 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇 시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지 AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 생긴 폐쇄회로(CC)TV가 범죄 억제 효과를 내는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
김민석 국무총리 후보자의 차별금지법 반대 취지 발언에 대해 성소수자 학회가 “명백한 혐오”라고 비판했다.
한국성소수자연구회·한국성소수자의료연구회·한국성소수자퀴어연구학회 등 3개 학회는 23일 김 후보자의 발언에 대한 공동 성명을 발표했다.
앞서 김 후보자는 2023년 11월 개신교계 행사에서 “모든 인간이 동성애를 택했을 때 인류가 지속가능하지 못하다”며 차별금지법 제정에 반대하는 취지로 말했다. 그는 “최근 현실을 보면 사회적 분위기 때문에 (동성애를) 접하거나 (동성애가) 확산되는 것이 있다는 것이 분명하다”며 “현재 (국회에) 제출된 차별금지법은 보편적 가치의 문제와 종교적 입장에서 비판을 봉쇄할 가능성이 있기 때문에 옳지 않다”고 말했다. 동성애 등 성적지향을 ‘선택하거나 확산할 수 있는 것’으로 규정하며 차별금지법 제정에 반대하는 논리로 보인다.
학회들은 이 발언에 대해 “성소수자 이슈를 다양성의 존중과 보편적 인권이 아닌 도구적 관점으로 보는 반인륜적 논리이며 명백한 혐오 발언”이라고 비판했다. 학회는 김 후보가 “사회적 합의를 이유로 국가 정책의 장에 특정 종교, 그중에서도 일부 교회의 신념을 끌어들여 민주적인 숙의 과정을 방해하고 훼손했다”며 “결과적으로 성소수자는 특정 종교 집단의 신념 때문에 차별과 혐오의 대상이 됐다”고 말했다.
학회들은 국회 인사청문회에서 김 후보자의 발언을 중대하게 고려할 것을 촉구했다. 학회는 “김 후보자의 발언들은 행정 각 부를 총괄하는 수장으로서 자격이 없음을 드러내는 사건”이라며 “첫 총리 인선인 만큼 이재명 대통령의 국정 철학에 부합하는 인물인지 냉정하게 판단하라”고 요구했다. 이 대통령은 대선 때 TV토론 과정에서 차별금지법 제정에 대해 “방향은 맞다”면서도 “복잡한 현안이 얽힌 사항”이라고 말했다.
해당 비판에 대해 김 후보자는 지난 17일 외신기자간담회 등에서 차별금지법안을 반대하는 일부 종교계 주장도 “본질적인 헌법적 권리이자 자유권”이라고 언급했다. 이어 “차별금지법을 비판할 때 처벌받는 것 아닌가”라며 반대 측 논리를 거론하며 “사회적 대화”가 필요하다고 했다.
홍성수 숙명여대 법학부 교수는 기자와 통화하면서 “차별금지법 제정에 반대하는 측은 법안 제정에 사회적 합의가 필요하다고 주장하지만 인권은 합의의 대상이 아닐뿐더러 반대 측의 논리를 따르더라도 이미 합의는 이뤄졌다고 볼 수 있는 상황”이라고 말했다. 국가인권위원회가 2022년 전국 만 18세 이상 성인 1003명을 대상으로 진행한 설문조사를 보면 응답자의 67.2%가 “차별금지법 필요성에 동의한다”고 답했다.
김 후보자에 대한 인사청문회는 오는 24~25일 열린다.
오늘은 낮의 길이가 가장 길다는 절기 하지다. 전국 대부분 지역에서 비가 내리며 남부 지방을 중심으로 매우 강하고 많은 비가 내린다. 낮 기온이 25도 안팎으로 예년보다 조금 낮을 전망이다.
서울·인천·경기 북부와 강원 북부는 비가 갠 뒤 흐린 상태가 유지되며 이외 전국에 비가 내릴 것으로 보인다. 경기 남부는 오전에, 강원 중·남부와 충청권은 오후에 대부분 그친다. 충청권 남부는 저녁까지 이어지는 곳이 있을 것으로 예상된다.
서울·인천·경기 북부와 강원 북부는 오전까지, 경기 남부는 오후에 0.1㎜ 미만의 빗방울이 떨어지는 곳이 있겠다.
전북은 오전까지, 광주·전남 북부는 오전에 시간당 30∼50㎜의 비가 쏟아지겠다. 전라권은 이튿날까지 이틀간 50∼120㎜의 비가 예보됐는데, 많게는 150㎜ 이상 비가 내리는 곳도 있겠다.
경상권과 제주도도 이틀간 30∼80㎜의 비가 올 것으로 예상된다. 경북 남서 내륙과 경남 서부 내륙은 최대 120㎜ 이상, 대구·경북 남동 내륙과 경남 중·동부 내륙은 최대 100㎜ 이상 비가 오겠다.
이날 하루 예상 강수량은 대전·세종·충남 남부와 충북 중·남부 20∼60㎜(많은 곳 대전·충남 남부와 충북 남부 80㎜ 이상), 충남 북부와 충북 북부 5∼40㎜, 강원 남부 내륙과 중·남부 산지 5∼30㎜, 경기 남부 5∼10㎜, 강원 중부 내륙과 중·남부 동해안 5㎜ 안팎이다.
강풍특보가 내려진 전남 서해안과 부산, 울산, 일부 경북 남서 내륙, 제주도 북부와 산지·중산간은 바람이 순간 초속 20ｍ 이상(산지 초속 25ｍ 이상)으로 매우 강하게 부는 곳이 있겠다.
오늘 오전 5시 현재 주요 지역의 기온은 서울 20.9도, 인천 19.4도, 수원 20.5도, 춘천 22.2도, 강릉 22.7도, 청주 23.5도, 대전 23.5도, 전주 24.1도, 광주 24.5도, 제주 27.6도, 대구 26.4도, 부산 23.2도, 울산 25.1도, 창원 24.4도 등이다. 낮 최고기온은 23∼29도로 예보됐다.
바다 물결은 동해·남해 앞바다에서 0.5∼2.0ｍ, 서해 앞바다에서 0.5∼3.0ｍ로 일겠다. 안쪽 먼바다(해안선에서 약 200㎞ 내 먼바다) 파고는 동해 1.0∼4.0ｍ, 서해 0.5∼3.5ｍ, 남해 1.0∼3.0ｍ로 예상된다.
미세먼지 농도는 원활한 대기 확산과 강수의 영향으로 전국이 ‘좋음’ 수준이다.