빠른폰테크 ‘정확도 100% 육박’ AI가 만든 댓글 탐지 기술 개발…“여론조작 대응 기대” > 자유게시판

소통공간

빠른폰테크 ‘정확도 100% 육박’ AI가 만든 댓글 탐지 기술 개발…“여론조작 대응 기대”

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-06-24
50 회

빠른폰테크 특정 기사 댓글의 작성자가 사람인지 인공지능(AI)인지를 100%에 가깝게 정확히 판별할 수 있는 기술이 국내에서 개발했다. 댓글을 통한 여론 조작에 능동적으로 대응할 길이 열릴 것으로 보인다.
김용대 카이스트(KAIST) 전기 및 전자공학부 교수팀과 국가보안기술연구소 등은 AI가 생성한 기사 댓글을 포착하는 소프트웨어인 ‘XDAC’를 개발했다고 23일 밝혔다. 해당 연구 결과는 다음달 오스트리아 빈에서 열리는 컴퓨터 분야 국제학술대회 ‘ACL 2025’에서 발표된다.
최근 등장하고 있는 고성능 AI는 기사 맥락에 맞춰 감정까지 조절한 댓글을 몇 시간 만에 수십만개 자동 생성할 수 있다. 여론 조작이 AI로 간단히 이뤄질 수 있다는 뜻이다.
현재도 AI가 만든 댓글을 구별하는 기술은 있다. 하지만 대부분 영어 기반으로 만들어졌다. 기존 기술은 문자 분량도 250자 이상을 요구하는 등 긴 글에 적합하다. 국내 기사 댓글은 한국어로 쓰인 데다 분량도 평균 50자로 짧아서 기존 기술로는 작성자가 AI인지 사람인지 알아내기가 어려웠다.
연구진은 이런 문제를 XDAC로 해결해 특정 기사 댓글의 작성자가 사람인지 AI인지를 98.5% 정확도로 알아내는 데 성공했다. 사실상 AI가 쓴 댓글의 거의 전부를 걸러낼 수 있는 성능을 갖춘 셈이다.
XDAC가 이런 높은 탐지율을 기록한 것은 고성능 AI의 일종인 ‘거대언어모델(LLM)’ 14종으로 생성한 기사 댓글 패턴을 차곡차곡 쌓아 ‘데이터 세트’를 구축했기 때문이다. 이를 정밀 분석한 결과, AI가 생성한 댓글에는 진짜 사람과는 구별되는 말투가 있었다. AI는 ‘~에 대해’ 같은 정형화하고 딱딱한 어법을 즐겨 썼다. 논리적이며 자연스러운 말을 만들기 위해 ‘그리고’ ‘그러나’ 같은 접속어도 자주 사용했다.
반면 진짜 사람은 감정을 표현하려고 기사 댓글에 특정 문자를 연달아 사용하는 일이 두드러졌다. ‘ㅋ’이 아니라 ‘ㅋㅋㅋㅋㅋ’처럼 썼다는 뜻이다. 여러 칸 띄어쓰기 같은 댓글 작성 습관도 사람에게 더 많이 나타났다. 격한 감정이 키보드의 스페이스 바를 여러 번 두드리는 행동으로 표현된 것이다.
연구진은 XDAC 존재 사실이 널리 알려지면 기사 댓글 조작을 예방하는 효과도 나타날 것으로 기대했다. 골목에 생긴 폐쇄회로(CC)TV가 범죄 억제 효과를 내는 것과 비슷한 원리다. XDAC를 쓰면 댓글 조작에 어떤 LLM 제품이 동원됐는지도 알 수 있다. 여론 조작 세력을 찾기 위한 단서를 확보하는 데 도움이 된다.
이번 연구를 다룬 논문의 제1저자인 고우영 국가보안기술연구소 선임연구원은 “AI 기반 여론 조작에 대응하기 위한 바탕을 마련한 데에 큰 의의가 있다”고 밝혔다.
대통령직인수위원회 역할을 하는 국정기획위원회가 20일 수사·기소권 분리 등 이재명 대통령의 검찰 관련 핵심공약을 제대로 담지 않았다며 대검찰청 업무보고를 중단시켰다. 검찰 안에선 이재명 정부 임기 초 ‘검찰 군기잡기 신호탄’이란 반응이 나왔다.
조승래 국정기획위 대변인은 이날 정부서울청사 창성동 별관에서 브리핑을 열고 “(대검) 업무보고는 검찰이 현재 갖고 있는 권한을 오히려 확대하는 방향”이라며 “(수사·기소권 일치로 인한 문제, 기소권 남용 폐해 등) 근본적인 문제에 대한 (이 대통령 대선) 공약과 관련된 것들은 제외하고 검찰의 일반적인 업무 현황을 주로 보고한 것”이라고 말했다. 조 대변인은 “대검이 늦게 보강자료를 내기는 했지만 구두 업무보고에서는 관련 내용이 생략됐다”며 “알맹이가 빠진 것”이라고 말했다.
이한주 국정기획위원장은 이날 업무보고에 앞서 공개된 모두발언에서 “윤석열 검찰정권의 폭주가 이재명 국민주권정부를 낳았다”며 “검찰은 지난날 과오를 반성하고 국민 눈높이에 맞춰 환골탈태할 때가 됐다”고 검찰을 강하게 비판했다. 국정기획위는 대검으로부터 오는 24일까지 자료를 다시 제출받고, 25일 업무보고를 다시 하기로 했다.
대검 측은 이날 업무보고에서 ‘국무조정실과 협의해 업무보고 자료를 만들었고, 국조실이 뒤늦게 요구해 수사·기소권 분리 공약 등과 관련한 내용 등을 추가로 제출했다’는 취지로 소명한 것으로 전해졌다. 이날 업무보고 자리엔 검찰이 추가로 제출한 자료는 준비돼 있지 않았던 것으로 전해졌다.
대검 업무보고 자료엔 형사부·여성아동범죄조사부·범죄수익환수부 등 민생범죄와 관련된 부서를 강화하겠다는 내용이 담긴 것으로 전해졌다. 불공정거래·중대재해 등에 엄정 대처하겠다는 내용도 포함된 것으로 전해졌다. 이에 조 대변인이 ‘기존 검찰 권한을 확대하는 방향의 업무보고’라고 지적한 것은 그 취지가 잘못 전달됐다며 당황스러워하는 분위기도 읽힌다.
한 검찰 관계자는 “(처음부터) 한번 그러려고(회의를 파투내려고) 한 것 같다”며 “지금 분위기에 두드려 맞아야지 어쩌겠느냐”고 말했다. 또 다른 검찰 관계자는 “(검찰청 폐지 등 공약은) 어차피 입법 사항인데, 집행기관인 검찰이 이행계획을 만들 수는 없지 않느냐”며 “공약을 만든 사람들한테 물어볼 문제”라고 불만을 나타냈다.
대검 관계자는 “지침에 따라서 준비했지만, 국정기획위에선 부족하게 본 것 같다”며 “시간 여유가 있으니 잘 보완해서 충실히 보고하겠다”고 밝혔다.