탐정사무소 AI가 쓴 생기부, 교사 검토 땐 문제없다? > 자유게시판

소통공간

탐정사무소 AI가 쓴 생기부, 교사 검토 땐 문제없다?

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-10-03
75 회

탐정사무소 정부가 지난달 공개한 인공지능(AI)기본법에 생활기록부 작성 등 교육 분야의 ‘학생평가’를 파급효과가 큰 고영향 AI로 분류하면서도 교사의 최종 검토만 있으면 고영향 AI 규제를 피할 수 있게 했다. AI 활용 추세를 막을 수는 없지만, 고영향 AI 규제를 쉽게 피해갈 수 있도록 만들 수 있다는 우려가 제기됐다.
2일 취재를 종합하면 지난달 초 공개돼 의견수렴 중인 AI기본법 하위법령집에는 교육 분야 고영향 AI의 세부 예시가 담겼다. AI기본법은 보건의료 등 10개 영역에 고영향 AI를 규정했는데 교육의 학생평가가 여기에 포함됐다. 가이드라인은 학생평가를 고영향 AI로 분류한 이유로 ‘학생평가 결과가 입시·취업 등에 활용되면 학생의 학습권 등 기본권에 위험을 초래할 우려가 높다’는 점을 꼽았다.
내년 1월 시행될 AI기본법에서 고영향 AI는 ‘사람의 생명, 신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 뜻한다.
AI기본법 가이드라인은 기초학력 진단평가, 생기부 작성, 지필·수행평가에 활용되는 AI만 고영향 AI 여부를 따져본다고 규정했다. 또 유아 학생평가나 초등학생의 생기부에 활용되는 AI 프로그램은 고영향 AI에서 제외했다. “유아의 기본권에 중대한 영향을 미친다고 보기 어렵다” “초등생 생기부는 활용이 제한적”이라는 이유를 들었다. 쟁점이 되는 것은 단서 규정이다. 가이드라인은 초중고 기초학력 진단검사에서 AI가 문제 출제, 평가기준 수립, 평가 시행과 분석을 했더라도 반드시 고영향 AI는 아니라고 했다. 교사가 ‘수정·보완하는 등 최종 검토’를 한다면 고영향 AI로 보지 않는다. AI를 활용해 지필·수행평가 출제와 평가를 하거나 생기부를 쓰더라도 교사가 최종 검토를 한다면 고영향 AI가 아니라고 했다.
일각에선 이 가이드라인 초안을 그대로 적용할 경우 학생평가용 AI가 교사의 최종검토 여지만 일부 남겨두면 사실상 고영향AI 규제를 피할 수 있는 것 아니냐고 우려했다. 정현선 경인교대 교수는 “교사가 수정보완한다는 것이 구체적으로 무엇을 뜻하는지 규정이 상세하지 않다”며 “데이터의 편향성을 어떻게 검증할 것인지도 모호하다”고 지적했다.
AI기본법이 산업계 기반으로 만들어졌기 때문에 교육 분야까지 포괄하기는 어렵다는 분석도 있다. 책 <인공지능 교육과 법>을 펴낸 이영호 LKB평산 변호사는 “AI기본법은 산업계에 초점을 맞춰 제정돼 교육 영역까지 규율하기엔 한계가 있다”며 “교육기본법이 규정한 교육의 권리·의무에 따라 학생평가를 다룬 AI는 모두 고영향 AI으로 보는 게 맞다”고 했다.
교육부는 “교사가 개입하지 않는 학생평가 AI가 고영향 AI”이라며 평가 권한과 책임은 앞으로도 교사에게 있다는 점을 강조했다. 교육부 관계자는 “생기부 작성 시 챗GPT 같은 범용 AI를 활용할 때도 윤문 정도만 하도록 가이드라인을 이미 내린 상황”이라며 “AI기본법은 사업자 규제를 다루고 있어서, 교육부는 법령 시행 후 쟁점이 될 수 있는 교사의 책무성과 의무 등을 검토 중”이라고 했다. 한국지능정보사회진흥원 관계자도 “학생평가 시 AI가 보조도구 역할에 충실해야 하는데 그렇지 못하면 고영향 AI로 보는 것”이라며 “평가의 최종 권한과 책임은 교사에게 있다는 점은 달라지지 않는다”고 말했다.
국가정보자원관리원(국정자원) 대전 본원 화재와 관련해 행정안전부 등 관계당국이 화재 당시 현장에 있던 인력조차 제대로 파악하지 못해 오락가락하고 있다. 행안부 등은 화재 당시 투입된 작업 인력을 13명에서 8명으로 정정했다가 “모두 15명이 현장에 있었다”고 다시 설명했다. 경찰이 폐쇄회로(CC)TV 분석을 통해 확인한 현장 인력 11명과 차이가 난다.
30일 대전경찰청에 따르면 국정자원 화재 수사전담팀은 이미 조사한 참고인을 포함해 현장에 있었던 인력이 모두 11명인 것으로 파악하고 있다. 경찰 관계자는 “CCTV 분석을 통해 파악한 인원이지만 추가 분석이 필요하다”고 말했다.
현장 인력에 대한 행안부와 국정자원의 설명은 계속 바뀌고 있다. 국정자원 화재 범정부 중앙재난안전대책본부는 지난 29일 오전 9시 기준 대처상황 보고에서 “5층 전산실에서 작업자 13명이 리튬배터리 이전 작업 중 배터리 1개에서 불꽃이 튀어 발화된 것으로 추정된다”고 밝혔다. 같은 날 오후 중앙재난안전대책본부 브리핑에서는 8명으로 수정했다. 이재용 국정자원 원장은 브리핑에서 “화재 당시 현장에서 작업을 하던 인력은 주사업자와 파트너사 등 3개사 직원 8명으로 확인됐으며, 공무원 감독관도 같이 있었다”고 밝혔다.
이 원장은 30일 브리핑에선 “현장에는 작업자와 입회자가 있었다”며 “현장에 있었던 인원은 담당 공무원 1명, 방제실 직원 5명, 감리인 1명, 작업자 8명 등 총 15명으로 확인했다”고 번복했다. 지난 26일 밤 화재가 발생하고 며칠이 지나도록 화재 원인이 된 배터리 이전 작업에 투입된 인력조차 정확히 파악하지 못한 셈이다.
배터리 이전 작업 과정에서 전원 차단이나 안전 조치가 제대로 이뤄졌는지도 수사로 확인해야 할 부분이다. 국정자원은 “전원을 차단하고 작업을 하던 중 40분쯤 뒤 배터리에서 불꽃이 튀었다”고 설명했다. 경찰 관계자는 “국정자원으로부터 수사에 필요한 자료를 임의제출 받아 확인하고 있다”고 말했다.
화재 현장에서는 경찰과 소방, 국립과학수사연구원의 합동감식이 나흘째 이어졌다. 발화 추정 지점에 있던 배터리팩 6개는 안정화 작업을 거쳐 모두 국과수로 옮겨졌다.
검찰개혁의 후속 조치를 다룰 국무총리 산하 검찰개혁추진단이 1일 공식 출범했다. 전날 검찰청 폐지를 골자로 한 정부조직법 개정안이 공포된 이후 검찰개혁 후속 조치를 마련할 정부 주도 기구다. 핵심 쟁점은 공소청에 보완수사권을 부여할지가 될 것으로 보인다.
추진단은 국무조정실·기획재정부·법무부·행정안전부·인사혁신처·법제처 등 관계기관 공무원 총 47명으로 구성됐다. 추진단장은 윤창렬 국무조정실장이 맡고, 부단장 1명(1급 고위공무원)과 3명의 국장(기획총괄국·입법지원국·행정지원국)을 산하에 둔다.
정부조직 개편에 따라 내년 10월 검찰청이 폐지되고 중대범죄수사청(중수청)·공소청이 설치된다. 추진단은 향후 공소청·중수청 설립 등과 관련한 검찰개혁의 세부 추진 방안을 마련하는 임무를 맡는다. 구체적으로는 공소청 및 중수청 설치법 제정안과 형사소송법 개정안을 마련한다. 관계 법률 180여개 및 하위법령 900여개 제·개정안도 마련할 계획이다. 공소청 및 중수청의 하부조직을 설계하고 정원 산정, 인력 충원, 청사 확보, 예산 편성 등 조직 가동을 위한 실무 준비도 한다.
핵심 쟁점은 공소청에 보완수사권을 부여할 것인지다. 1차 수사기관이 수사를 마친 모든 사건을 공소청에 넘기도록 할 것인지(전건 송치), 공소청이 1차 수사기관에 대한 수사지휘권(수사감독권)을 갖도록 할 것인지도 쟁점이다. 추진단은 다양한 의견을 수렴하기 위해 학계･법조계 등의 전문가로 구성된 자문위원회를 운영할 예정이다.
추진단은 검찰개혁 관련 부처별 의견을 종합·조정하기 위해 단장 주재 검찰개혁추진협의회를 수시로 운영할 계획이다. 협의회는 기재부·법무부·행안부 차관, 국조실 1차장, 법제처·인사처 차장 등으로 구성된다.
추진단 측은 “수사·기소 분리라는 검찰개혁의 대원칙이 차질 없이 안착해 국민권익과 인권 보호라는 본질적인 목적을 달성할 수 있도록 후속 조치를 세심하게 추진해 나갈 것”이라고 밝혔다.
앞서 정부와 더불어민주당은 지난달 7일 고위당정협의회를 열고 1년의 유예 기간을 거쳐 검찰청을 폐지하고 공소청·중수청을 신설한다는 내용의 정부조직 개편안을 확정했다. 구체적인 개편 방안은 총리실 산하에 설치되는 검찰개혁추진단에서 논의하기로 했다. 민주당은 지난달 26일 국회 본회의에서 정부조직법 개정안을 처리했고, 정부는 전날 이재명 대통령 주재 국무회의에서 정부조직법 개정 법률 공포안을 의결했다.