의정부상간소송변호사 [포토뉴스] 전세사기 피해자들 “5대 시중은행, 책임 촉구” > 자유게시판

소통공간

의정부상간소송변호사 [포토뉴스] 전세사기 피해자들 “5대 시중은행, 책임 촉구”

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-10-08
57 회

의정부상간소송변호사 전세사기전국대책위와 민달팽이유니온 활동가들이 30일 서울 여의도 KB국민은행 본점 앞에서 부실 대출 심사로 전세사기 피해를 키운 5대 시중은행을 규탄하는 기자회견을 열고 퍼포먼스를 하고 있다.
정부가 지난달 공개한 인공지능(AI)기본법에 생활기록부 작성 등 교육 분야의 ‘학생평가’를 파급효과가 큰 고영향 AI로 분류하면서도, 교사의 최종 검토만 있으면 고영향 AI 규제를 피할 수 있게 가이드라인을 마련했다. AI 활용 추세를 막을 수는 없지만, 고영향 AI 규제를 쉽게 피해갈 수 있게 만들 경우 학생평가에 대한 교사의 주도권과 책임을 약화시킬 수 있다는 우려도 제기된다.
2일 취재를 종합하면 지난달 초 공개돼 의견수렴 중인 AI기본법 하위법령집에는 교육분야 고영향 인공지능의 세부 예시가 담겼다. AI기본법은 보건의료 등 10개 영역에 고영향 인공지능을 규정했는데 교육의 학생평가가 여기에 포함됐다. 가이드라인은 학생평가를 고영향 AI로 분류한 이유로 ‘학생평가 결과가 입시·취업 등에 활용되면 학생의 학습권 등 기본권에 위험을 초래할 우려가 높다’는 점을 꼽았다.
내년 1월 시행될 AI기본법에서 정의한 고영향 AI는 ‘사람의 생명, 신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 뜻한다.
AI기본법 가이드라인은 기초학력 진단평가, 생기부 작성, 지필·수행평가에 활용되는 AI만 고영향 AI 여부를 따져본다고 규정했다. 또 유아 학생평가나 초등학생의 생기부에 활용되는 AI 프로그램은 고영향 AI에서 제외한다고도 했다. 가이드라인은 “유아의 기본권에 중대한 영향을 미친다고 보기 어렵다” “초등생 생기부는 활용이 제한적”이라는 이유를 들었다.
가이드라인에서 쟁점이 되는 부분은 단서 규정이다. 가이드라인은 초중고 기초학력 진단검사에서 AI가 문제 출제, 평가기준 수립, 평가 시행과 분석을 했더라도 반드시 고영향 AI는 아니라고 설명한다. 교사가 ‘수정·보완하는 등 최종 검토’를 한다면 고영향 AI로 보지 않는다. 또 AI를 활용해 지필·수행평가 출제와 평가를 하거나 생기부를 쓰더라도 교사가 최종 검토를 한다면 고영향 AI가 아니라고 규정한다.
일각에선 가이드라인 초안을 그대로 적용할 경우 학생평가용 AI가 교사의 최종검토 여지만 일부 남겨두면 사실상 고영향AI 규제를 피할 수 있는 것 아니냐고 우려한다. 정현선 경인교대 교수는 “교사가 수정보완한다는 것이 구체적으로 무엇을 뜻하는지 규정이 상세하지 않다”며 “데이터의 편향성을 어떻게 검증할 것인지도 모호하다”고 했다.
AI기본법이 산업계 기반으로 만들어졌기 때문에 교육 분야까지 포괄하기는 어렵다는 분석도 있다. 지난달 책 <인공지능 교육과 법>을 펴낸 이영호 LKB평산 변호사는 “AI기본법은 산업계에 초점을 맞춰 제정돼 교육 영역까지 규율하기엔 한계가 뚜렷하다”며 “교육기본법이 규정한 교육의 권리·의무에 따라 학생평가를 다룬 AI는 모두 고영향 AI으로 보는 것이 맞다”고 말했다.
교육부는 “교사가 개입하지 않는 학생평가 AI가 고영향 AI”이라면서 평가 권한과 책임은 앞으로도 교사에게 있다는 입장을 밝혔다. 교육부 관계자는 “생기부 작성시 챗GPT와 같은 범용 AI를 활용할 때에도 윤문 정도만 하도록 가이드라인을 이미 내린 상황”이라며 “AI기본법은 사업자 규제를 다루고 있어서, 교육부는 법령 시행 후 쟁점이 될 수 있는 교사의 책무성과 의무 등을 검토 중”이라고 말했다. 한국지능정보사회진흥원 관계자도 “학생평가시 AI가 보조도구 역할에 충실해야 하는데 그렇지 못하면 고영향 AI로 보는 것”이라며 “평가의 최종 권한과 책임은 교사에게 있다는 점은 달라지지 않는다는 의미가 있다”고 말했다.