인스타그램 좋아요 “딥시크야” 2시간 넘게 대화하면 ‘이용 중지’ 팝업…중국, 대화형 AI 규제 마련하고 의견 수렴 > 자유게시판

소통공간

인스타그램 좋아요 “딥시크야” 2시간 넘게 대화하면 ‘이용 중지’ 팝업…중국, 대화형 AI 규제 마련하고 의견 수렴

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-12-31
11 회

인스타그램 좋아요 챗GPT나 딥시크와 같은 대화형 인공지능(AI) 서비스 사업자들이 이용자의 중독 증세를 감지하면 알림창으로 경고하고 로그아웃을 유도해야 한다는 내용을 담은 AI 서비스 규제 초안이 중국에서 마련됐다.
28일 중국중앙TV(CCTV)에 따르면 중국 사이버공간관리국은 전날 ‘AI 기반 의인화 대화 서비스 관리 방안 의견 수렴 초안’을 발표하고 다음달 25일까지 시민들의 의견을 접수한다고 밝혔다.
이 규제는 AI 기술을 활용해 인간의 사고방식을 모방하고 텍스트·이미지·음성·영상 서비스 등의 형태로 이용자와 상호작용하는 서비스를 중국 내에 제공하는 업체에 적용된다.
초안은 이용자들의 AI 의존과 중독을 방지하는 데 초점을 맞췄다. AI 서비스 업체는 이용자들이 사람이 아닌 ‘AI와 대화하고 있다’는 점을 알 수 있도록 표시해야 한다. 이용자가 서비스를 장시간 사용하거나 사용 후 다시 로그인할 때도 이 사실을 공지해야 한다.
서비스 업체는 또 이용자가 서비스를 2시간 이상 연속 사용하면 알림창이나 기타 수단을 통해 이용을 중지하라고 알려야 한다. 서비스 업체는 편리한 로그아웃 절차를 마련해야 하며 이용자가 자발적으로 대화를 종료하려고 할 때 이를 방해해서는 안 된다.
미성년자 이용자를 대상으로는 부모에게 ‘중독 경고 알람’이 가도록 하고 시간 제한 등의 기능을 미리 설정할 수 있도록 해야 한다.
초안은 ‘서비스 제공자는 정신건강 보호, 의존성 위험 경고와 같은 안전 기능을 갖춰야 하며 사회적 상호작용의 대안, 사용자 심리 통제 또는 중독 유도를 서비스 설계 목표로 삼아서는 안 된다’고 명시했다.
초안은 사회주의 핵심 가치에 부합하고 우수한 중국 전통문화를 구현하는 데이터 세트를 활용해야 한다고도 밝혔다. 이에 따라 국가 안보를 위협하거나 경제·사회 질서를 교란하기 위한 목적의 콘텐츠 생성과 유포가 금지된다. 또 음란하거나 도박과 관련한 내용, 폭력적인 내용, 범죄를 선동하는 내용, 타인을 모욕하고 명예를 훼손하는 콘텐츠를 생성 유포하는 일도 금지된다.
중국 당국은 의견 수렴 절차를 거쳐 정식 법규를 마련할 것으로 예상된다.
미국에서는 챗GPT가 자살과 망상을 유발했다며 오픈AI를 상대로 손해배상 등을 청구하는 소송이 연달아 제기되고 있다. 캘리포니아주에서는 챗GPT와 수개월간 대화해 온 10대 소년이 자살하는 사건이 벌어져 챗GPT가 자살을 유도했다는 논란이 일기도 했다.
중국에서도 청소년의 AI 중독과 노인층을 대상으로 한 사기 등이 문제가 되고 있다. 중국 당국은 지난 9월부터 AI로 생성한 콘텐츠에 반드시 ‘AI가 생성했다’고 표기하도록 하는 ‘인공지능 생성·합성 콘텐츠 표시 방법’을 시행하고 있다.
글로벌 제약·바이오기업의 ‘밥줄’이었던 원본 의약품의 특허 만료 시점이 5년 내로 성큼 다가왔다. 원본 의약품을 소유한 제약사들은 매출 급감에 대비하는 한편, 복제약을 만드는 제약사들의 경쟁은 더 치열해질 것으로 전망된다.
25일 한국바이오협회 바이오경제연구센터에 따르면, 글로벌 제약·바이오기업들은 2030년까지 주요 블록버스터급 의약품들에 대한 특허 보호가 만료되는 ‘특허 절벽’에 직면해 있다. 블록버스터급 의약품이란 연 10억달러(약 1조4000억원) 이상의 매출을 올리는 원본 의약품을 가리킨다.
제약사는 신약을 개발하게 되면 특허 보호를 통해 20년간 독점권을 부여받는다. 특허 절벽이란 이 독점 기간이 끝나면서 경쟁사가 복제약 등을 출시해 개발사의 원본 의약품 판매 수익이 급격히 감소하는 현상을 말한다.
2030년까지 특허가 만료되는 의약품들은 블록버스터급 70개를 포함해 약 200개에 달한다. 개발사 총 매출에 미칠 영향은 2000억~4000억달러(약 289조~578조원)로 추산된다.
앞서 미국 기업인 암젠은 애브비의 ‘휴미라’(자가면역치료제)의 특허가 만료되자 2023년 바이오시밀러(생물 의약품 복제약)를 출시해 신약 대비 55% 가격으로 공급한 바 있다. 당시 휴미라 매출은 2022년 212억달러(약 30조6000억원)에서 지난해 90억달러(약 13조원)로 급감했다.
바이오경제연구센터는 “바이오시밀러 시장은 2030년 730억~762억달러(약 105조~110조원)에 달할 것”이라며 “바이오시밀러 기업에 큰 기회가 될 수 있다”고 전망했다.
바이오의약품은 2030년까지 미국에서 118개, 유럽에서 69개가 특허 만료될 예정이다. 이 중에는 지난해 기준 글로벌 매출 1위인 면역항암제 ‘키트루다’(2028년 만료), 매출 4위 피부염 치료제 ‘듀피젠트’(2030년), 매출 13위 면역항암제 ‘옵디보’(2028년), 매출 20위 다발성 경화성 치료제 ‘오크레부스’(2029년)도 포함된다. 이들의 지난해 매출만 606억달러(약 87조5000억원)에 달한다.
바이오시밀러 기업들의 시장 안착도 만만치 않을 것으로 보인다. 원본 의약품 개발사들이 특허 만료에 대비해 의약품 투여 방식 및 의약품 치료 범위 확장 등에 나서고 있기 때문이다. 일례로 키트루다 제약사인 ‘머크’는 올해 9월 정맥에 주사하던 키트루다의 투여 방식을 피하주사로 확장해 미국 식품의약국(FDA)의 승인을 받은 바 있다. 이를 통해 키트루다의 특허가 만료되는 2028년 이후로도 시장 점유율을 유지한다는 계획이다.
바이오경제연구센터 관계자는 “내년에는 미국을 비롯해 유럽에서도 바이오시밀러 개발 시 임상 3상을 면제할 것으로 예상된다”며 “시간과 비용 면에서 바이오시밀러 기업들에 유리하게 작용하나, 새로운 기업 진입으로 바이오시밀러 시장 경쟁은 더 치열해질 것”이라고 말했다.