시진핑 중국 국가주석[AP 연합뉴스 자료사진]

중국 정부가 생성형 인공지능(AI) 기술의 급격한 발전과 함께 확산 중인 불법 콘텐츠 및 트래픽 조작 행위를 근절하기 위해 고강도 규제 칼날을 뽑아 들었다.

중국 인터넷 규제 당국인 인터넷정보판공실(CAC)은 출처를 명확히 밝히지 않은 채 무분별하게 정보를 유통한 1인 미디어 채널 '쯔메이티' 9만 8,000개를 적발해 제재를 가했다. 이들 채널은 위챗이나 웨이보 등 주요 소셜미디어를 기반으로 활동하며, 상당수가 조회수를 조작할 목적으로 AI가 생성한 영상이나 글이라는 사실을 은폐한 채 콘텐츠를 게시해온 것으로 확인됐다. 이른바 '딥시크 쇼크'로 상징되는 중국의 인공지능 기술 성장이 허위 정보 확산이라는 부작용을 낳자 당국이 즉각적인 집행에 나선 모양새다.

국가시장감독관리총국(SAMR) 또한 인공지능 기술의 오남용을 타깃으로 삼아 온라인 광고 생태계 전반에 대한 대대적인 단속에 착수했다. 이번 조치는 인터넷 광고 분야를 대상으로 향후 6개월 동안 이어지며, 인공지능을 활용한 허위 광고나 자동화 봇을 동원한 조회수 조작 등 새로운 형태의 위험 요소를 차단하는 데 주력한다. 총국은 "기술의 급격한 성장에 발맞춰 시스템적이고 대대적인 단속 캠페인이 시급하게 필요한 시점"이라고 강조하며 규제 강화와 플랫폼 책임론을 전면에 내세웠다.

실제로 중국 당국은 올해 초 춘제 연휴 기간에도 온라인 환경 정화 캠페인을 전개해 인공지능으로 생성된 허위 콘텐츠 등 약 70만 8,000건을 삭제하는 성과를 거둔 바 있다. 퀘스트모바일의 추산에 따르면 지난해 중국 온라인 광고 시장 규모는 7,930억 위안, 한화로 약 170조 원에 달할 만큼 거대해졌다. 특히 바이트댄스와 텐센트, 알리바바 등 대형 빅테크 기업들이 시장의 절반 이상을 점유하고 있어, 당국은 이들 기업의 관리 책임을 묻는 데 수사력을 집중하고 있다.

개별 기업에 대한 직접적인 제재도 이어지고 있다. 인터넷정보판공실은 최근 바이트댄스 운영자를 소환해 영상 편집 프로그램인 캡컷과 이미지 생성 도구 드리미나 등에서 인공지능 생성 표기가 누락된 점을 지적하고 시정 명령과 함께 제재를 부과했다. 당국은 해당 서비스들이 사이버보안법과 인공지능 생성 서비스 관련 규정을 위반했다고 명시했다. 이에 대응해 더우인 등 플랫폼 업체들도 저작권을 침해한 인공지능 영상 53만여 건을 삭제하고 관련 계정 4,000여 개를 차단하며 자정 노력에 힘을 쏟고 있다.