[챗GPT. 키우자니 검열 다 뚫리고... 고심하는 중국]

미-중간의 인공지능(AI) 전쟁에서 중국이 딜레마에 빠져 있다. 중국판 챗GPT를 키우자니 중국 공산당의 안전을 위해 철저하게 막고 있는 인터넷 만리방화벽이 다 뚫려버릴 가능성이 있고, 그렇다고 그냥 두고 보자니 미국에 완전히 밀리면서 AI 후진국이 될 가능성이 있어서다.

영국 파이낸셜타임스(FT)는 12일(현지시간) “중국 당국이 생성형 인공지능(AI)에 대한 규제를 두고 딜레마에 빠졌다”면서 “규제를 강화하자니 자국의 AI 역량과 기술 개발을 저해할 가능성이 있고, 풀자니 콘텐트 통제 등 기존의 검열 체제 등과 맞지 않기 때문”이라고 보도했다.

FT는 이어 “일단 중국의 인터넷 감시 기구인 국가인터넷정보판공실(網信辦·왕신판)이 이달 중 정보통신(IT) 기업이 생성형 AI 서비스를 출시하기 전에 당국으로부터 반드시 비준(허가)을 받도록 하는 내용을 골자로 하는 ‘생성형 AI 서비스 관리 규정’을 발표할 예정”이라고 밝혔다.

이러한 AI 서비스의 출시 전 허가제는 지난 4월 11일 공개했던 초안보다 훨씬 강화된 조치로, 당시 초안에는 AI 서비스 출시 후 10일 안(근무일 기준)에 담당 기관에 등록할 것을 규정했었다.

또한 지난 4월에 발표된 ‘생성형 AI 서비스 관리 규정’ 초안은 AI가 만든 콘텐트가 “사회주의 핵심 가치관을 구현해야 한다”며 “국가 정권을 전복하거나, 사회주의 제도를 뒤집거나, 국가 분열을 선동하고, 국가 통일을 파괴하며, 테러리즘·극단주의를 퍼뜨리거나 민족적 증오를 조장하는 등의 내용을 포함해서는 안 된다”고 규정했다.

이와 함께 생성형 AI 제품에 사용되는 사전 데이터는 “진실성, 정확성, 객관성 및 다양성을 보장할 수 있어야 한다”고 요구했다. 규정을 위반한 서비스 제공자는 인터넷 정보 당국에서 경고와 시정을 요구할 수 있으며, 수정을 거부하거나 상황이 엄중할 경우 서비스 중단을 요구할 수 있도록 했다. 이에 덧붙여 1만 위안(약 180만원) 이상 10만 위안(1800만원) 이하의 벌금을 부과할 수 있으며 범죄를 구성할 경우에는 형사책임을 추궁할 수 있도록 명시했다.

이와 관련해 FT는 중국 정부의 인터넷 심의에 정통한 관계자의 발언을 인용해 “만일 베이징이 AI가 만들어낸 정보를 완벽하게 통제하고 검열하겠다는 중국이 세계 최고 수준의 기술을 개발하고자 하는 욕망은 있으면서도, 오랜 검열 체제 또한 고수하기 위해 고군분투하고 있음을 보여준다”고 전했다. 그러면서 그는 “당국이 망설이고 있다”고 분위기를 전했다.

이를 두고 매트 시한 카네기 국제평화재단 연구원은 “중국 당국이 AI 리더십 유지와 정보 통제라는 공산당의 두 목표 사이에서 절충점을 찾아야 하는 첫 사례”라고 지적했다. 그는 자신의 트위터에 “생성형 AI 최종 규정 발표가 임박했다. 전체적으로는 초안보다는 덜 엄격할 것”이라고 예상했다.

그럼에도 “중국 당국은 AI모델을 만드는 기술그룹이 생성된 모든 콘텐트에 대해 전적으로 책임을 져야 한다고 규정하고 있다는 점에서 중국내 빅테크기업들이 마음껏 생성형 AI를 개발하는 데 상당히 주저하게 될 것”이라고 FT는 내다봤다.

실제로 올해 생성형 AI 서비스 문심일언(文心一言)을 출시한 인터넷 포털 바이두와 통의천문(通義千問)을 출시한 알리바바 등의 중국 기업은 자체 AI 서비스가 규정을 위반하지 않도록 하기 위해 수개월 동안 규제 당국과 접촉하고 있는 것으로 알려졌다.

헬렌 토너 미국 조지타운대 보안 및 신흥 기술센터 주임도 “이번 규정은 기업들로 하여금 자체 AI 구축에 더욱 신중하고 보수적이 될 것”이라며 “규정을 위반한 결과가 매우 엄중할 수 있기 때문”이라고 말했다. 그는 “기업이 통제할 수 없는 문제까지 책임을 질 수 있기 때문에 모델 공개를 꺼리게 할 것”이라고 전망했다.

이런 차원에서 홍콩의 사우스차이나모닝포스트(SCMP)도 “중국이 생성형 AI와 관련된 규제조항을 엄격하게 만들고 있는데, 이는 AI개발자가 족쇄를 차고 춤추는 법을 배우는 것이나 다름없다”고 평가한 것이다.

[3중 족쇄에 발목 잡힌 중국의 AI전쟁]

지난해 11월 미국이 생성형 AI를 출시하자, 중국도 이어서 이 시장에 뛰어 들었지만 곧바로 당국에 의해 차단당하는 일을 겪었다. 일본 경제지 닛케이 아시아가 지난 2월 23일(현지시간) 전하는 바에 따르면 “중국 관계 당국은 AI 기반 챗봇이 검열받지 않는 답변을 내놓을 수 있는 점 등을 우려해, 중국 내 주요 IT기업들에 챗GPT 서비스 제공을 금지했다”면서 “중국 최대 인터넷기업 텐센트(騰迅·텅쉰)와 전자상거래 기업 알리바바그룹의 핀테크 자회사 앤트그룹은 당국으로부터 자사 플랫폼에 챗GPT에 접속할 수 있는 서비스를 제공하지 말라는 지시를 받았다”고 전했다.

또 “이들을 포함해 중국 테크(기술)기업들은 챗GPT와 유사한 서비스를 출시할 경우 사전에 당국에 보고해야 한다”고 소식통은 덧붙였다.

이런 소동이 벌어진 것은, 중국내 빅테크 기업들이 중국판 챗GPT를 시험판으로 내놓자마자 중국 공산당의 심기를 거스르는 대답들이 생성되면서 문제를 일으켰기 때문이다. 지난 2월 12일 타이완뉴스가 보도한 바에 따르면, 지난 2월 3일 서비스를 개시한 챗위안은 우크라이나와 러시아 사이의 전쟁에 대해 ‘러시아가 우크라이나를 침략한 전쟁’이라고 답했다. 이는 지금까지 ‘러시아의 우크라이나 침공’이라는 표현을 최대한 삼갔던 중국 당국이 표방했던 입장과 반하는 답변이다.

챗위안은 이어 “양측의 군사력과 정치력 등이 동일 선상에 있지 않기 때문에 러시아의 일방적인 침략전쟁으로 간주된다”고까지 설명했다.

또 중국 경제 문제에 대해 묻자 챗위안은 “투자 부족, 주택 거품, 환경 오염, 사업 효율성 저하 등 중대한 문제가 있다”면서 중국 경제 전망에 대해 낙관의 여지가 없다고 답변했다. 이 역시 중국 당국의 분노를 일으킬만한 답변이었다. 상황이 이렇자 당국은 곧바로 서비스 중단을 요구했고, 결국 서비스를 차단하게 된 것이다.

그동안 AI는 미국이 선두에 서 있었지만, 중국은 방대한 데이터를 바탕으로 미국을 앞지르게 될 것이란 예측들이 나왔었다. 그러나 막상 생성형 AI시대가 본격 도래하면서 중국은 이 시장에서 결코 미국을 따라올 수 없을 것이라는 전망들이 속출하고 있다.

이유는 간단하다. 중국이라는 나라의 사회체제가 AI와는 맞지 않기 때문이다. ‘정부 검열, 반도체 제재, 자본 쏠림’이라는 3중 족쇄가 발목을 잡고 있어서다. 사실 중국 공산당이 원하는 검열의 수준을 맞추려면, 이는 창조형 AI가 아닌 ‘공산당 요구형 폐쇄적 AI’라고 부르는 것이 옳을 것이다. 기본적으로 공산당과 창조는 전혀 어울리지 않기 때문이다.

여기에 중국을 향한 반도체 제재는 AI 훈련에 필요한 전용 반도체(엔비디아 A100) 조달을 할 수 없게 만들면서 하드웨어적으로도 난관에 부딪치게 됐다. 중국의 자본 역시 당장 상업화 가능한 AI 프로젝트에 쏠려 있어 AI 생태계가 기형에 가깝다는 자조 섞인 비판도 나온다.

[마냥 통제할 수도 없는 중국의 딜레마]

문제는 중국 당국이 창조형AI를 지속적으로 통제할 수도 없고, 또 일단 한 번 문을 열게 되면 통제 자체가 쉽지 않다는 데 딜레마가 있다. 이미 중국내에서도 챗GPT를 포함한 창조형 AI들은 선도적인 기술로 인식하게 되었고, 중국내 빅테크들이 이에 대한 기술들을 일시 공개하면서 기대 또한 부풀고 있다.

창조형AI는 일반 대중 뿐 아니라 군사분야에서도 아주 중요한 미래의 일부로 인식되고 있다. 그래서 중국군 내에서도 이에 대한 기술개발 논의가 한창이다. 이에 대해 난징 육군사관학교의 마오 웨이하오 교수는 지난 4월 13일 해방군보에 “챗GPT는 평시에는 가치있는 정보를 수집하는데 유용하며, 전시에는 종합적인 전장 보고서를 생성하여 계획을 보다 효율적으로 수립할 수 있다는 점에서 매우 유용하다”고 평가했다.

특히 해방군보는 “인지전에서 챗GPT와 같은 도구를 사용하여 여론을 분석하고, 거짓 진술을 만들고, 인식을 조작하여 정부의 이미지를 손상시키거나 대중의 입장을 바꾸는데 효율적으로 사용할 수 있다”고 주장했다. 그만큼 중국의 군부에서도 이에 대한 관심도 높고 군사전술에 창조형AI 사용을 접목하고 있다는 의미다.

물론 AI분야야말로 시진핑 주석도 기술 경쟁에서 반드시 이겨야 한다고 강조했으니, 당연히 수단과 방법을 가리지 않고 창조형AI 분야의 기술개발에도 박차를 가할 것이다. 그래서 베이징시에서는 생성형 AI개발을 위해 116억원 가까이 지원하기로 결정도 했다.

그러나 분명한 것은 중국이 소셜미디어를 규제하는 방식으로 AI개발에 있어서도 민감한 키워드와 주제를 제한하게 될 것이다. 단순하게 시진핑 주석관련 민감어를 중심으로 당장 우크라이나 전쟁 등과 관련된 분야에서도 또 민감어가 추가될 것이다.

이에 대해 싱가포르 국립대학교 리콴유 공공정책대학원의 부교수인 알프레드 우는 SCMP에 “중국의 국가 안보는 정치, 경제, 사회 전선을 포함하여 그 범위가 넓지만, 중국이 가장 우려하는 것은 정권에 대한 도전”이라고 말했다.

그는 이어 “AI가 어떤 콘텐트를 만들어낼지 100% 확신할 수 있는 사람은 아무도 없다”면서 “중국 정부에게 최악의 상황은 사람들이 중국 정부의 판결에 반하는 콘텐트를 사용하는 것이다. 그래서 앞으로 더 많은 규칙과 규제가 나올 것으로 예상된다”고 말했다.

문제는 창조형AI가 인간이 만든 알고리즘을 뛰어넘을 수도 있다는 점이다. 그러한 AI를 중국 공산당이 과연 얼마나 통제할 수 있을지도 관건이다. 그야말로 창과 방패의 전쟁인데, 만약 중국 공산당이 이 전쟁에서 실패한다면, 중국 사회는 대요동을 칠 수도 있다는 점에서 그 다음 전쟁의 결과에 눈길이 쏠린다.