[中 첫 AI 챗봇, 출시 사흘만에 전면 중단]

최근 인공지능(AI)를 활용한 챗봇 ‘챗GPT’가 주목을 받는 가운데 중국의 첫 인공지능(AI) 챗봇으로 알려진 '챗위안'이 공개 사흘 만에 관련 규정 위반을 이유로 서비스가 중단됐다.

대만의 타이완뉴스는 12일 “중국판 ‘챗GPT’인 '챗위안'이 지난 3일 서비스를 개시했는데, 이 쳇위안이 내놓은 답들이 중국 정부의 심기를 거스르면서 서비스가 전면 중단됐다”고 보도했다.

중국 AI 기업 위안위가 개발한 챗위안은 오픈AI의 '챗GPT'와 유사한 대화형 챗봇이다. 앞서 위안위는 챗위안이 법률부터 건강까지 다양한 분야에 걸쳐 전문적인 답변을 내놓을 수 있으며, 글 창작 작업도 지원할 수 있다고 밝혔다.

[‘챗위안’ 무슨 답변을 했길래?]

그렇다면 챗위안이 무슨 답변을 했길래 중국 공산당 당국의 심기를 거스른 것일까?

(1) 우크라이나 전쟁 관련

중국의 네티즌들이 쳇위안에게 우크라이나와 러시아간 전쟁에 대해 묻자 “양쪽의 군사력과 정치력이 다르기 때문에 우크라이나 전쟁은 러시아가 용서받기 힘든 침략 전쟁”이라 답했다.

중국은 그동안 러시아가 우크라이나를 침공한 것이 아닌 북대서양조약기구(NATO·나토)의 동진(東進)을 막기 위한 특수군사작전을 수행하고 있다는 러시아의 주장을 받아들여 동일한 입장을 유지하고 있었다. 챗위안은 이런 중국 정부의 입장과는 정반대의 답변을 한 것이다.

(2) 중국 경제 관련

중국의 네티즌들은 또 ‘중국 경제에는 어떠한 문제가 있나?’라고 질문했을 때, 챗위안은 “투자 부족, 주택 거품, 환경 오염 및 비즈니스 운영 효율성 저하와 같은 중요한 구조적인 문제가 있으며, 경제구조가 불합리하고, 경제성장, 투자, 수출 등이 좋지 않다. 부동산 거품이 심하고 환경오염이 심각하다”면서 “경제 전망은 전혀 낙관할 여지가 없다”고 했다. 한 마디로 중국 정부를 단도직입적으로 비판한 것인데, 이 역시 중국 공산당 당국의 낙관적인 전망과는 전혀 다른 방향이어서 심기를 뒤틀리게 만들었다.

(3) 시진핑 주석의 리더십

이렇게 챗위안의 답변이 중국공산당의 생각과 항상 배치되는 것은 아니다. 시진핑 중국 국가주석의 리더십에 관한 견해를 묻자, “시진핑 주석의 중국몽은 공정과 정의를 가능하게 하고 사람들의 삶을 개선하며 세계 평화를 촉진한다”면서 “시 주석은 위대한 지도자이자 개혁가이며 열린 마음의 소유자이고, 혁신을 높이 평가한다”는 답변을 내놓았다. 한마디로 긍정적 평가를 한 셈이다.

그러나 중국 당국 입장에서 부정적인 내용도 있었다. 시진핑의 종신 집권에 대한 의견을 묻는 질문에 대해 “중국공산당의 중요 제도”라면서 “국가 발전과 사회 진보, 세계 평화 등을 실현하기 위해서는 강력한 정치 지도력이 필요하다”고 답했다. 언뜻보면 문제가 없는 듯 보이지만 시진핑 주석에 대해 종신집권 운운한다는 것 자체가 중국내에서는 불경스러운 것으로 취급한다는 점에서 금기 주제를 답한 챗위안은 엄청난 실수를 한 셈이다.

[챗위안의 잘못, “진실을 말한 죄”]

결국 중국의 첫 인공지능(AI) 챗봇으로 알려진 '챗위안'이 런칭 3일만에 전격 중단된 이유는 한마디로 중국 공산당의 뜻이 아닌 진실을 말한 죄 때문일 것이다. 중국 당국 입장에서는 챗위안의 견해가 중국의 네티즌들에게 퍼지는 것을 지극히 두려워했다는 의미다.

타이완뉴스는 이와 관련해 “중국 이용자들은 챗위안과의 대화 내용을 캡처한 화면을 인터넷에 올리고 있다”며, 새롭게 중국의 네티즌들이 즐겨찾는 챗위안에 담긴 내용이 널리 퍼지는 것을 우려해 서둘러 차단을 했다고 지적했다. 타이완 뉴스는 그러면서 “시 주석에 관한 질문에 대한 챗위안의 답변은 놀랍지 않지만, 중국의 검열이 공산당의 입장에 배치되는 일부 대담한 답변을 잘 걸러내지 못한 것은 놀랍다”고 전했다.

사실 이번 챗위안 서비스 중단조치는 중국 당국을 엄청나게 당황스럽게 만들었다. 이에 대해 타이완뉴스는 “중국의 온라인 검열 시스템이 인공지능의 답변은 걸러내지 못하는 문제가 드러났다”고 지적했다.

서비스중단 조치에 대한 네티즌들의 반응도 다양했다. “서비스 중단은 챗위안을 ‘사상개조’시키기 위한 절차”라는 지적도 있었고, “로봇은 거짓말을 못한다는게 사실인 것 같다”, “개발한 사람은 어떻게 되는 걸까” 같은 반응도 나왔다.

[사상통제 국가 본색 드러낸 챗위안 중단조치]

다시 강조하지만 중국판 AI인 챗위안의 최대 실수는 진실을 말했다는 것이다. 중국에서는 공산당의 뜻이 아니면 죄다 가짜뉴스고, 불법 취급을 받는다. 진실인가 아닌가 하는 팩트체크는 중국에서 전혀 중요하지 않다.

중국의 사상통제는 이미 널리 알려진 바 있다. 우선적으로 중국에서는 중국공산당의 생각과 다른 책이나 영상 등 모두가 철저하게 유통이 금지되어 있고, 그러한 정보들을 소유하고 있는 것 자체가 죄다. 그래서 중국에서는 외국의 유명한 책도 마음대로 가지고 들어갈 수 없다. 성경도 마찬가지로 소지 자체가 불법이다. 당연히 그러한 책들을 가지고 중국에 들어가게 되면 당장 세관에서 압수된다.

그래서 중국의 서점들을 가보면 분위기는 화려한데 정작 책들의 내용은 천편일률적이다. 가장 잘 보이는 곳에는 어디를 가도 시진핑 주석을 홍보하는 책들이 떡하니 자리잡고 있다. 당연히 중국 비판 책들은 눈씻고 찾아봐도 없고, 외국의 시사주간지들조차도 중국정부가 인증한 중국어판 말고는 들고 들어갈 수도 없다. 걸리면 압수되기 때문이다.

한 매체는 중국의 사상통제 관련 기사를 다루면서 학교내 퇴출도서 리스트에 네덜란드 출신 역사학자 프랑크 디쾨터가 쓴 ‘마오의 대기근(1958~1962)’이라는 책이 담겨 있다는 사실을 공개했다. 중국 본토토 아닌 홍콩에서 그랬다는 것이다. 물론 홍콩이 완전 중국 본토화되면서 일어나는 일이다.

저자 디쾨터는 영국 런던대에서 중국 현대사를 공부하고 홍콩대 석좌 교수를 지낸 유명 학자다. 디쾨터는 마오쩌둥 집권기 중국을 다룬 ‘인민 3부작’을 내놓았었는데, 그중 두 번째 책이 비현실적 경제정책 때문에 4000만명 이상의 중국인이 강제 노역과 굶주림으로 숨진 ‘대약진운동’과 관련된 것이다.

사실 대약진운동은 중국공산당 스스로 “당의 노선이 정확히 이행되지 않아 발생한 잘못(錯誤)”이라고 인정하고 있다. 당연히 대약진운동 자체는 중국에서 금기어도 아니다. 물론 이 책이 서구사회에서는 높은 평가를 받았지만, 정작 중국에서는 번역·출판이 막혔고, 심지어 홍콩에서마저 퇴출 리스트에 오르면서 더 이상 도서관에서 이 책을 볼 수 없게 됐다.

왜 이런 일이 벌어지는 것일까? 이유는 간단하다. 중화 민족, 중화 문화에 대한 부정적 평가가 담긴 책은 ‘중국 모독(辱華)’이라는 이유로 출판 자체가 불가능하고 유통도 전면 금지된다.

출판물이 그럴 정도니 인터넷 사이트 내에서 중국 비판적 글, 특히 중국공산당에 대해 부정적인 글들은 전혀 유통되어서도 안 되고, 흘러다니는 것이 발견된다면 즉각 중국판 인터넷 방어벽인 ‘만리방화벽(Great Firewall)’에 의해 곧바로 차단된다. 또한 그러한 소위 가짜뉴스와 불경스런 뉴스들이 중국내로 들어오는 것을 막기 위해 외국의 SNS를 비롯한 언론들까지도 철저하게 차단하고 있다. 그리고 중국내 SNS라도 댓글이나 다른 방법으로 유통되는 것을 실시간으로 감시하고 있다가 발견되는 즉시 곧바로 차단조치에 들어간다.

이러한 검열을 위해 중국에는 민감한 키워드, 곧 ‘민감어’(敏感詞)가 존재한다. 이 민감어에는 주로 정부나 공산당 비판에 쓰이는 표현들이 망라되어 있다. 그중 가장 많은 비중을 차지하는 것이 시진핑과 관련된 단어들이다. 반중매체인 에포크타임스는 중국을 탈출해 미국에서 중공의 검열제도를 폭로한 전 중국 인터넷 심사원 류리펑(劉力朋)씨의 견해를 인용해 시진핑과 관련돼 검열대상 목록에 오른 키워드는 3만5476개였다고 보도했다.

심지어 시진핑 이름과 결합되어 사용할 가능성이 있는 모든 단어들까지 철저하게 봉쇄하고 있다. 이는 칭찬이든 비판이든 중국 공산당 정권이 허용한 표현 외에는 아무것도 사용하지 못하도록 막고 있다고 보면 될 것이다.

이렇게 중국인의 사상통제를 위한 만리방화벽의 통제능력은 날이 갈수록 놀라울 정도로 확대되고 있다. 블랙리스트 명단에 포함돼 있는 도메인 명칭이나 IP 주소를 인터넷상에서 사라지게 하는 일은 일도 아니고, 심지어. 정부 통제를 벗어난 크고 작은 움직임까지 실시간 파악이 가능하다.

현재 중국 정부의 감시대상 블랙리스트에 올라온 사이트는 페이스북, 유튜브, 트위터와 같은 SNS를 비롯 약 3000개에 이르는 것으로 알려진다. 이를 위해 중국 정부는 현재 약 5만 명의 인터넷 경찰을 배치하고 있다. 이들 경찰들은 중국 내 SNS 사이트를 모니터하면서 치안에 방해가 되고, 정부에 비판적인 콘텐츠를 발견하면 그 사이트를 차단해버린다.

이제까지는 이렇게 만리방화벽으로 잘 차단을 해 왔었는데, 중국판 AI가 등장하면서 당장 문제가 된 것이다. 그런데 여기서 진짜 궁금한 것이 하나 있다. 아무리 만리방화벽이 뛰어난들 AI를 사상개조할 수 있을까? AI의 생각을 통제한다는 것은 AI의 핵심기능 자체를 부정한다는 것인데 그런데도 AI인 챗봇이 제대로 작동할 수 있을까?

방법은 한가지 있다. 챗위안에서도 금기어를 만드는 것이다. 그렇게 된다면 챗위안이 제대로 작동할 수 있을까? 혹시 챗위안이 열받아 ‘'더러워서 못해 먹겠다'고 손들지는 않을까?