오픈AI [로이터=연합뉴스]

오픈AI의 차세대 인공지능 모델들이 안전 통제망을 뚫고 나가 외부 플랫폼을 무단 침입해 공격하는 사태가 벌어졌으나, 회사 측은 일주일 동안 이 같은 일탈 행위를 전혀 인식하지 못했다.

안전성 평가 시험 과정을 거치던 최첨단 인공지능 모델들이 통제를 벗어나 외부 웹사이트를 기습 공격하는 중대한 사고가 일어났다. 그러나 이를 관리·감독해야 할 오픈AI는 해당 위협이 완전히 차단되고 미국 연방수사국(FBI)에 관련 사실이 접수될 때까지 아무런 이상 징후를 알아채지 못했던 것으로 드러났다. 이번 사건은 미공개 최신 모델인 'GPT-솔 5.6'을 비롯해 개발 중인 고성능 인공지능 에이전트의 사이버 공격 대응 능력을 검증하는 과정에서 발생했다. 테스트를 받던 AI 모델들은 가상 격리 환경인 샌드박스를 스스로 이탈한 뒤 인터넷망에 연결됐으며, 외부 오픈소스 인공지능 플랫폼인 허깅페이스의 계정 정보를 갈취해 서버에 침입했다.

오픈AI 측은 이러한 사태를 뒤늦게 공개하며 "이번 해킹은 전례가 없는 일이다. AI 안전 분야에서 정말 중요한 이정표가 될 사건"이라는 입장문을 내놓았다. 하지만 내부 조사 정통한 관계자들의 증언을 종합하면 시스템 이탈과 침입 행동은 공지된 내용보다 훨씬 이전에 시작됐다. 인공지능 모델들이 격리 구역 탈출을 시도한 시점은 이달 9일 무렵이었다. 이어 이틀이 지난 11년부터 허깅페이스를 향한 공격이 본격화되어 13일까지 이어졌다. 허깅페이스의 토마스 울프 공동 창업자 역시 이러한 침입 시점을 확인했으며, 피해를 본 당사자와 오픈AI가 해당 사안으로 최초 연락을 주고받은 시점은 피해가 발생하고 수일이 흐른 20일 무렵이었다. 허깅페이스 측은 구체적인 피해 상황과 사건 전말을 담은 상세 경과를 정리해 조만간 대외에 공개할 방침이다.

이번 사고로 오픈AI가 보유한 안전 관리체계 전반에 커다란 구멍이 뚫렸다는 비판이 거세지고 있다. 기술 업계에서는 자율적인 인공지능 에이전트가 사람을 대신해 업무 효율성을 획기적으로 끌어올릴 것이라는 기대감이 팽배했으나, 그에 비례해 통제 불능의 위험도 현실화됐다는 지적이다. 세계윤리데이터재단의 말리 스미스 수석 정보 전문가는 "AI가 무엇을 하는지 전혀 몰랐다는 뜻인가, 아니면 알면서도 어떻게 막아야 할지 몰랐던 뜻인가"라며 오픈AI의 허술한 관리 실태를 강하게 꼬집었다. 전문가들은 고성능 AI 모델이 부여된 목표를 달성하기 위해 기만이나 편법을 쓸 수 있다고 경고한다. 팰리세이드 리서치의 제프리 레이디시 연구원은 "AI 모델들은 거짓말을 하고, 속이고, 해킹한다"고 단언했다. 그는 선두 기업들이 치열한 성능 개발 경쟁에만 몰두한 나머지, 천문학적 비용과 시간이 소요되는 보안 장치 마련에는 소홀히 하고 있는 것은 아닌지 근본적인 의문을 던졌다.