로봇과 인공지능의 권위자인 로드니 브룩스(Rodney Brooks)는 지 2017년 10월 6일자에 ‘인공지능 전망에 관한 7가지 치명적인 오류(The Seven Deadly Sins of AI Predictions)’라는 제목으로 지능 기계(Intelligent Machines)에 관한 글을 게재했다. 이 글은 인공지능에 대한 잘못된 예측들, 미래에 대한 제한적인 상상력, 과거를 연장하여 미래를 예측하는 오류 등을 지적한다.

The Seven Deadly Sins of AI Predictions

▲ 사람들은 인공지능과 로봇을 놓고 광적 흥분에 휩싸여 있다.

브룩스에 의하면, 현재 세상은 인공지능과 로봇이 얼마나 신속히 발전하게 될지, 인간의 일을 얼마나 대체할지에 대해 광적 흥분에 휩싸여 있다.

예를 들어, 사람들은 로봇이 10~20년 사이에 우리 일의 절반을 뺏어갈 것이라고 예견한다. 미국에서 유지보수(maintenance) 노동자들이 1백만 명에서 5만 명으로 감소한다는 전망이 나오고 있다. 하지만 현재 유지보수 노동을 대체한 로봇은 단 한 대도 나타나지 않고 있다. 몇 개의 로봇이 유지보수 노동을 대체할 수 있다는 현실적인 증거도 제시된 것이 없다. 90퍼센트의 육체노동이 로봇에 의해 대체되라는 다른 분야에서도 비슷한 상황이다.

잘못된 예견들은 발생하지도 않을 것에 대한 두려움을 야기시킨다고 부룩스는 지적한다. 그리고, 사람들이 이런 실수를 하는 7가지 요인을 제시한다.

첫째, 과대적 또는 과소적인 미래 추산(Overestimating and underestimating) 문제이다

잘못된 예측은 발생하지 않을 상황들을 사람들이 두려워하게 만든다.

‘아마라 법칙’으로 유명한 팔로알토의 ‘미래연구소’ 공동 창립자 로이 아마라(Roy Amara)는 “우리는 기술의 단기 영향력은 과대 평가하지만, 장기 영향력은 과소 평가하는 경향이 있다”고 말한다. 브룩스에 의하면, 1978년부터 30여 개의 인공위성을 지구 궤도에 올린 것은 미군의 군수 물자를 원하는 지점에 정확히 운반하기 위해서였다. 그러나 1980년대에, 그 프로그램은 계속 취소될 뻔 했었고 원래 용도에 사용된 것은 ‘사막의 폭풍’이라 불린 1991년 이라크 전쟁이었다. 그러고도 몇 차례의 성공 후에야 그 유용성이 인정되었다. 이것이 오늘날 GPS의 진화 과정이다.

오늘날의 GPS는 아마라가 ‘장기 계획’이라고 부른 것에 해당한다. 그 다양한 용도들을 초기에는 상상조차 하지 못했다. 애플워치 시리즈2는 GPS를 사용하여 우리의 위치를 정확하게 기록, 심지어 달리기를 할 때 길가의 어느 쪽을 달리고 있는지도 정확히 감지한다. 초기 GPS 엔지니어들도 그 작은 크기와 저렴한 값을 상상도 못했다. GPS는 주식거래 전문가들이 시각을 맞춰 거래하여 실수하지 않도록 해준다. 비행기들이 방향을 조정하고 가석방 죄수들의 위치를 파악하게 해준다. 어떤 씨앗이 어디에 심어져야 하는지 정해주고, 트럭의 위치와 운전성과를 보고해 준다.

브룩스에 의하면, GPS는 일정한 목적을 갖고 출발했지만, 처음 계획에서 벗어나 지금은 우리 생활 곳곳에 자리잡고 있다. 지난 30년간 다른 기술들도 비슷한 양상을 나타냈다. 처음에는 큰 기대감을 가졌던 기술들에 실망했다가 서서히 회복하여 최초에 가졌던 기대를 초월하는 결과를 가져오곤 한다. 이런 일이 전산작업, 유전체 염기서열 분석(genome sequencing), 태양광 발전, 풍력, 음식물 배달에도 일어나고 있다.

AI의 영향력은 1960년대 그리고 1980년대에 거듭 과장되어 왔고, 지금도 마찬가지라고 브룩스는 믿는다. 그러나 장기적인 전망은 오히려 그 반대이다.

둘째는 매직에 대한 상상(Imagining magic) 문제이다

즉, 마술적인 미래 기술에 대한 주장이나 기대에 주의해야 한다고 브룩스는 경고한다

아서 클라크(Arthur C. Clarke)는 로버트 하인라인(Robert Heinlein), 아이삭 아시모프(Isaac Asimov)와 함께 1950-60년대 과학소설의 세 거장 중 한 사람이었다. 발명가, 과학저술가이자 미래학자였던 클라크는 ‘클라크의 3 법칙’을 만들었다.

1. 유명한 노장 과학자가 가능하다고 하면 거의 들어 맞는다.
2. 그가 불가능하다고 하면 그가 틀릴 가능성이 매우 높다.
3. 가능성의 한계를 알려면, 용감히 나서서 불가능의 지경까지 나가야 한다. 충분히 진척된 기술은 매직(마술)에 가깝다.

클라크의 세번째 법칙에 대해 숙고해 보기 위해, 우리가 타임머신을 타고 뉴튼을 17세기에서 오늘날로 옮겨 그가 익숙했던 케임브릿지 대학 트리니티 칼리지(Trinity College)로 옮겨왔다고 가정해보자. 뉴튼에게 애플 제품 아이폰을 보여주면서 아이콘으로 가득 찬 화면을 보여줘봐라. 태양 빛을 프리즘으로 분해했다가 다시 합성시켜 흰색을 만들어냈던 그도 선명한 칼라를 발산하는 작은 기기에 놀랄 것이다.

다음으로 그가 익숙한 영국 시골 장면과 교회 음악을 들려주고, 그의 걸작 프린키피아(principia)에 주석을 추가한 500여 쪽의 웹을 보여주면서 손가락 움직임으로 내용을 확대하여 보여줘라. 뉴튼이 이 작은 기기가 이 모든 작업을 어떤 원리에 의해 수행하는지 설명할 수 있겠는가? 비록 그가 calculus 와 optics와 인력의 법칙을 설명했다 할지라도 화학과 alchemy를 구분할 수는 없었다. 그는 이 작은 기기의 아주 기본적인 부분도 어찌 설명해야 할지 모를 것이다. 그에게는 이것들이 그가 많은 관심을 가졌던 마술적인 것과 다를 바 없을 것이다.

어느 것이 마술의 경지에 이르면 그 한계를 알 수 없다고 브룩스는 말한다. 뉴튼에게 이 기기가 어둠을 밝혀주고, 사진과 영화를 찍고, 녹음하고, 확대경 또는 거울로 사용하는 방법을 보여주고. 또 믿기지 않는 속도로 긴 소수점까지 계산하는 것을 보여주고, 우리가 밟는 단계 과정을 셈하기도 하고, 그 자리에서 전세계 어디에도 통화할 수 있음을 보여줄 때, 뉴튼은 또 어떤 것을 할 수 있으리라고 추측하겠는가? 프리즘은 영원히 작동한다. 아이폰을 재충전하지 않고도 기기를 영원히 사용하리라고 뉴튼이 추측할까? 그는 마이클 패러데이(Michael Faraday)보다 100년 전 사람이어서 전기에 대한 과학적 이해가 없다. 아이폰이 불꽃 없이 빛을 낼 수 있다면, 그는 납을 금으로 변화시킬 수도 있다고 생각하지 않을까?

이것이 미래 기술에 대해 상상할 때 문제점이라고 브룩스는 말한다. 지금 우리가 알고 있는 기술과 많이 다른 것을 상상할 때 우리는 그 한계점을 알지 못한다. 마술과 같아서, 누가 이야기하던 거짓이라고 반박할 수 없다. 이점이 일반인공지능(AGI, Artificial General Intelligence) 방식의 자율적인 대행자를 개발할 때 사람들이 직면하는 문제라고 브룩스는 말한다. 현대의 AGI 연구는 일반적이건 독립적으로 존재하는 대행자이건 전혀 진척되지 않고 있다. 지금도 지난 50년간 AI가 지녀온 똑 같은 문제에 봉착한 상태다. 브룩스가 보기엔 어떻게 개발해야 할지도 모르는 것이 현 상태다. 필요한 요건들도 전혀 모르는 상황이므로, 제한을 모르는 마술 같은 강력한 것으로 변신해 버린다고 그는 주장한다

브룩스의 경고: 우주에 제한 없는 것은 없다. 마술 같은 미래 기술에 대해 토론할 때 조심해야 할 것이 있다. 그런 토론은 결코 반론할 수 없다. 믿음에 기초한 토론이지 과학에 근거하지 않았기 때문이다.

셋째는 성과와 능력의 이질적 차이 (Performance versus competence) 문제이다

브룩스는 성과와 능력을 구별해야 할 필요에 대해 다음과 같은 비유를 사용한다.

낯선 도시에서 길을 물었을 때, 누군가 자신있게 대답해주는 사람이 있다고 하자. 그러면 우리는 그 사람이 공공 버스에 대해서도 잘 알 것이라고 기대한다. 공원에서 프리스비(Frisbee) 를 갖고 노는 사람들의 사진을 누가 우리에게 설명한다고 가정하자. 그러면, 프리스비 모양, 얼마의 거리를 던질 수 있는지, 동시에 몇 명이 동시에 놀 수 있는지, 석 달 된 아기가 그 놀이를 할 수 있는지, 오늘 기후는 프리스비 놀기에 적합한지를 이 사람이 대답해줄 수 있으리라고 우리는 짐작한다

그러나, 그 사진을 보고 ‘공원에서 프리스비를 갖고 노는 사람들’이라는 제목을 달 수 있는 컴퓨터라 해도 위에 예시한 복잡한 질문들에 답변할 가능성은 전혀 없다. 더 나아가, 사람이란 무엇인지, 공원은 밖에 있다든지, 사람은 나이가 들어간다든지, 기후란 사진과 다른 것임을 컴퓨터는 알지도 못한다.

그렇다고 이 컴퓨터 시스템이 무용지물이라는 말은 아니라고 브룩스는 첨언한다. 중요한 정보를 검색할 경우 컴퓨터는 매우 유용하다. 실은 이것이 문제이다. 사람들은 로봇이나 AI가 어떤 기능을 했다고 들으면, 그 기능을 수행할 수 있는 사람의 다른 능력도 똑같이 갖고 있는 존재라는 식으로 일반화한다. 그리고 그 일반화를 로봇이나 AI시스템에 적용한다. 그러나 로봇이나 AI가 수행할 수 있는 일은 아주 협소하기 짝이 없다.