인공지능

“우리는 절대 인간과 같은 지능을 지닌 인공지능을 만들 수 없다.”

진실: 이미 우리는 체스나 바둑 같은 게임, 주식 거래, 대화 등 여러 인간활동에서 인간과 유사하거나 인간을 뛰어넘는 능력을 지닌 인공지능을 만들어냈습니다. 뉴욕 대학의 심리학자 게리 마커스는 인공지능 분야에서 일하는 전문가들의 상당수가 언젠가 인공지능이 인류를 능가할 것이라고 전망한다는 사실을 밝혔습니다. 레이 커즈와일 역시 그러한 일이 몇십 년 안에 발생할 것이라 전망했습니다.

“인공지능은 의식을 지닐 것이다.”

진실: 인공지능이 의식을 지닐 것이다, 즉 인간처럼 생각할 것이라는 추측은 상당히 흔합니다. 그러나 마이크로소프트의 공동창업자인 폴 알렌은 우리가 아직 인간의 의식에 대한 정확한 이해에 도달하지 못했기 때문에 인공지능에 의식을 구현할 수 있을지는 미지수라고 봅니다. 더 나아가 임페리얼 칼리지 오브 런던의 인지로봇공학자 머레이 샤나한은 “의식은 대단히 흥미로운 주제이지만, 의식이 반드시 인간 수준의 인공지능에 필수적이리라고는 생각지 않습니다.” 라고 말했습니다. 의식이 인간의 다양한 심리적 및 인지적 측면을 반영하는 것이라면, 인공지능은 그러한 요소를 갖추지 못하고도 충분히 인간의 능력을 뛰어넘는 수준의 사고를 선보일 수 있다는 것입니다.

“인공지능을 두려워하지 말아야 한다.”

진실: 지난 1월, 페이스북 창립자 마크 주커버그는 우리가 인공지능을 두려워하지 말아야 한다고 얘기한 바 있습니다. 그의 말은 절반만 옳습니다. 물론 인공지능으로 인한 어마어마한 혜택을 부정할 수 없는 것도 사실이지만, 그들이 언제나 우리 기준에서 “선하게” 행동하리는 보장은 없습니다. 고도로 발달한 인공지능 시스템은 특정한 과업에 있어서는 완벽하겠지만, 그 외 문제에는 어처구니없을 정도로 신경을 기울이지 않습니다. 가령 딥마인드가 개발한 알파고는 바둑에 있어서는 뛰어날지 모르나 그 외 영역에 있어서는 전혀 자각이 없습니다. 이런 시스템 대부분이 안전에 대한 고려가 없는 것도 사실입니다.

“인공지능은 실수를 범하기엔 지나치게 똑똑하다.” 

진실: 옥스포드 대학에서 근무하는 피터 매킨타이어와 스튜어트 암스트롱은 인공지능이 단순히 프로그래밍에 묶여 있다는 주장에 동의하지 않습니다. 그들은 인공지능이 실수를 전혀 범하지 않을 정도로 똑똑하거나, 우리가 무엇을 기대하는지 이해하지 못할 정도로 멍청하다고 생각지 않습니다. 매킨타이어는 “특히 초인공지능이라면 실질적으로 모든 분야의 인간에 비해 똑똑할 것이며, 우리가 무얼 하려 하는지도 파악할 것입니다.”라고 말합니다.

“인공지능을 다루는 문제는 약간의 손질로도 해결할 수 있다.”

진실: 조지아 공과대학의 연구자들이 최근 간단한 이야기로 인공지능에게 인간의 가치와 사회적 합의를 가르칠 수 있다는 연구 결과를 내놓았지만, 실은 그렇게 간단한 문제가 아닙니다. 가령 단순히 소스코드에 사랑이나 존경과 같은 개념을 집어넣거나, 인간을 기쁘게 한다는 목표를 프로그래밍에 심는 등 여러 간단한 방법이 인공지능을 다루기 위한 “해결책”으로 등장했습니다. 암스트롱은 “물론 그처럼 단순한 방법이 전혀 쓸모가 없다는 얘기는 아닙니다만, 그러한 방법이 어떤 함의를 가져올지 충분히 탐구하고 개선하지 않고서는 적용하기 어렵습니다.”라고 말합니다.

“우리는 초인공지능(ASI, artificial superintelligence)에 의해 멸망할 것이다.”

진실: 사실 인공지능이 우리를 멸망시키거나, 그들을 조종하는 방법을 못 찾아낼 것이란 보장도 없습니다. 인공지능 이론가인 일라이저 유드코프스키는 “인공지능은 당신을 싫어하지도, 사랑하지도 않겠지만, 아마 인공지능이 뭔가의 목적에 이용할 수 있는 원자들로 구성되어 있다는 사실만은 분명하지요.”라고 말합니다. 매킨타이어는 초인공지능이 지닐 수 있는 대부분의 목적을 감안할 때, 인간이 그 청사진에서 빠질 이유는 충분하다고 언급합니다. 그러나 실질적으로 아무 것도 증명되지 않았기에, 인공지능이 어떤 식으로 인간성을 말살할지는 아무도 확신할 수 없습니다. 엘론 머스크는 한 가지 대안으로 인공지능끼리 서로를 조종하고 감시하는 방안도 내놓았습니다.

“초인공지능은 인간에게 친절할 것이다.”

진실: 암스트롱은 “똑똑한 인간이 비도덕적인 일을 벌일 경우 더 큰 해악을 범할 수 있지요. 지능이 인공지능을 더 선하게 바꿀 거라는 보장도 없고요.”라고 말합니다. 매킨타이어도 지적했듯, 어떤 대상이 목표를 실현할 수 있는 능력은 그 목표가 이룰 만한 것이냐 아니냐의 여부는 아닙니다. “단순히 운에 의지하는 건 우리의 미래를 결정할 수도 있는 뭔가를 상대할 만한 좋은 방침은 아니겠죠.”

“인공지능과 로보틱스의 위험성은 동일하다.”

진실: 이것은 흔히 벌어지는 혼동으로, 아마 터미네이터 영화의 영향이 크리라 생각됩니다. 만일 스카이넷과 같은 인공지능이 인간을 말살하려 한다면, 총을 든 안드로이드를 활용하지는 않을 것입니다. 차라리 생물학적 전염병이나 대기를 파괴하는 편이 쉽겠죠. 인공지능은 로보틱스의 미래에 영향을 미치기 때문이 아니라, 어떤 식으로 세상에 그 존재를 내비칠지 모르기 때문에 두려운 것입니다.

“과학소설에 등장하는 인공지능은 정확한 미래상이다.”

진실: 물론 과학소설의 작가들이 지난 몇 세기에 걸쳐 환상적인 예측을 해온 건 사실이지만 과연 누가 알겠습니까? 독자를 즐겁게 하기 위한 목적으로, 과학소설에 등장하는 인공지능은 대개 우리와 유사합니다. “그러나 마음의 형태는 폭이 넓습니다. 심지어 인간들 사이에서도, 당신은 당신의 이웃들과 상당히 다른데, 이 정도 수준의 차이는 존재가능한 모든 형태의 마음에 댈 것도 안 됩니다.” 매킨타이어는 말합니다. 대부분의 과학소설은 근사한 이야기를 선보이는 게 목적이지, 과학적으로 정확하게 쓰는 것이 목적은 아닙니다.

“인공지능이 우리의 직업을 앗아갈 것이다.”

진실: 인공지능이 자동화된 직업의 상당수를 대체할 수 있는 능력을 지니고 있다는 사실과, 그것 때문에 인간 문명을 멸망시키리라는 전망은 완전히 다른 것입니다. 그러나 마틴 포드에 따르면 인공지능이 일자리를 없애버리리란 해석은 상당히 과장된 경향이 있습니다. 물론 지금 존재하는 특정한 일자리를 인공지능이 대체할 것이라는 사실은 의심의 여지가 없습니다. 옥스포드 대학의 학자들이 현존하는 미국 내 702 종의 일자리를 분석한 결과 그들 중 절반이 사라질 것이라고 합니다. 그럼에도 우리가 이러한 문제를 해결하지 못하리라는 단정을 짓기에는 이릅니다.