얼마 전 대전의 대표 서점 계룡문고와 함께 진행하는 독서클럽 ‘진격의 독서단’ 모임으로 계룡문고에 간 김에 두 권의 책을 업어 왔다. 《지능의 탄생》과 《슈퍼인텔리전스》다. 전자는 진화론적 관점에서 생물에게 뇌와 지능이 나타난 이유와 생물 지능의 본질을 탐구한다. 반면 《슈퍼 인텔리전스》는 지능의 모든 면에서 인간을 뛰어넘는 초지능 문제를 다룬다. 초지능이 무엇이며 어떤 경로로 탄생하는지, 그리고 무엇보다 인공 초지능이 탄생할 때 발생할 위험과 그에 대한 대비책 등을 다루고 있다.

후자를 쓴 닉 보스트롬은 세계적으로 잘 알려진 트랜스휴머니스트이다. 트랜스휴머니즘이란 과학기술을 활용하여 인간의 신체적 지적 능력을 강화하고, 나아가 아예 유전공학을 통해 증강된 신인류로 진화하는 것까지 긍정하는 사고체계다. 이런 ‘인간 향상주의’에 대해선 비판도 많다. 그들은 인간중심주의를 벗어나지 못할 뿐 아니라, 기술에 대한 지나친 낙관과 숭배 경향마저 나타내는데, 기술이 가진 양면성 즉 긍정성과 부정성에 대해서는 거의 관심이 없다는 비판을 받곤 한다.

닉 보스트롬은 2016년에 한국을 방문하기도 했다. 서울에서 열린 제7회 세계 전략포럼에서였다. 그때 그의 강연 주제가 바로 ‘초지능’이었다. 그는 ‘인간 수준’ 인공지능이 2050년경이면 가능할 것이고 100년 후 즈음엔 ‘초지능’이 출현할 것이라고 주장하였다. 그가 말하는 초지능(ASI·artificial super intelligence)은 강한 인공지능으로서 ‘자의식’을 포함하여 거의 모든 지적인 영역에서 인간보다 훨씬 똑똑한 인공지능을 말한다. 그는 그런 인공지능의 출현은 “호모 사피엔스 종이 처음 등장했을 때와 같은 대 사건이 될 것”이며, “미래가 인공지능으로 인해 유토피아가 될 것인지 디스토피아가 될 것인지에 대해 진지하게 고민해야 한다”고 주장했다. 한마디로 인간보다 더 똑똑한 기계에게 멸망당할 수도 있으니 지금부터 안전대책을 심각하게 논의해야 한다는 것이다. 초지능의 등장은 인류에겐 대재앙이 될 것이라는 ‘인공지능 위험론’이다.

과연 닉 보스트롬의 주장대로 인간처럼 ‘자의식’을 가진 기계의 등장이 가능할까? 사실 이에 대해선 아직 그 누구도 확신에 차서 “그렇다”고 말하긴 어렵다. 전혀 불가능하진 않다. 사실 가능하다고 단언하기도 어렵다. 아직까지 우리는 그 ‘지능’이라는 것이 정확하게 무엇을 뜻하는지 잘 알지 못하고 있기 때문이고, 특히 ‘의식’에 관해서 아직 인류는 거의 아는 것이 없기 때문이다. 지금 인공지능이 문제가 되는 것은 인류 역사상 최초로 지능과 의식이 ‘분리’되는 현상을 보고 있기 때문이다. 인간의 경우를 보더라도 의식과 지능을 사실 거의 분리하기 어렵다. 지능 진화와 의식 진화는 무척 깊은 상관관계가 있어 보인다. 하지만 요즘 보이는 소위 인공지능이란 기계들, 예를 들면 바둑기사 이세돌을 이긴 알파고 같은 경우에도 바둑에는 천재지만, 의식이 없기에 자신이 무얼 하고 있는지조차 모른다. 그런 지능을 과연 진짜 지능이라고 할 수 있을까? 지능과 의식은 무관하게 발달할 수 있는 것일까? 지능의 발달과 의식의 관계는 어떤 것인가? 이런 문제에 관해 아직 인류는 명료한 답을 갖고 있지 못하다. 닉 보스트롬 역시 이런 문제에 관해서는 아무런 답도 갖고 있지 못한 것은 물론이다

그런 관점에서 《지능의 탄생》이 우리에게 더 많은 걸 말해 주는 것 같다. 이 책은 지능에 대한 우리의 생각 자체를 재고해야 한다고 말한다. 지능은 문제를 푸는 능력이지만, 그렇다고 수리나 논리, 연산능력만을 가리키는 것이 아니다. 그는 생명체가 진화하는 과정에서 왜 뇌와 지능이 발생하게 되었는지를 진화의 관점에서 역추적함으로써 생명체와 지능의 관계에 대한 새로운 관점을 제시한다.

생명체가 풀어야 할 문제들은 단순한 논리 연산 문제가 아니다. 적대적인 생존환경에서 살아남고, 짝짓기를 하는 등 살아남기 위한 치열한 투쟁의 산물이다. 시시각각 변하는 환경 속에서 객관적인 정답이 없는 여러 복잡한 문제를 해결하기 위해 고안된 장치가 바로 뇌와 지능이다.

쉽게 말하면, 뇌는 유전자의 대리인이다. 본능적 욕구에 따른 행동지침은 유전적으로 프로그램 할 수 있지만, 척박하고 변화무쌍한 생존환경에 대처할 때 그런 경직된 프로그램만으론 부족하다. 상황은 매우 복잡하고 유동적이기 때문이다. 목표는 유전프로그램으로 지정되어 있지만, 유연한 상황대처능력과 선택 능력을 유전자의 대리인으로 진화시킨 뇌를 통해 해결하도록 한 것이다. 이것이 바로 생물들에게 뇌와 지능이 발생한 근본 이유다.

즉 지능은 “문제 상황에서 선택 가능한 행동들을 고려한 후 그중 가장 적합한 행동을 선택하는 의사결정 능력”이다. 이처럼 다양한 의사결정을 통해서 표현되는 지능의 본질을 이해하는 것이 바로 이 책의 목표다. 이 책에서는 바퀴벌레와 해파리, 예쁜꼬마선충, 그리고 인간의 안구에서 나타나는 행동들을 통해 지능의 다채로운 면모들을 보여 준다는 면에서도 무척 흥미롭다.

나는 지능에 관한 이런 개념이 무척 흥미롭고 지능에 관한 가장 정확한 정의라고 보고 싶다. 그러나 이 책에서도 의식과 지능의 관계가 어떤 것인지에 대해선 설명이 없다. 하긴 그 문제는 너무 어렵고 많은 시간이 필요할 것이다.

이 책의 논리에 따르면 지능은 생명체에게만 존재하는 어떤 것이다. 그렇다면, 인공지능을 장착한 로봇은 이런 지능을 가질 수 없을까? 복잡한 상황 속에서 독자적인 생존 투쟁을 벌이는 로봇. 여기엔 굉장한 딜레마가 있다. 만일 로봇이 이런 생물학적이고 독립적인 지능을 갖게 되면 인간의 대리인 역할을 요구하는 인간의 요구와 충돌하게 되는 상황이 오지 말란 법이 없다. 독립적인 정신을 가진다는 것, 그건 바로 인간으로부터 독립한다는 말이다. 우린 과연 그런 로봇을 필요로 하는가? 닉 보스트롬이 말하는 ‘자의식’을 가진 초지능이 만약 그런 ‘독립적인 정신’을 가리킨다면, 정말로 위험해질지도 모른다. 흔히 대중 SF영화들에서 자주 반복되는 레퍼토리처럼 인간 대 기계 간의 충돌과 전쟁이 전혀 불가능한 상상이 아닐 수도 있다.

그러나 아직 인공지능이나 로봇공학조차도 매우 초보적인 수준이다. 의식이란 것이 없이 인간처럼 다양한 선택과 판단 능력이 가능한 초지능을 가진 로봇이 등장할지도 모른다. 그 자체도 복잡한 문제를 일으킬 수 있다. 그러나 자의식이 없는 로봇이 그리 위험해 보이진 않는다. 문제는 지능보다는 의식이다. 기계가 자의식을 갖는 것이 과연 가능할까? 한 세기쯤 지나면 이 난해한 ‘의식’의 비밀이 완전히 규명될까? 그리고 나아가 그것을 기계에 구현하는 일도 가능해질까? 아직은 누구도 쉽게 답할 수 없는 문제이지만, 이번 세기 내내 바로 이 문제를 풀기 위해 인류는 엄청난 투자를 아끼지 않으리라는 것만은 확실하다.