이제 인공지능이 3번 이겼고, 이세돌 9단이 1번 이겼다. 마지막도 이세돌 9단이 승리하길 빌지만 그래도 종합 승부에서는 인공지능이 우세하다. 이 글을 볼 때쯤이면 여러분도 무수하게 많은 인공지능 기사를 봤었을 거고, 이미 바둑과 인공지능에 대해서는 권위자가 되어 있으리라 믿는다. 만약 기본 지식이 부족하다면 다음의 글을 읽어보길 권한다. 

- 알파고는 정말 실수한걸까? : /news/photo/old/11233
- 알파고의 떡수는 곧 사망선고다: 알파고에 대한 인공지능적 고찰 : http://slownews.kr/52270

사실 이번 바둑 경기는 정상적으로 승부를 가리는 대회가 아니다. 인공지능이 어느 정도 발전했는지 시험해 보는 실험성격이 강하다. 따라서 정상적인 룰은 중요치 않다. 인공지능의 모든 기술과 방법을 동원해서 인간에 도전하는 실험 경기이기 때문이다. 이 대회를 인간대표와 로봇대표가 인류의 생존을 가지고 겨루는 바둑대회로 만드는 것은 옳지 않다. 그러나 어느새 이 승부는 그런 비장한 대결로 변질됐다. 이렇게 된 이유는 여러가지가 있겠지만 구글의 마케팅쇼가 됐든, 미디어의 호들갑이 됐든, 확대해석은 경계하고 싶다.


 

왜 두려운 걸까?

사실 인류와 기계의 싸움은 상대가 될 수 없다. 계산기와 암산 대결을 펼치거나 자동차와 달리기를 하는 것과 마찬가지다. 한 기능에 특화되어 설계되어 모든 자원이 집중된 기계와 환경적 진화와 퇴화를 거듭해서 생존에 최적화된 인간이 특화된 한 분야에서 싸워서 이기기는 힘들다. 그럼에도 불구하고 이번 바둑대국 패배에 대한 인류의 충격은 기존보다 더 심하다. 
그 두려움을 느끼는 이유는 우리가 한번쯤 들어봤을 '특이점(singularity)'이 왔다는 위기감이다. 기계가 인간을 초월하는 순간을 뜻하는데, 대부분의 SF영화들, 즉, 매트릭스, 터미네이터 등은 특이점이 지난 세계의 종말론을 그리고 있다. 다만 미래학자인 레이 커즈와일의 '특이점이 온다'라는 책을 보면 비교적 희망적인 미래를 그리기도 한다. 레이 커즈와일의 책은 너무 어렵고 너무 두껍다. 반면 터미네이터는 재미있고 짧다. 당연히 터미네이터의 이야기가 우리에게 더 유명할 수 밖에 없다. 
불쾌감을 느끼는 이유 중에 또 하나는 언캐니 밸리(uncanny valley) 이론이다. 로봇이나 피조물이 인간을 너무 닮거나 유사할 수록 불쾌감을 느낀다는 이론이다. 이번에 바둑을 둔 인공지능은 외형적으로 인간과 닮지 않았다. 그냥 거대한 슈퍼컴퓨터와 병렬로 연결된 클라우드 컴퓨터다. 문제는 지능이다. 만약 우리가 이번 바둑대회 결과에 기분이 나쁘다면 인간 고유의 사고 영역에 인공지능이 근접했다는 불쾌감이다. 감정이 없는 기계가 지능만은 인간에 접근하다니! 정말 끔찍해 보인다. 조만간 그들이 무표정한 얼굴로 인간을 배터리로 쓸 것만 같다. 부디 착탈식 설계로 해주길 바랄 뿐이다.  

 

바둑은 정말 인간의 고유 영역일까?

그런데, '바둑'이 정말 기계가 따라올 수 없는 인간의 고유영역이었을까? 내 생각은 그렇지 않다. 
우리는 흔히 언어의 착각 때문에 중대한 오류를 범한다. 바둑에서 흔히 쓰이는 '형세'나 '판단'이라는 바둑 용어는 마치 직관이나 상상, 자유의지를 뜻하는 것처럼 보인다. 그러나 바둑은 상상에 의존한 게임이 아니다. 룰이 있고, 경우의 수가 있으며, 법칙이 존재한다. 정밀한 수읽기를 통해 많은 집을 차지하면 이기는 게임이다. 따라서 연산이 빠른 컴퓨터가 유리할 수 밖에 없다. 
그런데, 왜 컴퓨터는 그 동안 바둑에서 인간을 이기지 못했을까? 아니다. 이겨왔다. 이미 10년 전에도 컴퓨터 바둑은 존재했고 많은 인간들을 이겨왔다. 이기지 못한 것은 전세계 0.001%. 즉 프로기사 정도다. 바둑은 엄청난 경우의 수 때문에 일반적인 컴퓨터의 연산 능력으로도 모든 경우의 수를 다 따져볼 수 없다. 따라서 다양한 기보를 입력해서 그것과 최대한 비슷하게 두는 방식을 취한다. 프로기사들은 무수한 연습과 학습으로 불필요한 경우의 수를 제외하고 최적의 수로만 시뮬레이션이 가능한 사람들이다. 단순한 기보 입력만으로는 프로급 기사들을 이기기 힘들었다. 그래서 난공불락으로 여겨져 왔다. 우주의 원자수만큼 많은 경우의 수가 있다는 수식어도 바둑을 성역으로 만들었다. 하지만 앞서 밝혔다시피 바둑은 수싸움이다. 
 

바둑도 어차피 확률과 경우의 수 게임이다. 

 
우주의 원자수만큼 많은 경우의 수가 있다고 해도 어차피 유리수의 범위다. 실제로 무한을 뜻하지는 않는다. 따라서 언젠가는 따라잡힐 영역이었다. 이번에 쓰인 '딥러닝' 기법은 획기적으로 그 시간을 단축시켰다. 바둑의 기본 상식에서 벗어나는 예외를 삭제하면서 경우의 수를 줄여나갔다. 이것만으로도 우주의 원자만큼 많은 경우의 숫자가 획기적으로 줄어든다. 예외처리 이후에 인공지능은 매번 집계산을 하며 가장 승률이 높은 곳에 바둑알을 놓는다. 다만 착각하지 말아야 한다. 완전히 새로운 방식으로 창조적으로 놓는 것이 아니라 수 많은 기보 데이터를 바탕으로 최적의 값을 빨리 찾아내는 식이다. 이건 그냥 알고리즘(정해진 수순대로 일처리를 하는 것)에 가깝다. 
언젠가는 인간의 영역에 다다르겠지만 지금의 바둑 인공지능이 인간의 고유 영역인 창의성, 직관에 다다른 것은 아니다. 그럼 과학자들과 기자들의 호들갑은 뭐냐고? 전문가들이 호들갑을 떠는 이유는 이번 인공지능이 연산속도를 높이는 '양'의 싸움을 한 것이 아니라 불필요한 수를 줄이는 '질'의 싸움을 했기 때문이다. 그러나 이 말 역시 '수를 줄이는 것'에 불과하다. 아직까지는 완전히 새로운 추론이나 상상을 하는 단계는 아니다. 그리고, 과학자와 기자들은 원래 호들갑 떠는 직업이다. 작은 갑각류 화석 하나만 발견해도 인류문명을 처음부터 다시 써야 한다고 호들갑 떤다. 실제로 그런 적은 없다. 몇 줄만 고쳐 쓰면 된다. 
 

기계는 정말 생각을 시작했을까?

최근의 인공지능은 머신러닝(기계 학습)을 통해 비약적으로 발전하고 있다고 한다. 나는 해당분야 전문가가 아니기 때문에 이 말의 진위를 정확히 확인할 수 없다. 다만 머신러닝은 인간의 뇌를 모델링한 기법이다. 컴퓨터가 스스로 학습하는 개념인데, 아직까지는 룰을 이해하거나 서로 다른 것을 구분하는 능력 정도다. 여기서 또 '학습'이라는 단어가 나오니 섬뜩할 거다. 저러다가 감정도 학습하고, 증오도 학습하면 어쩌나. 그러나 감정이나 상상 같은 것은 '메타인지'의 영역이라고 하며 지금의 머신러닝과는 큰 관계가 없다. 지금의 머신러닝은 주어진 방대한 데이터안에서 최대한 근사치의 값을 빨리 찾아내는 방법에 가깝다. 무에서 유를 창조해내는 방식이 아니다. (내 말이 틀렸다면 지적을 바란다.) 그래서 딥러닝은 구글, 페이스북, 마이크로소프트, 네이버, 카카오 등의 방대한 데이터를 가진 기업들이 시도할 수 밖에 없다. 데이터가 적으면 결과의 정확성도 떨어지니까. 이번 구글의 딥마인드는 체스 챔피언 출신의 AI전문가가 구글의 자원을 아낌없이 썼기 때문에 더 빠른 결과를 낳았을 뿐이다. 
구글이 현재 인공지능의 챔피언일까? 확실치는 않지만 구글이 전방위적으로 많은 회사들을 인수하며 로봇과 인공지능 분야에서 두각을 나타내고 있는 것은 사실이다. 만약 인류를 위협할 인공지능이 탄생한다면 구글의 작품일 가능성이 높다. 
참고로 구글은 알파벳을 출범하면서 새로 슬로건을 걸었다. ‘옳은 일을 해야 한다.(should do the right thing)’이다. '인간을 보호하자.' 같은 내용은 불행히도 없다.  옳은 일에 '인류의 생존'이 들어가길 빌 뿐이다. 희소식을 하나 말씀드리면 딥마인드의 다음 목표는 인간 공격이 아니라 헬스케어다. 인간을 치유하겠다는 거다. 천만다행이다. 

 

인간의 지능을 뛰어넘은 인공지능은 언제 탄생할까? 

그러나 머신러닝이 계속해서 발전하고 학습의 속도가 빨라지면 언젠가는 정말 인간처럼 생각하고 인간을 뛰어넘어 인류를 위협할 수도 있을 것이다. 인간을 뛰어넘은 힘은 인간에게 불안감을 줄 수 밖에 없다. 이런 생각을 하는 사람은 많다. 테슬라모터스의 일론머스크는 2020년부터 실제적인 위협이 닥치리라 예상했다. (그러나 그는 딥마인드를 비롯해 비카리우스 등의 인공지능 회사에 투자하고 있다.)
어느 과학자들은 2045년을 말하고, 어느 과학자는 100년 후도 힘들다고 한다. 누구도 확신할 수 없다. 그럼 우리가 준비할 것은 무엇일까?
존 코너처럼 구글을 습격해야 할까? 좋은 방법은 아닌 것 같다. 다만 딥마인드의 본사는 영국 노스 런던 킹스크로스 근처에 있다. 참고만 하자.
인공지능 테러방지법? 한국에서야 이런 정신나간 법도 통과하겠지만 이런 법이 있어도 별로 효과적일 것 같지 않다.  
착한 인공지능을 만들기 위한 노력? 그건 우리가 할 수 있는 일이 아니다. 개발자들이 할 일이다. 내가 본 SF영화에서는 꼭 미친 과학자가 나타나 불길하긴 하다. 
사실 우리가 할 일은 거의 없다고 보면 된다. 그러나 아직은 먼미래의 일이며 인류는 언제나 그랬듯이 길을 찾아낼 것이다. 일론머스크처럼 화성에 식민지를 만드는 것도 좋은 방법이다. 어쨌든 인공지능 포비아(인공지능 공포증)에 시달릴 필요는 없어 보인다. 아직은 인생을 마음껏 즐겨도 좋다.

비슷한 예가 있다. 우리는 우리가 통제할 수 없는 힘인 핵무기를 70년간 보유하고 있다. 다행히 아직 인류는 멸망하지 않았다. 인공지능의 위협은 다를 거라고? 내 생각은 그렇지 않다. 인간에게 완벽한 해를 끼치려면 물리적인 발달을 해야 하는데, 그 한계가 아직까지는 뚜렷하다. 내 생각에는 인공지능이 핵무기 스위치를 누르는 프로그래밍을 스스로 할 때까지는 큰 위협이 아니다. (그게 터미네이터의 모티브이기도 하다.) 물론 언젠가는 그런 위협적인 인공지능이 출현할 수도 있다. 그 때까지 필요한 것은 인공지능의 파괴가 아니라 오히려 대량 살상무기의 파괴다. 인류의 우려대로 초인공지능이 출현해도 아마 오랫동안 인간의 삶을 돕는 역할에 충실할 것이다.

  [리뷰전문 유튜브 채널 더기어TV]