“Probably Approximately Correct - 기계학습을 다시 묻다”

Leslie Valiant 2013 作, 이광근 2021 譯

 

도대체 컴퓨터는 어떻게 작동하나?

 

   컴퓨터 프로그램을 짤 때 제일 난감한 경우가 내가 짠 프로그램이 ‘Looping 도는 경우이다(끝나지 않음)’. 운영자에게 killed된 프로그램을 들여다 보면, 논리적으로 이상이 없는데(반드시 이상이 있다!), 루핑이라는 것이다. 루핑됨을 미리 알 수 있으면 좋으련만 그럴 수 없다. 도대체 컴퓨터가 어떻게 작동되길래 그러는지 알고 싶어지는 순간이다.

   S/W는 언어와 논리로 만들어 진다. 결과물을 내고 싶은 것을 언어로 표현하고, 그것을 논리적으로 프로그래밍하는 것이다. 개와 고양이를 구분하라는 문제를 생각해 보자. 먼저 언어(문장)로써 그것들을 구분하는 특징들을 적는다. 그런 뒤에 그 특징들을 입력값으로 하여 논리적인 추론을 만들어 프로그래밍한다. 그런데, 그 구분을 문장으로 만드는 것이 의외로 쉽지 않다. 소위 특징 설계(Feature Design)문제이다. 2000년대에도 해결되지 않았다. 그런데, 2014년 구글은 6.65%의 에러율로 고양이를 식별하였고(인간은 5.51% 에러), 2019년 MS사는 152개 층 구조로 천만건의 유투브를 학습시킨 결과 에러율을 3.56% 로 낮추었다. 그들은 기계학습(machine learning) 방법을 적용하였다고 말한다. 기계·학습? 먼저 기계적이란 어떤 것인가?

 

계산 가능함: 기계적 계산이란 무엇인가?

 

  생명체들은 어떻게 정보를 처리하고 행동을 결정하는 걸까? 튜링이 1936년에 논문(*)을 내기 전까지는 인류는 이 문제에 대해서 정의조차 하지 못하였다. 1928년 수학자인 David Hilbert는 수학명제를 입력으로 받아서 참과 거짓을 기계적으로 판단하는 소위, ‘수리명제 자동생성 문제’를 낸다. 튜링은 그것은 ‘불가능하다’라는 결론을 손쉬운 구체적인 방법으로 증명해 보인다. 그가 설명 방법으로 도입한 것이 아래의 그림이다.  즉, ‘기계적인 계산’이라는 ‘정보 처리’ 개념을 체계적으로 정의하고, 이를 분석할 수 있음을 보여 주었다. 이는 현재 컴퓨터의 개념설계로 발전한다. 

 

 

 

 

-테이프(Tape): 일정한 크기의 셀(Cell)로 나뉘어 있는 종이 테이프. 길이는 무한하다.   

-헤드(Head): 종이 테이프의 특정 한 셀을 읽을 수 있는 헤드. 이동이 가능하다.            

-상태 기록기(State register): 현재 튜링 머신의 상 태를 기록하고 있는 장치.                

-행동표(Action table): 특정 상태에서 특정 기호를 읽었을 때 해야 할 행동을 지시한다.

 

     (*)  <계산 가능한 수에 대해서, 수리명제 자동생성 문제에 응용하면서>이다. 이 논문이 역사상 가장 중요한 과학 혁명 중
           하나인 정보혁명을 열게 된다.(p.39) 그가 개념설계한 만능기계 덕분에 컴퓨터의 S/W와 H/W가 독립적으로
           발전하여 현재에 이를 수 있었다.

 

   이 논문에서 계산연구 분야에 가장 중요한 세 가지가 정리된다.

첫째, 기계적인 계산(기계적으로 한 스텝 한 스텝 진행하는 과정)이란 무엇인지 정의하였다. 윗 그림에서 무한한 입력 정보가 미리 정해진 행동표를 따라 상태가 변하게 할 수 있는 결과값을 내는 것으로 정의할 수 있다. ‘기계적인 계산이란 튜링기계로 만들어서 돌릴 수 있는 것으로 한다’는 것이 지금까지 깨지지 않는 정의이다.

둘째, 기계적인 계산의 능력이다. 튜링기계로 보편만능 기계를 만들 수 있다. 즉, 모든 튜링기계(기계적인 계산)를 글로 표현해서 그것을 입력으로 받아 그 기계의 실행(논리적 전개)을 그대로 따라 할 수 있는 튜링기계이다(**). 튜링기계를 입력으로 하는 튜링기계이다. 이것이 현재의 컴퓨터이다.

셋째, 기계적인 계산으로는 절대 할 수 없는 불가능한 게 있다는 사실을 증명하였다. 소위 멈춤문제(halting problem)이다. 즉, 임의의 튜링기계를 입력으로 받아 그 기계를 실행하면 끝날지 아닐지를 정확히 예측하는 튜링기계는 없다는 것이다. 초보 프로그래머 시절 그토록 알고 싶어 했던 루핑문제는, 컴퓨터를 돌려 봐야 안다는 것이다.

    (**) 예를 들면, Windows의 각 icon은 그 자체로 독립된 프로그램이며, 이들이 한 화면에서 작동하는 것을 생각해보라.
         컴퓨터(한 화면) 속에서 컴퓨터(icon)를 입력으로 받아 처리한다.

 

기계·학습의 기계적, 자세히는 기계적 계산이라는 의미를 이렇게 정의하였다면, ‘학습’은 어떻게 정의할 수 있나? 인간이 어떻게 학습하는 지를 아직도 모르는데......

 

학습 가능함: 학습은 어떻게 이루어지나?(ecorithm)

 

   튜링이 죽고 나서, 그의 멘토이자 친구로 지낸 Max Newman 교수(David Hilbert의 ‘수리명제 자동생성 문제’를 튜링에게 강의하였던 교수)는 튜링이 평생 연구한 작업의 핵심 주제는 ‘자연을 기계적으로 설명할 때 가능한 범위와 그 한계는 어디일까’라는 질문이었다고 한다(p.87). 자연의 모든 현상을 튜링이 말하는 행동표로 일일이 정의하는 것은 불가능하다.

   이 책은 저자인 Leslie Valiant가 튜링의 그 주제, ‘자연을 기계적으로 설명한다’는 문제를 수리모델을 통하여 ‘과학적으로’ 설명하려고 한다. 그 과학은 학습과 계산이라는 두 기둥인데, 생명체들이 헤쳐 나가는 다채로운 방법이 모두 환경으로부터 학습한 결과이고, 이 학습과정이 기계적인 계산으로 이해될 수 있다는 입장이다. 한마디로 생명활동을 ‘기계적 학습’으로 풀어 내고자 한다.

 

    학습의 핵심은 일반화이다. 특수 사실에서 보편 지식으로 건너뛰는 귀납(induction)과정이 핵심이다. 이 때에, 수학이나 과학처럼 이론이 있는(theoryful-이론으로 설명가능한) 지식보다, 이론없는 지식이 어떻게 학습되는가? 하는 것을 아는 것이 관건이다. 튜링은 그의 논문의 결론에서, ‘이 논문에서 참/거짓만 있는 순수한 논리체계로 만들 수 있는 세계의 한계를 보였다. 참/거짓으로 딱 떨어지는 논리만으로는 할 수 있는 일에 명백한 한계가 있다는 점을 증명했다’고 말한다.(p.92) 저자는 이것을 생각이나 생명체의 작동을 계산과정으로 설명할 때에 딱 떨어지는 논리체계로 접근하는 것은 맞지 않다는 의미로 읽어낸다. 그리고는 논리가 놓치는 직관의 세계가 뭔지를 설명하고, 그리고 그 세계로 가는 과학적인 방법으로 에코리즘(ecorithm)이라는 문제 풀이법을 제안한다.

    에코리즘이란 환경(eco)과 알고리즘(algorithm)의 합성어이다. 즉, 학습하고 적응할 수 있는 알고리즘이다. 외부환경과 교류하면서 학습으로 얻은 지식으로 문제 풀이법을 만들고, 이를 꾸준히 개선하는 알고리즘이다. 그간의 문제 풀이 과정처럼 (언어로)미리 표현하고 (논리로)고정한 것이 아니라, 풀이 과정을 학습으로 만들고 가다듬도록 준비된 알고리즘이다. 즉, Input->Process->Output이 아니라, Input/Output을 동시에 받아들여 Process 를 개선시키는(학습하는) 알고리즘이다. 환경에서 학습을 통해 보다 나은 능력을 이끌어낼 수 있는 알고리즘이다.

 

    그런 알고리즘에 적절한 수학적 모델은 어떤 것이 좋을까? 저자는 인간의 추론방법인 인덕(귀납,Induction)과 디덕(연역,Deduction)의 오류가능성을 보이는 한편, 추론을 위한 많은 수학적 계산모델들(예:regression, perceptron 등등)의 능력과 한계, 그리고 계산 비용측면에서 이 방법들을 분석한다. 추론을 위한 계산 능력, 한계와 비용 측면에서 저자가 제안한 방법은 PAC(Probably Approximately Correct), ‘얼추거의맞기’라는 학습모델이다. ‘얼추probably'라고 한 것은 100% 확신을 할수 없는 오류 가능성을 인정하는 것이고, ’거의approximately' 라고 한 것은 빼먹는 것이 항상 가능해서이다.

 

“PAC 학습은 모든 계산과정이 다항식 비용안에 잡히면서, 배울 예시들이 어떤 분포에서 오든 학습 결과의 정확도를 다항식 비용 안에서 가능해야 한다. 이 비용 다항식의 변수는 학습 예시들을 요리조리 보는 잣대의 개수와 원하는 정확도이다. (중략) PAC 학습이 불가능한 경우도 많고, PAC 학습이 가능한지 불가능한 지를 아직 모르는 자연스러운 학습 목표들도 많다. (중략) PAC모델은 사람의 학습과 교육에도 시사하는 바가 있고, 인덕뿐만아니라 인간의 인지cognition를 설명하는 기초가 될 수 있다.”

 

    인간의 인지방법도 PAC모델로 설명한다. (눈에 들어온) 장면들은 복잡한 바깥 세계를 반영하는 자연스러운 확률분포에 따라 (마음의) 눈을 가진 사람들이 인지하는 것이다. 그 확률분포에 대해서는 알 수도 없고, 알 필요도 없다. 그 분포에 따라 출현하는 예들을 가지고 규칙을 학습하고, 그 규칙들은 같은 분포에서 출현하는 새로운 예들을 보고 믿을 만한 판단을 한다. 이 때에 정확한(precisely) 논리보다는 튼튼한 논리(robust logic)를(***) 쓴다. 현실적인 계산 비용을 감안한 판단으로써 어쩔 수 없는 오류는 관리할 수 있을 정도로 남기는 판단을 한다는 것이다. 저자는 튼튼 논리도 PAC모델에 포함시킨다.

    저자는 다윈의 진화론에 부족한 점이 있는데, 바로 진화의 속도와 진화의 정량적인 설명 혹은 예측이 없다고 진단한다. 이를 메꿀 방법은 진화를 학습과정으로 정의하는 것인데, 이러면 지구 나이 동안 생명체들이 지금 모습으로 진화할 수 있었던 속도를 설명할 수 있다고 주장한다. 학습에서의 가설이 진화에서는 유전체로, 학습의 예시는 진화의 경험으로, 학습의 알고리즘은 진화에서는 변이를 만드는 과정으로, 학습의 정확도는 진화의 적합도fitness로, 학습의 한 단계는 진화에서는 자연선택natural selection의 한 사이클로 보는 것이다. 이렇게 진화를 학습의 한 형태로 보면서 그의 PAC 학습모델이 진화의 정량적인 부족한 점을 채운다고 설명한다.

정리하자면, 저자는 튜링이 정의한 ‘기계적 계산’의 개념과 생명체의 ‘학습방법’을 PAC(얼추거의맞추기)모델로 풀어 낸다.

 

   (***)전산학 및 인공지능 분야에서 사용되는 개념으로, 시스템이나 알고리즘이 어떤 조건이나 환경에서도 안정적으로
        작동할 수 있는 능력을 가리킨다. 이는 입력 데이터나 외부 환경의 변화에도 민감하지 않고 일관된 결과를 유지하는
        것이다.   저자가 말하는 robust logic은 ‘아마도’ 데이터와 알고리즘의 안정성에 관한 개념을 의미한다.
        이를테면, 인공지능 모델이  다양한 종류의 입력 데이터에 대해 일관된 예측을 수행하고, 노이즈나 잡음이 있는
        데이터에서도 성능을 유지할 수 있어야  한다는 것이다.

 

기계학습(machine learning)

 

    어떤 일을 컴퓨터에 시킬 때 세 가지 방법이 있다. 그 일을 하는 프로그램을 컴퓨터에 심기(기계적 계산방법), 그 일을 하는 방법을 배우는 프로그램을 컴퓨터에 심기(학습방법), 두 가지를 혼합한 프로그램을 컴퓨터에 심는 것이다. 첫 번째 경우는 우리가 해답을 만드는 방법을 아는 경우이다. 그렇다 하더라도, ①원하는 일을 하는 방법을 구체적으로 정의 할 수 없을 때, ②시스템을 개선하려는데 그것에 필요한 지식이 무엇인지 정확하게 정의할 수 없을 때, ③시스템에 직접 프로그램을 짜 넣을 방법이 없을 때, 현재로는 컴퓨터를 학습시키는 것 이외에는 대안이 없다. 컴퓨터에게 학습 알고리즘을 심어서 컴퓨터가 일하는 방법을 스스로 추측하게 하는 것이다. 바로 ‘기계학습‘이다. 저자는 PAC모델이 가장 적합한 기계학습 모델이라는 것이다. 이런 의미에서 최근에 각광받고 있는 Chat-GPT가 사용하는 LLM(*****)도 PAC 모델로 볼 수 있고, ’얼추거의맞기‘ 개념으로부터 그 에러율도 인정할 수 있다. 따라서 지금의 Chat-GPT 추론 정확도에 대해서 왈가왈부하는 것은 다소 성급한 판단이며, 취사선택은 사용자의 몫이라는 생각이다. 이 모델도 반복하고 또 반복 학습하면 튼튼한(robust) 대답을 할 날이 올 것이다.

 

   (*****) LLM (Large Language Model) 이란, 대용량의 언어 모델을 말한다. LLM은 딥 러닝 알고리즘과 통계 모델링을
        통해  자연어 처리(NLP) 작업을 수행한다. 이 모델은 대용량의 문장 내의 단어들 사이의 유사성과 문맥을 입력으로써
        미리  훈련된 수학적 모델을 가지고 다음 단어를 생성하는 점에서 PAC 모델이 적용되어 보인다.
        이 책은 하버드 대학의 Leslie Valiant 교수가 2013 출판하였고, 우리나라에는 2021년에 번역되었다. 참고로, GPT는
        2018년에 개발되었으며, LLM도 PAC인가?하는 譯者의 질문에 著者는 논의해봐야 한다고 유보적 입장을 취했다.

 

에코리즘으로 본 기계학습: 인공지능은 자연지능을 능가하지 못한다.

 

   저자는 기계학습은 앞으로도 발전할 것이라고 말한다. 학습과 진화에서 발견되는 튼튼모델같은 새로운 알고리즘의 출현 때문이 아니라, 더욱 빠른 컴퓨터와 더욱 풍부한 데이터 때문에(p.241)...... 하지만 걱정할 것이 없는데, 인공‘지능’은 결코 달성할 수 없는 것이라고 잘라 말한다. 물론, 여기서 지능은 제한된 분야의 지능이 아니라 우리가 말하는 일반적인 지능이다.

 

“에코리즘의 시각에서 인공지능이 왜 달성하기 어려운지 설명할 수 있다. 하나는, 사람의 지능은 수백만년 축적된 진화와 태어나서 학습한 결과를 합한 것인데, 진화와 학습이 같은 에코리즘 과정이니 그 경계가 없다. 즉, 인공지능을 만들 때 어디까지 준비하고 어디서부터 학습시켜야 할지 알기 어렵다. 최악의 경우 진화과정을 컴퓨터가 처음부터 다시 모사하지 않고는 완전한 인공지능은 불가능할 수 있다. 다만, 기계학습의 성과가 보여 주듯이 일부 제한된 면에서 인공지능은 가능하다. 다른 난관은 사람의 다채로운 지능을 온전히 포섭하는 튼튼 모델(robust model)이 아직 없다. 튜링 테스트라는 잣대로는 부족하다. 튜링 테스트를 통과했다면 특정한 질문 분포에서만 지능적일 뿐이다. 결국, 기계학습이 짜낸 인공지능이 특정 지능에서는 우리를 능가할 수 있지만, 종합적으로 사람의 다양한 지능을 능가하기는 어려울 것이다. 또, 인류가 진화과정에서 축적한 극한 생존 학습의 결과를 로봇에게 똑같이 심을 수 없는 한, 로봇은 스위치가 꺼지는 것에 저항하지도 않을 것이다.”(p.232)

 

안다는 것과 ‘얼추거의맞추기’......

 

   인간은 부족한 정보와 제한된 다항식내에서 PAC방법으로 학습하고 결론을 내리는 것(인지)이 최선이다(진화)는 것이 저자의 의견이다. 그렇다면 인간이 복잡하고 불확실한 세계에서 얻은 제한되고 특수한 재료로써 어떤 것을 일반화하는 것은 PAC(‘얼추거의맞기’), 그 정도까지로 이해해야 한다는 생각이 든다.

   우리의 회로는 몇 개 안되는 증거로 서둘러 판단한다는 사실을 감안하면, 우리의 의견이 개인적인 느낌 이상의 타당성을 부여할 수 있는 것인지 의심하고 또 의심하여야 한다는 생각이 다. 나아가, 합의된 의견도 없고 어느 누구의 뇌 회로의 예측이 정확하다는 증거가 없는 많은 분야, 그것도 우리 이해 관계가 걸린 분야에 대해서 더더욱 그렇다.