앎의 나무 -마뚜라나/바렐라 공저

안다는 것은 무엇인가?

 

인공지능은 가능한가?

 

    1980년대 후반, 대학원에서 전문가 시스템(Expert System)을 공부하였다. 어느 날, 내가 속해있는 AI LAB(Artificial Intelligence LAB)의 교수님이 ‘AI가 가능한가?’라는 질문으로 세미나를 제안하였다. 나는 대략 세 가지 이유를 들어 ‘불가능하다’는 의견을 내었다. 첫째 H/W인 컴퓨터 성능문제, 둘째 S/W인 컴퓨터 프로그래밍 언어문제, 셋째는 인간보다 상위의 존재(神)가 인간과 같은 지능을 가진 사물을 만들 수 있어도, 인간이 인간의 지능을 가진 동등한 존재를 만들 수 없다는 논지를 폈다. 꽤 철학적으로 접근했다고 생각했는데, 교수님에게 혹평을 들었다. 특히 세 번째 이유가 문제가 되었다. 그러한 개똥철학적 접근방식은 과학도로서의 기본 자세가 부족하다는 것이다. 눈치없이 정곡을 찔렀나?

 

첫 번째 H/W문제는 분명하였다. 당시의 대형 Mainframe의 CPU 성능은 지금의 핸드폰보다 못하다.

두 번째 S/W문제는 어려웠다. 지능을 가지려면 학습을 하여야 하고, 학습을 하려면 언어로써 소통하는 것이 출발점이다. 인간이 서로 소통하려면 언어를 사용하듯이 컴퓨터와 소통하는프로그래밍 컴퓨터 언어(Fortran, Cobol, C 등)를 바꾸어야 하였다. 순차적 언어(Sequential Language)인 컴퓨터 언어를 인간처럼 객체 지향적(Object Oriented Language) 언어로 바꾸어야 하였고, 이를 운영할 운영체계(Operation System)도 새로 만들어야 되었다.

세 번째 문제는 심각하였다. 1956년 John McCarthy가 다트머스회의에서 인공지능(AI)이라는 용어를 처음 사용한 이후, 간단한 수학문제 풀이 등으로 인공지능의 가능성을 발견하였지만, 특정한 분야에서 특정한 문제를 풀수 있는 전문가 시스템(Weak AI라고도 함)으로 발전한 이래 답보 상태이었다. 매번 상황에 맞는 지식을 주고 조건에 맞는 해답을 찾는 규칙(rule)인 IF...Then...Else 알고리듬으로는 개와 고양이도 구분하지 못하는 것이었다.

 

인간처럼 생각하고 감정과 의식을 가지며 창의성을 발휘하는 궁극적인 인공지능(Strong AI) 단계는 컴퓨터 스스로 학습하여 지식을 쌓아야 하는 것으로 출발하여야 한다. 그런데, 우리는 우리가 어떻게 학습하는 지를 모른다. 정말이지, 인간은 어떻게 학습하는가? 학습하여 안다는 것은 도대체 무엇인가?

 

앎의 나무 - 인간 인지능력의 생물학적 뿌리, 마투라나와 바렐라

 

인지생물학, 인지심리학, 철학, 신경과학 등과 관련된 주제를 다루는 이 책은 시작부터 재미있을 것 같은 기대와 어려울 것이란 두려움을 동시에 준다. 제1장, 앎을 알기. 안다는 것을 어떻게 아는가? 하는 질문으로 출발한다. ‘맹점(盲點)’을 이야기하면서 “우리는 우리가 보지 못한다는 것을 보지 못한다(p26)”라고 말한다. 내 말이 그 말이다, 인공지능의 세 번째 난관 말이다. 그런데, 이 책은 철학책과 진배없다. 하지만, 설명은 다른 과학책처럼 인지과학으로 풀어 낸다. 더욱이 이 책은 단숨에 읽어야 그 맛을 느낄 수 있을 것 같다. 이야기를 풀어가는 방법이 순환구조이어서 각 장과 장이 꼬리를 물고 이어지기 때문이다. 이 책 한 권을 단숨에 모두 읽어 보는 즐거움(?)은 에세이를 핑계로 다음으로 미룬다.

저자 옴베르또 마뚜라나와 프란시스코 바렐라가 밝힌 이 책의 두 가지 목표는 두 가지이다.첫째, 우리의 존재를 가능케 하는 기제와 우리의 인식능력에 대한 물음을 가능케 하는 기제가 동일하다는 사실을 밝히는 일. 둘째, 우리가―사랑을 바탕으로―타인들과 함께 산출한 세계만이 우리가 접근할 수 있는 세계이며, 따라서 이 세계에 대해 우리가 책임을 져야한다는 사실을 일깨우는 일(p15)이다. 이 목표를 이루기 위해 ‘관찰자’가 된 저자들의 끊임없는 순환적 이야기 꼬리를 놓치지 않고 따라가야 한다. 출발점은 우리가 사회 공동생활에서 함께 나누는 경험이다. 그리고 세포의 자기생성, 메타세포체의 조직과 행동영역, 신경계의 작업적 폐쇄성, 언어적 영역과 언어를 거쳐서, 언어적 접속에 바탕을 둔 사회적 현상을 설명하면서 ‘앎을 알면 얽매인다’는 경구로 마무리 한다. ‘누구나 다 아는 이 세계는 오직 한 세계가 아니라 우리가 타인과 함께 산출한 어느 한 세계임을 깨닫도록 우리를 얽어맨다’(p.275)는 것이다.

 

『앎의 나무』가 내게 준 새로운 개념, 새로운 이해는 너무나 많다. 또한 이 많은 것들이 서로 사슬처럼 연결되어 있어서 어떤 하나만 딱 떼어내어 이야기하는데 어려움이 있다. 하지만 나에게 화두처럼 남아있는 AI는 가능한가? 인간은 어떻게 학습하여 아는 것인가? 의 질문을 생각하기 위하여 그들의 인식론을 이야기하고자 한다.

 

카리브디스(Charybdis, 유아론의 소용돌이)와 스킬라(Szylla, 표상주의의 괴물) 사이에서

두 사람의 인식론은 우선 칸트의 표상주의와 다르다. 칸트를 물자체를 던져두고 시공간의 형식 속에서 직관으로 표상만 가져오는 ‘표상주의’라고 한다면, 마투라나, 바렐라는 인지생물학자답게 생명활동과 관계된 실존적 인식론을 펼친다. 칸트의 표상주의는 바깥에 객관적으로 존재하는 표상이 있고 주체는 이 표상을 인식한다. 하지만, 두 사람은 주체가 표상을 구성한다고 말한다. ’각자 자기세상으로 본다‘는 것이다. 바퀴벌레는 인간이든 개인은 각자의 인식이 있다는 것이다. 신경계로써 이것을 설명한다.

 

그 동안 신경계에 대한 지배적인 견해에 따르면 '신경계란 유기체가 환경에서 가져온 정보들로 세계에 대한 표상(representation)을 만들고 이것을 바탕으로 생존에 필요한 행동을 계산하는 데 쓰는 도구’라고 보았다(p.150). 이 견해에 따르면 환경 자체의 특징들이 신경계에 입력되면 신경계가 이것들을 이용해(인식하여?) 행동을 산출한다는 것인데, 저자는 이는 우리가 그렇게 관찰할 뿐 실제로는 신경계는 유기체의 일부로서 구조에 따라 작업할 뿐이라고 말한다. 일상경험을 돌아볼 때 우리는 환경에서 '정보'를 가져와 그것을 '안에서' 모사한다는 식의 비유를 써서 우리의 경험을 기술할 때가 많다. 그러나 이런 비유는 신경계가 세계에 대한 표상을 가지고 작업한다는 식의 가정의 함정에 빠져 생물에 대한 지식과 모순된다는 것이다.

 

다른 한쪽에는 또 다른 함정이 있다. 이것은 모든 것이 가능하고 타당한 진공상태에서 신경계가 작동한다고 가정함으로써 주위 환경을 부정하는 절대적 인지적 고독, 즉 유아론(Solipsismus)의 극단이다.(오로지 자기의 내면세계만 존재한다고 주장하는 고전적인 철학적 전통) 이것이 함정인 까닭은 이 경우에 유기체의 작업과 환경 사이의 조화 또는 양립가능성이 어떻게 생겨났는지를 설명할 수 없게 된다. 저자는 그 중간에 머무는 법을 배워야 한다면서 ‘논리적 장부기재’라는 표현을 쓴다. “두 극단(혹은 함정)을 피할 해결책은 일종의 논리적 장부기재(Logische Buchhaltung)를 유지하는 데 있다. ‘말한 것은 모두 어느 누가 말한 것이다’를 잊지 말아야 한다. 거짓모순의 해결책들이 다 그렇듯이, 기존의 대립 속에서 생각하기를 멈추고 더 큰 맥락 속에서 문제를 새롭게 제기하는 것이다.” 장부기재는 회계에서 사용하는 장부와 같은 의미로 보인다. 장부에 기술하는 것과 같이 아마도 더 큰 틀에서 두 가지 명제 모두를 염두에 놓자는 의미로 보인다.

 

​신경세포(뉴런).

신경계의 기본단위인 신경세포를 보자. 다른 세포들과 달리 뉴런에는 세포질로 된 특별한 형태들의 가지들이 뻗어 있다. 뉴런은 신경계를 가진 모든 유기체에서 볼 수 있으며, 신경계가 2차 등급에 관여하는 특별한 방식, 즉 몸의 여러 구석에 있는 세포요소들을 연결해 개체를 통합하는 일의 바탕을 이룬다.

사람의 경우 뇌에서만 대략 수천억개 이상의 뉴런이 있다. 또한 뉴런마다 다른 뉴런들과 다양하게 연결되어 있으며 또 다른 많은 세포들과도 연결되어 있다는 점을 고려할 때, 거기서 일어날 수 있는 상호작용의 조합은 거의 무한하다.

 

신경계의 작업적 폐쇄성

다세포생물의 작업에 참여하는 신경계란 그물처럼 서로 얽힌 여러 순환관계들로 된 기제이며, 유기체가 조직을 보존하는 데 본질적인 내부상태들을 일정하게 유지해 준다. 이런 관점에서 신경계는 작업적 폐쇄성(Operationale Gschlossenheit)을 지닌다고 말할 수 있다. 이 개체의 한 흥분상태는 언제나 또 다른 흥분상태로 이어지는데(통점의 예와 같이), 이 개체의 작업방식도 순환성, 곧 작업적 폐쇄성을 갖기 때문이다. 따라서 신경계의 구성양식은 생물의 자율성을 정의하는 작업적 폐쇄성과 함께 하며, 생물의 자율성을 풍부하게 해준다. 나아가서 유기체의 ‘인식활동’이란 유기체가 살아가는 구조접속(뉴런간의 접속)의 영역 안에서 감각작용적 상관관계로서 일어나는 활동으로 볼 수 있다.

 

신경계의 신축성

신경계는 구조가 늘 변화하는 체계, 곧 신축적인(plastisch) 체계다. 신경계가 신축적인 까닭은 전선이 스위치를 통해 연결되듯 뉴런들이 서로 고정되어 연결되어 있는 것이 아니기 때문이다. 세포들이 상호작용을 주고받는 부위(시냅스)는 민감하고 역동적인 평형을 유지하는 곳이다.

신경계가 매우 신축적이라고 말하는 까닭은 그것이 세상 사물에 대한 모사 또는 기억이 흔적을 만들어내기 때문이 아니라, 상호작용의 결과로 신경계가 끊임없이 변화하면서도 환경의 변화와 줄곧 조화를 이루기 때문이다.

 

관찰자에게는 이런 조화, 혹은 유기체의 활동이 마치 변화하는 환경에 알맞게 행동, ‘학습’하는 것처럼 보인다. 그러나 신경계의 작업방식을 바탕으로 볼 때는 오직 상호작용을 주고받는 유기체와 환경 사이에 구조접속(곧 적응)이 매순간 보존되는 경로를 끊임없이 밟아가는 구조적 표류만 있을 뿐이다. 신경계는 사람들이 흔히 말하듯이 '정보'를 '입수'하는 어떤 것이 아니라, 환경의 어떤 속성들이 섭동이 될지, 또 그것들이 유기체에 어떤 변화를 유발할지를 결정함으로써 한 세계를 산출하는 것이다. 따라서 두뇌를 컴퓨터에 비유하는(입력-출력 모델로 보는) 통속적인 견해는 오해를 불러일으킬 뿐만 아니라 아예 틀린 것이다(p.192). 이 책이 출간된 1984년 당시에는 가장 앞선 AI형태인 전문가 시스템도 지식을 넣고(입력) 빼는(출력) 방식이었다.

 

타고난 행동과 배운 행동

행동이란 관찰자인 우리가 유기체와 환경을 동시에 살핌으로써 나타나는 상대적 현상이고, 유기체가 보일 수 있는 행동방식들의 범위는 유기체의 구조에 따라 결정된다. 이런 까닭에 우리는 같은 종에 속한 유기체들 각자의 특수한 상호작용의 역사와 상관없이, 어떤 구조가 발달함을 관찰하면 그런 구조를 가리켜 유전적으로 결정된 것이라고 말하며, 그렇게 생긴 행동방식을 가리켜 ‘본능’적인 것이라고 말한다.

다른 한편으로 같은 종의 개체들이 보이는 행동이 오직 상호작용의 특수한 역사가 있을 때만 발달하는 구조를 바탕으로 할 때, 사람들은 그런 구조를 가리켜 개체발생에 따른 것이라고 하고 또 그런 행동방식을 가리켜 '학습'된 것이라 말한다.

 

그런데 타고난 행동과 배운 행동이 행동 자체로서 지니는 본성과 그것이 실현되는 과정의 측면에서는 서로 구분되지 않는다. 차이는 오직 행동의 바탕이 되는 구조의 역사에 있다. 그러므로 어떤 행동을 타고난 것으로 분류할지, 배운 것으로 분류할지는 우리가 그 행동의 구조적 역사를 살필 수 있느냐 없느냐에 달렸다. 따라서 신경계 작업을 오직 현재 속에서만 관찰할 때는 이런 구분이 불가능하다. 학습이나 기억을 환경에서 어떤 것을 '입수'한 결과로 생긴 행동변화로 보기 쉽지만(표상을 가지고 작업함을 전제로 하는), 학습이란 유기체의 작업방식과 환경의 작업방식이 줄곧 어울려 있는 구조접속의 표현으로 이해하는 것이 더 자연스럽다.

 

인식과 신경계

누가 앎을 '가지고 있다'고 말할 때 기준이 무엇인가를 생각해보면, 그 기준은 바로 어떤 대답을 기대하는 영역에서 나타나는 효과적인 행동임을 알 수 있다. 더욱이 인식 또는 앎이 있나 없나를 평가하기란 섭동에 의해 유발된 유기체의 구조변화를 주위 환경에 대한 반응으로 보는 관찰자의 상대적인 맥락 속에서 이루어짐을 분명히 알아야 한다. 게다가 관찰자는 유기체에 유발된 구조변화를 자기가 기대한 반응에 관련시켜 평가한다.

이렇게 볼 때 관찰자는 유기체의 모든 상호작용을 인지적 행위로 평가할 수 있다. 그러므로 살아 있다는 사실 자체가(생물로서 구조접속을 끊임없이 유지하는 일이) 바로 그 생물의 존재영역에서 일어나는 인식활동이다. 즉, 삶이 곧 앎이다.

이후 저자는 Chapter를 바꾸어 신경계를 가진 유기체의 사회적 현상으로 논의를 전개한다.

 

이제 이 책을 읽게 된 동기, 인공지능이 가능한가?의 질문으로 돌아가 보자.

 

두 가지 역설

지능을 다양한 환경에서 복잡한 문제를 해결하는 능력이라고 정의하고, 인공지능을 인간의 자연지능의 본질을 규명하여 이를 인공적으로 재현하는 것이라고 할 때, 70년대 인공지능 학계에서는 두 가지 역설이 있었다. 첫째는 ‘모라벡의 역설(Moravec’s Paradox)’이라는 것인데, 인간에게는 아주 쉬운 것을 AI에게는 (구현하기)어렵다는 것이다. 예를 들면 인간에게는 아주 쉬운 두 발로 서는 것, 걷는 것 등이다. 두 번째는 ‘상식의 저주’ 라는 것이다. 인간에게는 상식 수준의 지식들도 AI는 모두 배워야만 하는 것이다. 예를 들면 인식에 있어서 칸트가 말하는 선험적인 것을 컴퓨터에 일일이 구현시켜야 하는데, 어떻게 입력할 것인가.

해서, 고안한 것이 인간 지능 전체를 가르치기 보다는 부분적으로 특화된 전문지식을, 예를 들면 의사의 질병지식 혹은 변호사의 법률지식 등을 지식기반(Knowledge Based) 시스템으로 구현하는 전문가 시스템을 만드는 것이었다. 당연하게도 한계에 부딪혔는데, 첫째는 입력된 Data(지식)외에는 답을 낼 수 없다는 것과 소위 ‘프레임 문제’에 봉착하였다. 즉 인간은 목적에 필요한 Data를 적절히 취합/분석하여 문제해결을 하는데, AI는 입력된 모든 것을 고려해야 하므로 한없이 생각(?)만 하는 것이다. 즉, 어떤 Data가 목적에 부합되는가를 판단하고 선택할 Rule(선택 규칙)을 인간이 프로그래밍하여 제공하여야 한다. 그냥 인간인 내가 직접 수행하고 말지......

 

개와 고양이를 구분하라.

1990년대 들어서 인터넷이 발달하면서 대량의 Data가 쌓이는 동시에, 기계학습에 관하여 획기적인 전기를 이룬 패턴인식(pattern recognition)기술이 개발되었다. 우선 ‘학습’을 구현하기 위하여 ‘Data를 그 특징에 따라 분류하는 것’으로 좁혀서 정의하였다. 이는 지식을 Data 형태로 제공하는 전문가시스템과는 반대로 Data로부터 새로운 지식(Rule)을 찾아 낸다는 발상이었고, 패턴인식 기술이 유용하였다. 번역을 예로 들면, 전문가 시스템은 단어 뜻, 문법..... 같은 지식을 넣어 해석하려 하였다면, 기계학습에서는 방대한 단어, 문장을 Data로써 분류해서 ‘번역되는 확률이 높은 것’을 적용하는 방식이다.

이러한 기계학습 기능이 구현된 AI를 가지고 개와 고양이를 구분하는 실험을 하였다. 기대와는 달리, 성적은 형편없었다. 그것은 개와 고양이의 기본적인 특징을 인간이 프로그래밍하여 입력한 뒤, 수많은 Case를 학습시켰으나 나아지지 않는 것이다. 인간이 입력값을 주어야 하는 특징, 소위 특징 설계(Feature Design)문제에 봉착하였다. 인간의 학습방법을 모르니, 그것을 설계할 수 없는 것이다. 그렇다면 인간의 뇌를 모방한 방식은(특히 뉴런) 어떨까? 이 즈음에 S/W적으로는 0, 1로만 표현되던 컴퓨터 알고리즘 처리방식에 퍼지(Fuzzy)이론이 적용되면서 소수점 값도 적용될 수 있게 되었다. 인공신경망(Neural Network) 기법이 창안되었다. 우리가 학습하면 뉴런(시냅스)에 특정 값(화학물질의 전달)이 강화 되듯이, 기계학습과정의 결과에 따라 시냅스를 모방한 각 Node(변수)에 가중치를 주는 방식이다. 소위 딥러닝(Deep Learning)의 탄생이다.

 

 

Data를 바탕으로 컴퓨터가 특징 자체를 학습하는(변수의 입력값을 스스로 결정하는) 단계에 이른 것이다. 기계적으로는 2010년대에 GPU(고속 병렬 그리픽 처리장치)가 발명되었고, 자료측면에서는 Big Data가 쌓여 그 결과를 배가시켰다. 2014년 구글은 6.65%의 에러율로 고양이를 식별하였고(인간은 5.51% 에러), 2019년 MS사는 152개 층 구조(그림의 Hidden Layer)로 천만건의 유투브를 학습시킨 결과 에러율을 3.56% 로 낮추었다. 물론, 2016년에 알파고가 이세돌과 바둑에서 승리하는 일은 일반인에게 AI를 알린 빼놓을 수는 없는 사건이었다.

 

요즘은 챗봇(ChatGPT)이 인간과 대화도 하고, 문서도 만들고 한다면서 인공지능 시대를 기대반 우려반하는 의견들이 분분하다. 하지만 두 저자의 관점, “생물로서 구조접속을 끊임없이 유지하는 일이, 바로 그 생물의 존재영역에서 일어나는 인식활동이다. 즉, 삶이 곧 앎이다”라는 생명활동과 관계된 실존적 인식론에 따르면, 진정한 AI가 가능한가? 혹은 인간의 뇌(뉴런)를 모사하여 생각하는 것처럼 보인다고 해서 인간을(지능을) 대체할 것인가와 같은 종적(種的)의 질문은 잘못되었다. 라디오, TV, 핸드폰처럼 AI와 어떻게 상호 섭동할 것인가를 물어야 한다.

 

참고로, 두 사람은 오토포이에시스(Autopoiesis)라는 개념을 창안 했는데, 자기생산, 자기조직화, 자기생성, 자율, 자기구조화 등으로 불린다. 우리 몸은 자체로 신진대사를 한다. 재생산이 타율적 생산이라면 자기생산은 자율적 생산이다. 스스로 만들 수 있는 능력이다. 딥러닝이 특정문제에서 스스로 학습한다고 하지만 이는 Data의 재생산이지 자기생산이라고 할 수는 없다. 마투라나는 세포내 DNA 단백질 합성을 보고 힌트를 얻었다 한다. DNA가 단백질을 만들고, 이 단백질은 다시 DNA가 단백질을 만드는 과정에 관여하는 효소로 쓰인다. 생명(세포)은 결국 스스로 자족적으로 재귀적(자체순환적, recursive)이다.

현재, 컴퓨터 프로그래밍에서 recursive programming은 ‘ERROR’이다. 미래 언제인가 다른 컴퓨터 언어가 나와서 ‘ERROR'가 아닌 것으로 처리될 날이 올지는 모르지만......