178쪽 선생님은 책에서 '인공지능은 물감, 대리석, 피아노, 글자, 몸 등과 똑같은 층위에 있는 도구나 미디어에 불과하다'(178쪽)고 말한 바 있습니다. 그런데 '미디어'는 특정한 도구로서 그저 인간이 '이용'하는 것이기도 하지만, 그걸 사용하는 인간을 바꿔 놓기도 합니다. 이를테면, 문자를 사용하는 인간과 문자를 사용하지 않는 인간이 세계를 대하는 방식이 완전히 다른 것처럼 말입니다. 아마도 문자를 사용하는 인간이 세계를 훨씬 더 표상적인 것으로 받아들일 거라 생각합니다. 일상적으로 인공지능-미디어를 사용하는 인간의 감수성은 어떻게 바뀔까요?

238-240쪽 김재인 선생님은 2부에서 '새로운 인문학'으로 교육제도를 재편해야 한다고 주장합니다. 이 주장이 목표로 하는 것은 '넘어섬'을 본질로 하는 인간의 '창의성 강화'인 것처럼 보입니다. 그 중에 특별한 것이 '글쓰기'인 듯 보이고요. 인공지능이 일반화된 상태에서 글쓰는 인간의 '작업방식'은 어떻게 바뀔지 궁금합니다. 가령, 원고지에 글을 써야만 했던 시절의 '글쓰기'는 강고한 전문가의 영역 안에 머물렀습니다. 즉 오로지 오랜 시간 훈련을 받은 사람만이 200자 원고지 1000매를 쓸 수 있었던 것이죠. 그런데 워드프로세서가 일반화 된 이후 오로지 전문가만의 일이었던 그것은 거의 모두의 일이 되었고, 여전히 그렇게 되어가고 있는 중입니다. 이 시대의 글쓰기는 원고지 시대의 글쓰기와 닮은 점도 많지만, 이전에 비해 편집적 성격이 훨씬 더 강해졌다고 생각합니다. 인공지능 시대의 글쓰기는 어떻게 변하게 될까요? (저는 챗GPT를 사용하면서 어쩌면 다시 '대화편'의 시대가 올지도 모르겠다는 생각을 하기도 했습니다^^)

282-283쪽 더불어 그러한 조건에서 '전문가'와 '시민'은 어떻게 구별될 수 있을까요? 이를테면, 오늘날의 '전문가'는 데이터를 많이 확보하고 있거나, 데이터에 접근할 수 있는 능력을 갖춘 사람인 것처럼 보이는 경우가 많습니다. 그런데 이미 구축된 데이터를 잘 출력하는 것에 재능을 보이는 '인공지능'이 등장한다면, '전문가'의 전문가성이 지금과 같은 상태로 유지될 수 있을지 모르겠습니다. 그렇다면, '전문가'의 전문성을 '데이터 확보와 접근 능력'으로 보지 않는다면 어떻게 볼 수 있을까요? 책에서 말씀하신 내용을 토대로 생각해 보면 '기존에 있던 것과는 완전히 다른 것을 생산할 수 있는 능력' 요컨대 '넘어서는 능력'이지 않을까 생각합니다. 그런데, 그러한 능력은 오히려 '데이터를 잘 다루는 능력'에서 유래하는 것처럼 보이기도 합니다. 이를테면 선생님께서 '암기'를 중요한 요소로 꼽았던 것처럼 말입니다. 이렇게 놓고 보면, 인공지능의 일반화와 함께 18세기 이래로 대학이 독점하고 있었던 '넘어섬'이 언제 어디에서 일어날지 알 수 없는 상태가 될 것처럼 보이기도 합니다. 이를테면 우리가 학교라고는 다녀본 적도 없는 해커를 뉴스에서 심심찮게 보는 것처럼 말이죠. 이러한 조건에서 전문가의 전문성을 어떻게 정의할 수 있을까요?

1 챗GPT 시대가 되면, 앞으로 암기 교육은 점점 자리를 잃어가겠구나라고 막연히 생각했는데,
김재인선생은 암기가 중요하다고 말해서 좀 의아하기도 했습니다. (p218)
그러나 한편으로 암기의 지속적인 필요성이 느껴지기도 합니다.
가령, 반야심경 암송이라든가, 주역암송 등등
선생님들은 '암기'에 관해 어떻게 생각하시나요?

2 저자는 인문학이 처해 있는 두가지 상반된 경향이 있다고 말합니다.(p245)
곧, 위기와 열풍..
실제로 대학에서는 위기인데, 사회에서는 인문학에 관한 관심이나 수요가 더 늘어나고 있는 것 같습니다.
그 이유가 무얼까요? 사회 경제적인 여건이 좋아져서 일까요?
기술의 발전과 모바일 시대에 소외되는 사람들은 누구인가요?
우리 시대에 태극기부대는 왜 이리 강력한가요?
또 인공지능, 챗GPT 시대에서 자발적인 인문학 공부 방법은 어떻게 할 수 있을까요?

1.
2부는 인문학 이야기네요. 더 정확하게는 대학-인문학-교육 개선방안에 대한 이야기네요. 전 이 글이 대학 인문학자의 입장에서 쓰여진 일종의 정책 제안서 같았습니다. 그래서 아카데미에 아무 관심도 없는 저로서는 쫌 공감하기 힘들었습니다.

그리고 이런 이야기 –대학 인문학의 위기와 대안으로서의 통섭(최재선) 혹은 융합(정희진) -는 20년 전부터 꾸준히 되어 온 것인데, 지금 이런 이야기를 왜 다시 반복할까, 라는 생각이 들었습니다. 오히려 20년 동안 이런 이야기를 주로 해온 대학이 왜 아직도 자신들의 문제를 해결하고 있지 못할까 라는 질문을, 스스로에게 던져야 하는 게 아닐까요? HK는 정말 대학의 인문학 위기를 개선시켰나요? 저자가 재직하는 경희대의 ‘후마니타스 칼리지’는 대학교양교육을 획기적으로 변화시켰나요? 갑자기 이런 게 궁금해졌습니다.^^

그리고 근본적으로는 ‘인문학 르네상스’? 이게 어찌 가능할지를 잘 모르겠습니다. 대학 인문학은 이미 망했고(이게 의대열풍으로 나타나는 것 아닌가유? ㅋ), 생성형 AI시대에는 확실히 더 망할 것으로 보이며 (“반복적인 작업, 중간 수준의 데이터 분석, 일상적인 의사결정을 내리는 직업이 가장 ‘위험’..글쓰기, 계산, 분석 등 정보처리와 관련한 직업도 큰 영향...”, 20230614 한겨레신문), 한때 아카데미의 위기와 비견해서 아카데미 밖의 인문학 르네상스를 이끌었던 몇몇 인문학 공동체의 유효성도 이제 거의 시효를 다한 것처럼 보이는데 말입니다. 제 ‘감(感)’으로 말해보자면^^, 이제 판이 완전 바뀌었습니다. 인문학 르네상스...올까요? 안 올 것 같은디...ㅋ (그래서 문탁네트워크 고민도 깊어지고 있습니다. ㅠ)

2. 2부의 4장 창의성 관련 (할말은 많지만 그냥 몇개만)

1) 왜 저자는 생성 대 창조, 인공지능 (생성) 대 인간 (창조) 라는 이분법적 도식을 유지할까요? 이런 구도는 어떤 효과가 있는 것일까요?
지금 나오는 논의는 어쨌든 생성형 AI의 언어, 이미지, 음악 생성이 기존에 그것을 해왔던 인간의 생성 역할 대부분을 대체할 것이라는 데 있는 게 아닌가요? 그것이 인간의 일자리를 잃게 할 것이라는 것 (이건 더 심한 불평등으로 이어지겠죠), 그리고 그것이 인간을 더욱 더 예속적 위치로 만들 것(그것al 없이는 아무것도 못하는 바보가 되겠죠)이라는 점 등. 그런데 이런 이야기들과 비교하여 저자 논의의 위치성은 어떤 건지 다시 궁금해졌어요.

2)p173 “과거와 평균을 넘어가기”
⇒
‘과거’(데이터 혹은 기억)는 인간이든 인공지능이든 넘어가지 못하는 것 아닌가요?
‘평균을 넘어가기’는 즉 니체적 의미의 ‘자기 가치 창조'(권력의지, 거리의 파토스, 위계, 위버멘쉬)를 말하는 것처럼 보여요. 그런데 그게 저자가 이야기하는 인간의 창조성과 같은 건가요?
제가 보기에 저자의 ‘창조성’ 개념은 인지과학에서의 창발(이건 생성과 구별되지 않는 거라고 생각합니다)과 니체적 의미의 자기가치창조가 섞여 있는 것 같아요.

3)p176 “언어는 단순히 정보를 주고받는 수단이 아니다... 더 창조적 활동을 수반하는 것이 언어의 본질적 측면 아닐까?”
⇒
언어의 ‘본질’은 창조인가요? 명령(by들뢰즈) 아니구? 혹은 망상 혹은 분별(by부처님) 아니구? ㅋ

4)p177 “인공지능은 어디까지나 미디어일 뿐 창작주체는 될 수는 없다”
⇒
맥루한 이래 미디어가 신체의 확장이라는 이야기는 이미 고전인데, 도대체 주체와 미디어를 나누는 이유는 무엇일까요? 스마트폰으로 찍은 사진/영상과 코닥필름 카메라로 찍은 사진/영상은 그것이 생산되고 유통되는 방식이 완전히 다른데...그런데 둘 다 모두 창작주체는 나-인간-문탁이야, 이렇게 이야기하는 게 무슨 의미가 있나요?

2부에서는 인공지능이 아니라 창의성과 교육에 대한 이야기가 펼쳐지고 있어서 저는 약간 당황했습니다.ㅎㅎ
그런데 읽고나서 생각해보니, 1부에서 LLM의 원리를 알아야 한다고 강조했던 이유가 더 명확해지는 것 같기도 했습니다.
이이님이 올려주신 테드 창의 글도 그 문제를 생각하는데 도움이 되었습니다.
저는 그래서 인공지능에 대한 사회적이고 윤리적인 접근이 중요하겠구나 생각했는데, 부록에서 그와 관련된 읽기 자료가 있어서 그 문제는 3회차 세미나에서 이야기하면 될 것 같습니다.
제가 쓴 것은 질문이라기 보다.. 2부 읽고 드는 소감입니다.^^

1. 생성형 인공지능의 문제를 지적할 때 언제나 빠지지 않는 것이 '블랙박스'문제와 '환각'현상인 것 같습니다. 이 문제와 관련하여 대안이 있을 수 있을까요? 누구나 전문가수준의 지식을 갖고 인공지능이 내놓은 결과물을 감식하거나 평가할 수도 없는데 말입니다. 김재인 선생님은 하찮거나 해로운 정보가 인터넷을 가득 채울거라는 우려의 목소리가 높은 만큼 진지한 공론장에 대한 요구도 높아질 것이라 말합니다. 진지한 공론장, 과연 어떻게 가능할까요?

2. 에필로그에서 김재인 선생은 '위기는 인공지능으로부터 오는 게 아니다'라고 말합니다. 그럼 위기는 어디에서 오는가? '타성과 고착이 위기의 본질이다'라는 것이 답입니다.
타성과 고착의 문제를 해결하기 위해 인간의 창조성을 확장하고 심화하는 방향으로 교육이 바뀌어야 한다는 주장인 것 같습니다.
인공지능 시대의 교육문제로, 그것도 대학문제로 이야기가 전개되면서 저는 조금 김이 빠집니다.
그러나 다른 한편 교육이 아니라 학습의 문제로 이 문제를 바라보면 다르게 접근할 수도 있을 것 같기도 합니다.
인공지능으로 세상이 빠르게 변화하는 시대, 우리는 어떤 공부를 해야 하나, 이런 문제제기로는 유익한 면이 있는 것 같습니다.

수학, 과학, 예술등을 포함한 확장된 인문학과 문해력에 대한 이야기를 읽고 있자니, 저자가 1부에서 생성형 인공지능에 대해 얘기한 '놀라움이 진부함이 될 날이 멀지 않았다' 는 말이 떠올랐습니다. 엘빈 토플러가 정의했던 학습, 탈학습, 재학습을 못하는 21세기 문맹은 이미 오랫동안 이야기 되어온 주제가 아닌지…

단군이래 대한민국의 학구열을 과연 막은자가 있던가? 대한민국의 교육혁명은 가능한가? 라는 너무나 큰 주제에 대해 두리뭉실 대학교수님의 입장을 대변하는 느낌과 함께 토론자체가 불가능한 주제는 아닌지 고민스러워졌습니다.

토플러가 <부의 미래>에서 차량 속도 측정에 비유해 이야기한 오늘날의 세계를 보면 각자의 속도는 너무나 다릅니다.

1. 시속 160킬로로 움직이는 가장 빠른 기업가와 사업가 집단
2. 시속 16킬로로 가고 있는 미국의 학교제도
3. 시속 5킬로미터로 가고 있는 '선진국'의 정치제도

현재 일어나는 세계의 일들은 시속 160킬로로 달리는 자들의 스토리텔링입니다. 시속 16킬로로 달리는 집단의 목소리가 과연 들릴까요? 산업화시대에 노동자를 양산하기 위해 만들어져 지금까지 이어진 이 교육제도에 대한 지적을 보며 씁쓸한 질문이 하나 떠오릅니다.

그럼 소는 누가키우지? 도시 곳곳을 채우는 노동자들은 어떻게 대체하지?

창의적으로 소를 키우고, 농사를 짓고, 창의적 인간 아래에서 로봇과 AI 가 일하게 만드는, 기본소득으로 인간이 혜택을 보는 유토피아적 미래사회를 우리는 확장된 인문학과 문해력으로 만들수 있을까 하는 의문도 남았습니다.

대한민국 입시라는 너무나 거대한 '방안의 코끼리'로 귀결되어버린 책의 마무리가 아쉽습니다.

Q. 그런의미에서 일론 머스크가 만든 Astra Nova School 에 대해서는 어떻게 생각하시나요? 교육 또한 초스피드의 기업가 집단에서 새롭게 재탄생 되어야 하는건 아닌지, 기존의 것을 싹 뒤엎는 전복적 혁명?이 필요한것은 아닌가 생각해봅니다.

1. 특정 분야 예를 들어 소프트웨어 개발분야를 한정하여 현재 챗GPT의 능력을 3년차 개발자의 역량으로 보고 있습니다. 아직은 AI의 발전을 지켜봐야 겠지만, 시니어급의 전문가가 되기 위한 여러가지 암묵지의 지식들이 있습니다. 가령 복잡한 문제를 세분화하여 접근하고 그 사이의 우선순위를 정하거나 또는 문제의 패러다임 자체를 바꾸어 해결책을 제시하거나 정보를 종합적으로 분석하여 판단하는 능력을 AI가 학습하여 수행할 수 있을지에 대한 회의가 있습니다. 그렇다보니 AI가 단기적으로 소프트웨어 개발분야 인력의 일부를 대처할 있을거라고 보지만, 장기적으로 봤을 때 고숙련된 소프트웨어 엔지니어의 풀이 줄어들 수 있다는 생각이 듭니다. 이러한 상황이 다른 산업분야에도 동일하게 적용될 수 있을 것이라고 생각하십니까?

2. 글쓰기 능력의 강조는 어떻게 보면 AI가 학습하기 위한 데이터 확보와 같은 원유와 같은 자원 체굴의 관점에서 중요할 수 있다는 생각이 듭니다. 또는 AI시대의 새로운 학습자의 능력으로서 복잡한 현실 세계의 문제를 언어로 풀어 내는 능력을 갖춤으로써 AI와 소통을 좀 더 원활하기 위한 관점도 있을것 같습니다. 시민의 관점에서 글쓰기 능력이 사고력 훈련 차원에서도 필요하지만, AI의 학습 원천 데이터로도 필요하다고 생각하는데 어떻게 생각하십니까?

(계속 작성중... 다 작성하고 나면 이 문구 삭제하겠습니다.)

p.302. AI가 발달하면 전문가가 필요 없게 된다는 우려에 대해서 저자는, AI의 생성물의 판별 나아가서 그 생성물을 초벌삼아 더 높은 결과물을 만들기 위해서도 지금보다 더 높은 지적 훈련이 필요하다(전문가가 필요하다)고 한다. 문제는 바로 다음에 따라 나오는 견해인데, AI가 내놓는 수많은 정보에서 진위와 가치를 읽어내는 능력을 키우는 곳에서 시민성 교육의 출발점을 찾는다. 모든 분야에서 전문성을 갖춘 시민이 되자는 얘기로 들린다. 가능한가?
차라리, AI의 생성물에 대한 제한된 사용에 관한 제재를 만드는 것이 빠르지 않을까? 예를 들면, AI가 생산하는 모든 언어적 결과물에 AI마크를 달아서 이를 재생산(인간의 직접적인 사용이나, AI의 강화학습에)에 이용하지 못하도록 하는 것 등등.
또는 그 동안 저자가 주장한 것처럼 AI는 인간지능과는 다르다는 주장을 하였으나, AI가 따라 오지 못하는 인간의 공감능력이나 문장 너머의 맥락을 읽는 능력 그리고 무엇보다도 서로 다른 의견에서 합의점을 찾는 능력을 키우는 시민이 되자고 주장했으면 하는 아쉬움이 있다.

질문모음입니다.