김재인 선생님은 에필로그에서 생성 인공지능의 한계를 다음과 같이 요약합니다.
1) 거짓 정보가 전체에 분포되어 있다.
2) 정확한 지식이 필요한 부분에서 생성물의 활용도가 떨어진다.
3) 생성물을 검증하는데 엄청난 시간이 소요된다.
이와 같은 한계를 지적한 후에 선생님께서는 저런 이유들 때문에 오히려 각자가 자신의 전문성을 더 쌓아야 하고, 나아가 시민들은 특정 정보의 진위를 판별할 수 있는 능력을 갖춰야 한다고 결론 짓습니다. 저는 이 결론이 조금 이상하게 느껴집니다. 왜냐하면 앞서 언급한 한계들이 사실이라면 '생성 인공지능'의 출현으로 달라지는 게 아무것도 없기 때문입니다. 만약 그러한 한계를 지식기반 노동을 하는 특정한 노동자에게 대입해 보면 어떨까요? 이 노동자의 작업 결과는 전혀 신뢰할 수 없는 것이 될 것입니다. 이 경우, 이 노동자가 노동시장에서 퇴출되거나 재교육을 받아야 할 것이라는 건 쉽게 예상해 볼 수 있을테고요. 따라서 노동자는 그러한 한계를 돌파하기 위해 자기 업무 영역의 전문성을 강화해야할테고, 해당 노동자를 관리감독하는 감독자는 노동자의 업무가 옳게 되었는지 판별할 수 있는 역량을 갖춰야 할 것입니다. 요컨대 저러한 '한계'가 근본적인 것이라면, 저것들은 개선될수록 더 치명적이게 됩니다. 왜냐하면 '거짓'과 '오류'가 더더욱 찾기 힘든 형태로 분포될테니까요. 그러면 더더욱 생산과정에서 인공지능을 사용하는 것이 불가능하게 됩니다. 선생님께서는 저러한 '한계'를 뛰어넘을 가능성이 전혀 없다고 보시는지요? 만약 그렇다면, 오늘날의 인공지능을 둘러싼 떠들썩한 담론은 상당수 허상이라고 봐도 무방할까요?

1. 세미나 마지막 날, 뭘 질문해야 할지 솔직히 모르겠습니다. (책에 대해서는 더 이상 이러쿵저러쿵하고 싶지 않네유^^) 그리고 이 분야는 너무 어려워요. 모르는 용어가 넘 많습니다. (예를 들어 ‘코딩’, ‘코딩’하지만 내가 ‘코딩’이 뭔지 정확히 알고 있는 것 같지도 않아요. 그러니까 기술 과학 용어를 원리가 아니라 ‘눈치’로 때려 맞추고 있는 거죠.^^)
따라서 이하 제가 쓰는 것은 질문이 아니라 뭐라도 쓰라고 하는 명령에 충실한? 부실한! 응답에 불과합니다. 거참 쩝.

2. 이 책, 그리고 이런저런 아티클, 추천해주신 유튜브 동영상을 보고 정리된 건, 제 수준에서는 아래와 같은 정도입니다. (매우 추상적임. 구체적으로 이야기할 능력이 없음 ㅠ)

1) 증기기관, 컴퓨터, 인터넷, 개인 피시, 아이폰 등 기술 발전과 관련된 몇 번의 변곡점(특이점)들이 있었고, 이것이 세상과 개인의 삶을 근본적 수준에서 변화시켰다. 이제 LLM AI라는 어떤 변곡점이 왔는데, 이것은 앞선 것과는 비교할 수 없는 어떤 미친 속도(파급력) 때문에 AI빅뱅, AI 선캄브리아기로 불린다.
2) 그런데 그것의 급속한 확산은 동시에 그것의 지금 수준의 문제 (주로 ‘블랙박스’와 ‘환각’)도 급속도로 확산시킨다. 따라서 위험하다. (적어도 내가 읽은 텍스트에서 이게 위험하지 않다고 말하는 경우는 없는 것 같습니다.)
3) 그렇다면 문제는 현재적 수준에서 이것을 어떻게 해결(관리, 감당)할 것인가이다. 하지만 쉬워 보이지 않는다. 왜냐? 이것은 기후위기나 원자력발전의 문제가 잘 해결되지 않는 이유와 마찬가지로, 누군가에게는 엄청난 ‘돈’이 되기 때문이다. 동시에 (오픈AI의 기술개발과 자정 노력에 기대는 식으로) 고양이에게 생선을 맡기는 꼴이기 때문이다.

3. ‘초지능’이 도래할 것인가?

이 문제는 잘 모르겠습니다. 소위 이 문제에 대해 언급했다는 ‘양쪽’의 모모한 전문가들의 글을 거의 읽어보지 못했고, 정군 샘의 1234글(닉 보스트롬)과 최재천샘의 유튜브, 그리고 김재인샘 아티클 + α 정도를 읽었을 따름입니다. 제 수준에서는 누구 이야기도 어떤 점에서는 그럴듯하고, 어떤 점에서는 점쟁이 말처럼 들립니다. 미래를 예측한다는 것이 원래 이런 일 같습니다.
다만 저는 ‘초지능’이라는 단어 자체가 이미 맥락적이고 정치적인 단어라고 생각합니다.(‘인류세’나 ‘자본세’라는 단어가 그러하듯) 지능은 인간만이 가졌고, 이제 인간을 뛰어넘는 ‘놈’들이 온다!!! 는 함의가 들어있지요. 그래서 그 용어 자체가 어떤 점에서는 이미 묵시록적입니다.
전, 종말론적 태도에는 반대합니다. 허무주의로 얻을 수 있는 건 없으니까요. 동시에 기술만능주의적 태도도 포스트 휴머니즘 시대에 다시 휴머니즘으로 회귀하는 태도도 반대합니다. 아마도 우리는 포스트 휴머니즘의 다양한 사이보그로, 기계와 연합(결합)된 상태로 살아가게 될 것입니다. 문제는 또다시 ‘발명’입니다. 그런 점에서 저는 여전히 SF의 열렬한 추종자입니다.

4. 2번의 3)과 관련하여

현재 <오픈AI>가 밝힌 챗지피티 환각률이 9.4%라고 합니다. (맞나요? 유튜브에서 본 거여서) '개발 당장 중단'과 같은 이야기가 나오는 맥락인 것 같습니다. 그런데 어떻게?
‘기후협약’ 같은 국제적 규제, 혹은 신약 개발 가이드라인 같은 신중한 접근이 필요하겠죠. 그리고 많은 사람이 LLM AI의 문제점을 이야기하고 있기 때문에 그런 쪽으로 방향이 잡힐 것 같습니다. 다시 말해 탄소 에너지 기업의 탐욕을 어떻게 규제할 것인가? 소위 ‘과학’의 이름으로 무장한(우리는 과학이고, 너희는 괴담이다^^) 원자력 마피아들을 어떻게 제어할 것인가, 와 같은 차원의 문제로 접근이 되겠죠.
그럼에도 불구하고 도래한 ‘AI 군비 전쟁’의 시대에 (저는 이 용어가 AI 빅뱅이나 AI 선캄브리아기보다 더 좋은 것 같습니다) 우리가 아마존, 오픈AI, 마이크로소프트, 저커버그, 일론 머스크 들을 이길 수 있을까요? (그리고 아....중국!!)
무엇보다 저는 기후 위기와 관련하여 하다못해 플라스틱이라도 덜 쓰고, 핵발전과 관련하여 전기를 아껴 쓰는 아주 소소한 실천이라도 할 수 있지만, LLM AI와 관련하여서는 뭘 할 수 있는지 모르겠습니다. 김재인 샘이 이야기하는 AI-시민-전문가 되기는 저한테는 수능 다시 봐서 컴퓨터공학을 전공해라, 라는 이야기로 들립니다. ㅎ

-별 내용이 없는 걸 길게 써서 미안합니다. 그냥 하던 공부나 진득하게 해야겠다는, 너무 뻔한 이야기를 지금 하고 있는 겁니다. ㅋ-

튜링의 글을 읽고 보니 이 책의 서두에 던져진 질문, "인공지능은 예술작품을 창작할 수 있을까"가 튜링의 "기계는 생각할 수 있을까?"의 패러디라는 것이 이제야 확실히 이해가 됩니다.
튜링은 자신이 설계한 테스트를 통과하기만 하면, 기계도 생각할 수 있다는 결론에 이르렀다고 생각하는데요. 이 테스트에서 기계가 스스로를 생각한다고 생각하느냐 아니냐는 전혀 조건이 아니었습니다. 그렇다면 예술작품과 관련한 튜링 테스트를 설계한다고 할 경우, 이 때도 마찬가지 아닐까요?
저는 인공지능도 창작할 수 있다고 말할 수 있을 것 같습니다. 그런데 문제는 오히려 인공지능이 예술작품을 창작하냐, 아니냐. 인공지능의 생성이 생성이냐 창조냐가 아니라, 인공지능의 시대에 예술이란 무엇인가, 라는 질문이 더 중요해지는 것 아닐까라는 생각이 들었습니다. 마치 카메라가 나오면서 회화에 대한 새로운 질문이 던져졌던 것처럼 말이지요. 이른바 멀티모달이 가능한 챗GPT4는 이미 우리의 상상을 넘어선 많은 것을 구현하고 있지 않나요? 그래서 더더욱 우리는 예술에 대해, 문학에 대해 그런 질문 앞에 서 있는 것 아닐까 싶습니다.(김재인 선생님은 인공지능은 인간처럼 유한한 존재로서 죽음에 대한 질문, 타자와의 관계에 대한 질문을 고민하지 않는다는 데 초점을 맞추고 있는 것 같습니다. 그러나 초지능의 탄생 가능성에 대해서는 유보적이죠. 그런데 저는 생각할수록 인공지능이 그걸 할 줄 아느냐 아니냐를 따지는 것보다 더 중요한 게 있지 않을까, 그건 인공지능과 관련한 윤리의 문제는 아닐까, 그런 생각이 듭니다.)

다육이나 키우며 살고 싶다는 문탁샘 말씀에 공감백배가 됩니다.^^
카톡 없이는 살 수 없게 되었듯이 어찌됐든 AI없는 일상은 상상하기 힘든 때가 된 것 같습니다. 저 같은 평범한 사람 입장에서는 AI에 대한 지식적 측면의 깊은 이해는 영원히 불가능할 것 같고, 다만 AI로 인해 바뀌게 되는 환경에 잘 적응하는 것이 중요한 문제인 것 같습니다. 적응한다는 것은 잘 활용한다는 의미도 있겠지만, AI를 교묘하게 이용하는 인간들에게 당하지 않는 능력을 키워야할 것 같습니다. (역시 문탁샘 말씀처럼 하던 공부나 잘하자로 가는것이지만요^^)
아직 우리나라는 AI와 윤리의 문제에 대해 심도있는 논의가 되지 않고 있다고 하는데 이 문제 대해 얘기해보고 싶습니다.

어제 최재천샘 유투브를 보다가 카이스트 교수의 유투브를 보게 되었는데 거기서도 전문가의 능력을 이야기하더라고요.
유투브를 처음에 전문가들이(여기서 전문가란 교수? 뭐 하여간) 무시하고 안쓰다가 개나소나 이상하게 이용하는 미디어가 되었다고 말하면서 챗지피티는 전문가들이 나서서 빨리 많이 써보고 어떻게 활용할지 어떻게 진짜와 가짜를 가려낼지 연구(?)해야 한다는 식으로 말하던데...
김재인 선생님이나 이런 교수님들이 말하는 전문가라는게 도대체 뭔지를 모르겠네요.
기계와 다른 지성을 갖춘 사람?
전문적 지식을 가진 박사님? 사실 현재의 전문가들이란 한쪽 분야의 전문가이지 통찰지적인 지성을 지닌 사람을 말하는게 아니지 않은가? 라는 생각도 들고요.
그동안 전문가라는 사람들 덕에 사대강도 개발하고 원자력발전도 확대하고 이런건 아니었나? 싶기도 하고요.
어떻게 전문가들이 생성AI를 콘트롤할 수 있다는건지 잘 모르겠습니다.
어떻게 그런 전문가가 될 수 있는지도 모르겠고요.
아직 페이스북도 인스타그램도 하지 않는 제가 이제 어떻게 살아야하나 고민 중입니다. ㅎㅎ

알파고의 대결을 앞둔 이세돌은 “인공지능은 인간의 직관을 아직 따라 오지 못할 것”이라고 생각해서 자신의 우세를 예상했지만, 결과는 1승 4패이었다. 인간의 직관, 정신, 마음, 생각이 무엇인가? (나는) 모른다. 괴델의 불완전성 정리를 빌어서 말한다면, 인간이 사고하는 공리체계에서 그런 것이 있다는 사실은 참이지만 증명할 수는 없다. 그렇다면 AI의 결과물을 보고 AI의 직관, 정신, 마음, 생각에 의한 결과물이 아니다(AI는 그것이 없다)라고 증명할 수 있나요?
인간만이 생각할 수 있다는 것에 근거하여 AI를 부정하는 접근은 시대착오적일 수 있다. 증기기관차, 자동차, 인터넷, TV, 핸드폰처럼 기술이 인간사회에 주는 충격은 당시에는 매우 컸지만 일시적이었으며, 오래도록 인간사회에서 함께 살면서 인간의 삶을 바꾸고 있는 사실로부터, 우리는 이제 인간 능력의 신장의 측면에서 AI와 어떻게 함께 살 수 있느냐를 논의하는 것이 더욱 시급하다는 생각입니다. AI는 이 자본주의 내에서는 돈이기 때문에 매우 빠른 속도로 발전할 것이니까요.

책도 보고, 유튜브도 보고 여기저기 기웃거려보니, 공통적으로 전문직이 대체될 가능성이 상당히 높다 라고 하던데요. 저는 나이듦과 자기서사에서 [랭스로 되돌아가다]를 읽고 처음으로 사회적 계급에 관해 관심을 갖게 되었습니다. 그런데결국은 이루어지고 말게 될 AI will take my job.이 전문직의 입장에서 AI가 내 일을 대신하게 됐어라는 뉘앙스가 되는 것과, 노동자의 입장에서 AI가 내 일을 뺏어갔어.ㅜㅠ라는 건 상당히 입장의 차이가 크다고 생각합니다. AI의 사용과 발전에 대해 철학적 논의가 필요하다, 사회적 합의가 필요하다. 다 알겠고 동의하는데 여기서 결국 모든 일자리를 잃거나. 일을 하더라도 AI의 부림을 받는 입장이 되거나 전문직 혹은 AI를 다룰 줄 아는 계급에 의해서 부림을 당하게 될 노동자 계층은 계속해서 존재할게 될 것 같습니다. 그렇다면 이들의 인간적 권리는 어떤 방식으로 이 논의에 포함될 수 있을까요. 아니면 사회적 지도층, 지식인층에 속하지 못하는 인간들은 지금의 이 논의들에 대해서도 뒤쳐지거나 잘 모르는채로 급변하는 인공지능 시대를 맞이하게 될텐데 이들은 AI에 대해 전혀 시급한 상황을 모르거나, 대처 방안을 생각지도 못한 상황에서 어떻게 보호받을 수 있을까요. 과연 AI의 윤리나 합의에 이들이 포함된 논의가 진행되기는 할까요. 물론 몇군데 인공지능 관련 윤리 문서를 읽어보니 장애인이나 노약자들이 포함되기는 했습니다만 실질적으로 노동자 계층 혹은 사회적 소외 계층이 역사적으로 포함되어 제대로 보호받는 사회가 있기는 했었는지.... 아주 부정적이라고 생각합니다. AI는 결국 이런 사회적 계급을 아주 명확하게 고착화하는 데 급속도로 일조하는 장치가 될 것 같습니다.

질문모음