AI, 인공지능에 대한 오해 (에필로그: 트랜스휴머니즘의 환상) feat. 존 레녹스 교수

본편에서는 <AI 인공지능에 대한 오해>의 1부, 2부에 담지 못한 내용을 간단히 담고 시리즈를 마치려 합니다. 

AI,인공지능에 대한 오해 (1부: Science Fiction과 Fact 구분하기)

AI,인공지능에 대한 오해 (2부: 챗GPT비평) feat. 노암 촘스키, 개리 마커스

 

 

옥스포드 대학교의 명예교수(emeritus) 존 레녹스 교수는 <2084: Artificical Intelligence and the Future of Humanity> 라는 책을 쓴 바 있습니다. 저도 관련해서 강의는 들어봤지만 아직 책은 읽어보지 못했죠. 

 

2021년 7월에는 Talks at Google에서 책과 관련된 강연을 하기도 했죠. 

 

 

레녹스 교수는 트랜스휴머니즘과 기독교를 비교하며 흥미로운 이야기를 합니다. 

그 인터뷰 내용을 번역하여 올립니다.

 

존 레녹스 교수가 말하는 인공지능과 기독교 

 

Q. 인공지능의 개념에서 트랜스휴머니즘을 설명해줄 수 있으신가요?
Can you Explain the AI concept of Transhumanism? 

 

존 레녹스 교수 답변: 

 

재미있게도 트랜스휴머니즘이란 단어의 어원은 세속적 아닙니다. 
그 단어를 처음 사용한 것은  과학자가 아닙니다. 

단테의 신곡의 번역판에서 처음 사용되었습니다. 

 

Divina Commedia - 단테의 신곡을 모티브로 &nbsp;Giovanni Di Paolo가 그린 그림 (출처: British Library)

천국편에서 단테(Alighieri Dante)는  자신의 부활한 몸을 상상하려고 노력하던 중 이렇게 말합니다. 

언어로 표현하지 못할 Trans-Human Change, '인간을 초월한' 변화 

 

Standford University - Institute Faculty

정치과학자이자 'The End of History and the Last Man (한글판 제목: 역사의 종말) '의 저자 프란시스 후쿠야마(Francis Fukuyama)는 트랜스휴머니즘은 인권을 침해하기 때문에 세상에서 가장 위험한 사상이라고 이야기 합니다. 

 
전 더 나아가 AGI의 위험과 트랜스휴머니스트들의 어젠다가 바로 여기에 있다고 생각합니다. 

우리 세대는 거의 처음으로 칩(반도체)를 인간의 뇌에 이식할 수 있는 첫 세대 입니다. 

(일론 머스크의 '뉴랄링크'가 FDA로부터 인체실험 승인을 받음 - BBC 기사 링크)

Neuralink: Elon Musk's brain chip firm wins US approval for human study

 

한편, 인간의 근본적인 사양(스펙)을 생식세포를  변경하여 어떤 '존재'가 미래에 존재할지를 결정할 수 있는 시대이기도 합니다. . 

( NIH 문서 링크) (WHO 문서 'Human Genom Editing' 링크)

Risks and benefits of human germline genome editing: An ethical analysis

 (The Regulation of Human Germline Genome Modification in Europe - Cambridge University Press - 링크)

제가 제 책 2084 (한글번역서 링크 | 원서)쓴 이유는 바로 이것 때문입니다. 

2084: Artificial Intelligence and the Future of Humanity

AGI 어젠다는 무신론자들이 주도 하고 있고 우리가 오늘날 마주할 수 있는 가장 깊은 질문을 하고 있죠. 

 

인간은 무엇인가?
인간은 어떤 존엄과 가치, 권리를 가지고 있는가 ? 
what is a human being? 
What dignitity, what value, what rights does a human being have? 

수년 전, C.S 루이스는 이 주제에 대해 아주 중요한 두 권의 책을 썼습니다. 

한 권은 인간폐지  (The Abolition of Man -Kindle $1.09)이고, 다른 한 권은 '그 가공할 힘 that hideous strength (킨들판 $1.09)입니다. 

그는 인간의 '사양'을 과학자들이 변경할 수 있는 시대의 위험에 대해 이야기 합니다. 그리고 과학자들이 만들어낼 것은 인간이 아니라 그들의 사양에 맞는 '가공품'일 거라고 지적합니다. 

'예상외의 결과 법칙'이 크게 작용하겠죠. 

그리고 이 세상에서 '악당' 과학자가 인간의 태아 혹은 인간을 가지고 실험을 하여  '괴물' 인종을 탄생시킬 위험이 있죠. 그건 되돌릴 수 없습니다. 

이 모든 것들이 제게 인간의 본성이 무엇인지 더 진지하게 생각해봐야할 필요가 있다고 알려주고 있습니다. 

 

거기서 제 기독교가 작용하고, 성경적 세계관을 가지고 오고 싶게 하죠. 

우리는 인간, 1호 모형, 마크 1, 인간이 어떤지 찾을 수 있습니다. 

우리는 신의 형상대로 만들어지면서 무한한 존엄과 가치를 얘기하죠. 

전 우리가 이런 통찰을 토론의 장에 가지고 와서, 성경적 세계관을 이 상황에 가져와야할 필요가 있다고 생각합니다. 

 

(인터뷰 원문 접음 처리) ↓

The origin of the world TransHumanism interestingly enough is not secular at all. 
It wasn't first-used by a scientist. But it was used in a translation of one of the books of Dante, his Paradiso, it occurs in a passage where Dante, is trying to imagine, the ressurection of his own body. He says, and I quote,
:"Words may not tell of that, Trans-Human change"

And the political scientists and author of the End of History, Francis Fukuyama. 

He regards TransHumanism as the world's most dangerous idea. because it runs the risk of infringing human rights.

Now I would go further than that. I would say this is where the great danger of AGI, and its tranhumanist agenda resides. 

We're almost in the first generation of that is capable not only of implanting chips in human brains and so on. but actually of altering the fundamental specification of human beings by reconficuring their gernline and therefore determining, the kind of beings that will exists in the future. 

Now one of the reason I wrote my book, 2084: the artifical intelligence, the future of humanity, was precisely this, that AGI whose agenda is largely driven by atheists so far, as I can see, is raising perhaps the deepest question of all that we face today. 

 

what is a human being? what dignitity, what value, what rights does a human being have? 

and many years ago, C.S Lewis wrote two books, that I think are seminal for understanding this: the first one is the abolition of man, and the science fiction novel called That Hideous Strength. 

and he talked about the danger, a group of scientists being able one day to alter the very specification of human beings. And he points out what they will make are not human beings, but arttifacts made under THEIR specification, 
the Law of unintended consquences is likely to have huge effects. 

and there is danger in this world, that rogue scientists will start taking human embryos,  or human beings who exist and experimenting on them, and producing a race of freaks that is irreversible. 

where we find that humans, model one mark 1, humans like .we are, are given an infinite dignity and value, because we're made in the image of God. 
and I believe we need to bring that insight to the table, bring a bit of reflection on the biblical worldview into the situation. 

so, all of that tells me that we need to think seriously about human nature. 
and that's where my Christianity comes in, I want to brin the biblical world view. 

 

---
Q. Are there things humans can do that AI will never be capable of ? 
인간이 할 수 있는 것들 중 인공지능이 절대 할 수 없는게 있을까요? 

존 레녹스 교수 답변: 

이 질문을 마주하는 건 늘 어렵습니다. 

하지만 전 펜로즈의 인공지능에 대한 주장(번역본: 황제의 새마음)에 일리가 있다고 생각합니다. 

 

인공지능은 그 정의에 따라, '의식이 있는 지능 (인간지능)'이 할 수는 것을 하지 못할 것 입니다. 

의식의 문제가 바로 그 길에 서있죠. 

누군가 제게 의식이 무엇인지 설명해주기 전까지는 전 이 가능성들에 대해 깊이 회의적일 겁니다. 


물론 그렇다고해서 AI가 많은 문제를 해결해주지 못할 거란 건 아닙니다. 

Narrow AI(혹은 약 인공지능)가 이미 많은 문제를 해결하고 있죠. 하지만 슈퍼-인텔리젼스, 초지능은 전혀 다른 문제 입니다. 


맥스 테그마크(Max Tegmark)와 같은 물리학자가 인공지능에 대해 주장하는 바는 흥미롭습니다.

그는 흥미로운 시나리오를 썼죠. 

만약 우리가 '슈퍼 인텔리전스' / 초지능을 만들어낸다면, 그것이 인류의 마지막 발명이 될 거라는 거죠.

 

슈퍼-인텔리젼스가 (인류를) 장악할 것이기 때문입니다. 

그것이 무해할까요? 인간을 애완동물로 그냥 둘까요, 아니면 통째로 파괴할까요? 

인간이 '신'과 같이 될 때 무슨 일이 일어날지에 대해서도 역시 거대한 영역에서의 추측이 있습니다. 

제겐 그게 흥미롭습니다. 

왜냐구요?

인간이 신이 된다는 생각은 굉장히 오래 됐습니다.

인간이 신이 된다는 건 극도로 고대의 사상이죠.

거의 모든 문화에 존재해요.

 

그건 성경의 초반에서 시작됩니다.

인간의 근본에 대한 공격이 추천됩니다.

 

신을 거역하고 선과 악의 지식의 열매을 먹으라고 하죠. 그 금지된 과실을 먹으면 신이 되어 선과 악을 알게 될 거라는 거죠. 그리고 그들은 그걸 먹고, 선과 악을 안다는 것은 안 좋은 건 끔직한 것이라고 알게 되고, 그건 온 세상에 영향을 미쳤죠. 

 

이미지 출처 : thegospelcoalition.org

그리고 그건 신을 왜곡합니다. 

그래서 많은 사람들은 신이 존재한다면, 자신의 적이라고 생각해요.  

그리고 (신이) 그들을 억압하려한다고 생각하고, 그들의 잠재력을 실현시키지 못하게 하려한다는 거죠. 

---

흥미로운 건 트랜스휴머니스트는 우리가 인공지능과 다른 기술을 통해 인류의 잠재력을 최대화 시킨 존재로 하고자 하는 거죠. 다른 말로는 '신'이죠. 

우리는 인간의 죽음의 문제를 해결할 거고 - 죽고 난 후 우리의 두뇌를 업로드 해서 '영원히 사는 거죠. (물론 가장 부자들만 이겠지만요). 이런 생각들은 환상적인 생각입니다.

하지만 기술로는 인간의 죽음의 문제를 해결하지 못합니다.

 

왜인지 말씀드리죠

그 시도는 이뤄진바 있습니다. 

소련에서 '신인류'(New Soviet Man)를 만들고자 했고, 유토피아를 만들려고 했죠. 

(※역자주: 블라디미르 레닌의 볼셰비키(좌익 다수파)가 러시아인들을 대상으로 잔인한 과학 실험을 함)

 

모두 실패 했습니다. 

왜냐구요? 

그들은 인간의 죄와 악의 문제를 우회했기 때문이죠. 

그건 인류의 고질적인 문제이죠. 


그리고 이 모든 것의 아이러니가 있습니다. 
전 밀리언 셀러인 하라리의 책(homo deus)을 읽어봤습니다. 

 

그는 우리가 기술을 통해 '죽음의 문제'를 해결할거라고 하죠. 

전 '너무 늦었다고' 말합니다. 

20세기 전에 죽음의 문제는 해결되었습니다. 

예수 그리스도가 죽음에서 다시 일어났고, 그는 만약 우리가 인류의 고질적인 문제인 악과 죄의 문제를 마주하고, 우리의 삶을 통해 만든 문제에 대해 회개하면 그가 우리에게 죽음을 초월할 새 생명을 줄거라는 약속을 했죠. 이건 코로나19도 초월합니다. 

죽음에 대한 해결책은 예수 그리스도를 믿는 사람들에게 이미 주어졌습니다. 

(뇌를) 업로드 한다는 것에 대해서 아이러니가 있습니다. 

그들(트랜스휴머니스트)들은 우리가 뇌를 실리콘에 업로드 할 거라고 하지만, 우린 그럴 필요가 없죠. 

그리스도가 그를 믿는 사람들을 위해 돌아올 거고, 천국으로 '업로드'할 거라고 약속했으니깐요. 




제가 두 종류의 업로드를 비교한다면, (하나는 트랜스휴머니스트, 다른 하나는 성경적인 것), 전 성경적인 업로드를 선택하겠습니다. 

그 쪽이 주장하는 진실에 대해 훨씬 더 증거가 많기 때문이죠. 

예수의 부활은 역사적 사실인가요? (feat. 성경 밖 역사 속 예수에 대한 기록) -1부

 

그건 물론 다른 자리에서 얘기해야겠죠. 

 

제가 말하고 싶은 포인트는 이 모든 것들이(트랜스휴머니스트의 환상) 성경이 가르치는 것의 패러디라는 거죠.

 
그렇기 때문에 흥미롭습니다. 

성경적인 세계관에서, 또 역사의 모든 발자취를 돌아보면 인류는 늘 스스로 '천국'에 갈 수 있는 방법을 만드려고 했습니다. 

 

바벨 타워가 유명한 예이지요. 
고대 많은 황제들이 스스로 신성한 권위와 명예를 갖고 있다고 주장했죠. 
카이사르/시저도 그랬죠, 

최근에도 사람들이 신성한 명예(divine honor)가 있다고 한 사례가 있었죠.

구소련은 신인류(New Soviet Man/ Homo Soveticus) 를 만들려고 했죠.

 

우리(인류)가 또 뭘 할지 누가 알 수 있을까요.

소름돋는 것은 성경에서는 미래에 스스로를 신이라고 할 사람이 나타날 것이고 세상을 자기 권한 아래에 두기 위해 여러가지 초자연적인 것으로 보이는 일을 할 거라고 했죠.

경제적으로 보면 그건 테그마크의 시나리오와 같죠. 


제 청원은 아주 간단합니다. 

만약 이 시대를 살아가는 사람들이 테그마크의 시나리오 혹은 1984와 같은 다른 시나리오를 진지하게 받아들일 거라면, 전 그 사람들에게 성경적 시나리오에 대해서도 보고 비교해보라고 권유하고 싶습니다. 

 

그리고 다른 것들과 말이 되는 지 비교해보라는 거죠. 

제 생각엔 굉장히 말이 되기 때문이죠. 

그래서 전 제가 쓴 책에서 공공영역에서 거론되고 있지 않은 기독교의 이런 영역에 대해서 얘기합니다. 

출처: 알라딘

---

<인터뷰 원문 접음>

it's always very difficult  facing questions :what do you think AI can do and cannot do.? 
But I do think that Penrose ahs got an argument that Artificial Intelligence, by definition will not be able to do, all the things that Conscious Intelligecen can do. Because in the way, stands the problem of consciousness. 
and until sombody tells me what consciousness is, I will remain a very deep skeptic. about these possibilities. 

Now that is not to say, that AI will not solve a lot of problems. 
It is already, even Narrow AI solving a lot of problems, but the speculation about the advent of a super-intelligence is a different matter. 
Except for one thing. 
Now the interesting thing is that physicist like Max Tegmark, he has written about A.I. And he has set up interesting a whole set of scenarios: 
 what happens if we create a Super-Intelligence, is that going to be the last invention of humanity. Because the super-Intelligence will simply take-over. 
Will it be benevolent? or Will it keep human beings, a few of them as pets or will it simply regard them as a nuisance and destroy the lot. 
and there's a whole range of speculation of what happens when man in turned into a god like that. 
Now, I find that interesting. 
why?
because, the idea of human beings becoming gods is extremely ancient. in almost every culture in the world. And it begins on the opening pages of the bible where the fundamental attack on humanity comes from the suggestion, 
that if the humans will only disobey God, and eat the forbidden fruit of the knowledge of good and evil, *please, note that the treee of knowledge of, God is not against knowledge* , but if they eat that fobidden fruit, they shall be as gods knowing good and evil. they did eat it. and they discovered knowing good and evil is an awful thing to know, but that infected the whole world. and it 

misrepresents God. so that many people today think that God is their enemy, if any, he exists at all. and that he's trying to suppress them, and not trying to rise to their full potential. 



Now, the interesting thing is this, TransHumanists, they think we'lre going to use A.I, and other technologies to raise humanity to the full potential of being - gods. 

We're going to solve the problem of human death, in the sense that although humans CAN die, but they won't have to die - of course, that's going to be only for  the very wealthy, but we leave that aside at the moment - and then the hope that we'll upload our brains and live forever. but these are uttely fascinating things. But they're not going to solve the problem of human death by techonology. I'll tell you why. 

Because, no technology - and it's been tried before, the Soviets tried to create a new man, and they tried to make Utopia, and other Utopia have been attempted. They've all failed. Why? Because they bypassed the problem of sin and evil. That's endemic to humanity. 

and here's the irony of the whole thing. 

I read Harari and his book, selling millions, he says we're going to solve the techcnological problem of death. 

and I say, you're too late. 
The problem of death has already been solved 20 centuries ago. 
Jesus Christ rose from the dead, and not only that he promises that if we face the endemic problem of human evil and sin. And repent of the mess we've made of our lives and the lives of others. Then he'll give us new life that will trescend death. it'll even transcend Covdi19. 

So the solution to death is already there for the believer in Christ when it comes to the uploading, and here, it's very ironical. They're hoping that by technology we're going to upload brains onto silicon. Well, you don't need to do that because Christ promised those that trust him that he will return for them, and upload them into heaven. 

Now, when I compare the two kinds of uploading, the transhumanist one, and the biblical one, I will choose the biblical one, because they're far more evidence for its truth. Now, that's the subject, of course, for another time. 
but the point is that this whole program, is a parody of what the bible teaches. 
And that's why it's very interesting. 

and the biblical worldview, within it is contained. the fact that all through history. Human beings will make the attempt to build their way to heaven. 
Babel, the tower of Babel, was a famous example. 

Many of the ancient emperors claimed divine honors. 
The Caesar claimed divine honors. 

and even in recent times, with people that seem to claim divine honors, the soviet tried to build a new man, who knows what we're going to try to do. 
perhaps the chilling thing is the Bible indicates that in the future there will be a man who will claim to be god and will do all kinds of, apparently supernatural things, to get the whole world into his power. Economically, now, that sounds exactly like one of Tegmark's scenarios. 

And my plea is very simple. 
If people today are going to take Tegmark's scenario and the scenario of other people, 1984 and so on, seriously. 
Then I would just invite them to have a look at biblical scenario. and compare it with the others and see how much sense it makes, because I think it makes tremendous sense. 

And because of that. 
there has been enormous interest in in the book I've written, that risks going into these areas of Christianity, that aren't often talked about in the public. 

---

시리즈를 마치며 

 

인공지능으로 돈 버는 법, AI가 만든 저작물의 저작권자는 누구인가, 인공지능의 시대에 아이들에게 어떤 직업을 위한 교육을 해야하는가..

 

대부분 이런 주제로 고민을 하고 있겠지만, 더 본질적인 고민이 없다면 정답을 찾기 어려울 수도 있지 않을까요? 

 

인공지능을 마주할 때 해봄직한 철학적인 질문들은 많습니다. 

• 인간은 무엇인가? 
• 단순히 물질로 조합된 동물, 1차원적인 존재인가?
• 아니면 물질로 조합된 생명체 + 비물질적 '무엇' 으로 구성된 좀 더 고차원적인 존재인가? 
• 인간의 의식, 인간의 지성은 DNA에 사전 프로그래밍된 대로 출력하는 자유의지가 없는 존재인가? 
• 육체가 없는 '지성'이라는 것이 가능한 것인가? 
• 육체에서 분리된 뇌, 혹은 '나의 기억과 지성' 만 "업로드" 할 수 있다면, 매개체가 달라진 '나'는 영속할 수 있을까? 

 

이런 상상들로 만들어진 콘텐츠들은 많죠.

 

1980년대의 SF만화의 형태일때도 있었고, 

 

Ninja Turtles - Krang

 

2017년의 '겟 아웃(Get Out)' 과 같이 표면적으로는 들어나지 않는 스타일의 영화로 만들어지기도 합니다. 

 

영화 겟아웃

 

 

나는 내 뇌인가? 라는 질문을 해볼 수도 있죠. 

 

이 모든 것 역시 세계관에 연결되는 질문이죠.

단순히 '과학'만으로 검증할 수 없는.

 

인공지능의 시대. 

어떻게 살아가고 계신가요? 

 

인공지능이 인간을 지배하는 시대가 올까요?

 

개인적으로는 그런 인공지능을 활용해서 다른 "계층"의 인간을 지배하려는 미래는 상상이 되지만, '기계' 자체가 자아를 가지고 나타나는 미래는 그려지지 않네요. '정의definition' 적으로 불가능하다고 생각됩니다.