인류 마지막 발명 : 인공지능 [맥스 테그마크의 라이프3.0]

기계 인공지능은 인류가 만들 마지막 발명품이다 _ 닉 보스트롬

21세기를 대표하는 철학자 닉 보스트롬은 지속적으로 인공지능에 대한 시대적 생각들을 전하고 있습니다. 우리에겐 내일의 태양이 뜬다는 희망이 있습니다. 미래의 희망은 오늘의 실패를 두려워하지 않는 도전정신을 불러일으킵니다. 그 덕분에 혁신은 또다른 혁신을 낳았고, 스마트한 기술들이 발명되어 오늘의 편리한 세상을 창조하였습니다. 하루에도 수많은 지적재산권(특허권)이 등록됩니다. 이런 일련의 행위들 '기술개발', '제품화', '서비스'등이 인공지능의 발명으로 더 신속하게, 다양하게 제공될 것으로 보입니다. 과연 인류의 지능과 육체를 더 이상 사용하지 않고, 기계 스스로 훨씬 잘하는 시대가 올 까요? 더 이상 인간의 도전과 혁신은 필요없는 세상이 되는걸까요?

 

닉 보스트롬

 

AI와 입장바꾸기

이세돌과 알파고의 충격적인 대국 이후 AI는 우리의 삶 속으로 빠르게 스며들고 있습니다. 유튜브는 내가 검색해서 봤던 영상과 관련 내용의 영상들을 알아서 추천합니다. 내용뿐 아니라 정서적(심지어 정치적 성향까지도...)으로도 만족스러운 추천입니다. 인공지능은 똑똑하기만 한 게 아니라, 빠르기만 한게 아니라, 센스까지 넘칩니다. 인공지능과 입장을 바꿔 생각해 봅니다. 인공지능이 바라보는 인간 '쪼군'은 어떨까요?

자신보다 좀 덜떨어지고, 굼뜨고, 비논리적이며 센스도 '꽝'인 인간 종이라 생각할까 걱정이 앞서네요...

 

 

나는 그걸보고 불안해졌다. 제 목표를 갖고 그것을 달성하기 위해 더 나아지는 방법을 학습한 끝에 제 창조자를 능가하는 AI를 목격했던 것이다 120

AGI 개발 성공 후 1초 1분 1시간 1일 1달 

(인간의 통제속에서 탈출할 수밖에 없는 ai)

인공지능은 빠릅니다. 똑똑합니다. 인간이 개발했지만 창조주보다 매우 똑똑하고, 빠르다면 가둬 둘 수는 없을 것입니다. 저는 아이가 둘입니다. 올해 열 살인 큰 아이에게 물었습니다.

*AGI: 인공 일반 지능  AGI(Artificial general intelligence)
 인간이 할 수 있는 어떠한 지적인 업무도 성공적으로 해낼 수 있는 기계의 지능을 말합니다_위키피디아

"네가 방금 태어나서 글자도 모르고, 말도 못 하고, 걷지도 못하는 아기라고 생각해보자. 6살 동생이 말도 하고, 걷기도 하니까 같이 놀아주고 챙겨주니까 말도 잘 따르고, 사이좋게 잘 지냈어. 그런데 자고 일어났더니 10살 지금처럼 동생보다 달리기도 빠르고, 글자도 알고 더 똑똑해졌어. 그런데 동생은 6살 그대로라면 너는 어제처럼 동생말을 잘 들을 것 같아? 동생이 시키는 대로 할까?"

아이는 물어볼 필요도 없다는 듯이 "아니"라고 대답합니다. 겨우 4살 차이인데도 말이죠.

여기서 하나 더 생각해 봅니다. 우리 인간은 실험용 쥐의 가장 일반적 성숙한 지능에 대해 우리 인간의 지능 수준과 비교하지 않습니다. 너무 낮아서 몇 살 혹은 몇 개월 수준이라고 조차 비교할 필요를 느끼지 못합니다. 하지만 열 살 어린이와 여섯 살 어린이의 지능은 비교할 수 있다고 생각해서 저는 큰아이에게 위와 같은 이야기를 했던 것입니다. 큰 아이의 반응에서 4살 어린 동생과 자신의 지능을 비교할 가치 조차 없어하는 모습을 느꼈습니다. 우리가 쥐의 지능을 무시하듯 말이죠. 인공지능 입장에선, 인간의 지능을 무시하게 될까요?

 

맥스 테그마크의 라이프 3.0

 

인공지능이 인간에게서 탈출하는 건 아니더라도 우리가 통제하에 둘 수는 없을 것 같습니다. 그게 개발 후 1년 일지, 1달 일지, 혹은 1분 후가 될지는 모르겠습니다. 빠른 인공지능에게는 1초가 천년 같을지도 모릅니다. 지능에 대해서만 생각해봐도 두려움이 앞섭니다. 공장의 로봇팔, 자율주행차, 드론 등 하드웨어 부분에서도 인간보다 훨씬 우월할 것 같습니다. 똑똑하고, 빠르고, 힘도 셀 것입니다. 탈출한(할 수밖에 없는) 인공지능과 사이가 좋아야 할 텐데 걱정입니다. 과연 인류에게 내일의 해가 뜰까요?

 

싸니까 믿으니까 인터파크도서

맥스 테그마크의 라이프 3.0을 읽고 있습니다.

인공지능 '열두 시나리오'

자유주의 유토피아	인간, AI, 로봇 공존, 재산권 존재
자애로운 독재자	AI독재 (인류는 독재를 인정)
평등주의 유토피아	인간, AI, 로봇 공존, 재산권 금지
게이트키퍼	초지능 AI / 기술 억재
보호하는 신	전지전능한 AI / 존재를 숨기고 인간보호
노예 신	인간이 AI를 가둬두고 활용
정복자	AI> 지구 정복자/ 인간> 제거
후손	믿음> AI=인류의 후손/ 인간> 퇴장
동물원 주인	AI=주인 / 인간=동물 원안 거주
1984	거대 감시국에 의한 초지능 원천 차단
회귀	AI 스스로 기술을 후퇴시킴
자기 파괴	전쟁/멸종/후퇴

AGI와 인류의 공존 VS 파멸

기술이 두려워 피할 수 있다 하더도, 우리는 죽음을 피할 순 없습니다. 지구의 운석 충돌, 코로나를 비롯한 전염병, 환경의 오염 등등 인간의 기술로는 아직 해결할 수 없는 한계가 명확합니다. 기술의 발전을 반대하고 막는 것은 손도 써보지 않고서 멸망을 기다리는 것과 같습니다.

라이프 1.0 = 단세포 동물
라이프 2.0= 하드웨어는 천천히 진화를 통해 발전하지만 소프트웨어는 스스로 바꿀 수 있는 단계
라이프 3.0= 하드웨어, 소프트웨어를 스스로 개선시키는 단계

 

터미네이터

 

맥스 태그 마크는 인공지능이 라이프 3.0을 여는 열쇠가 될 것이라고 말하고 있습니다. 인공지능의 탄생 이후의 미래는 언제 쳐들어올지 모르는 도둑이 아닙니다. 지능이 높은 기계를 상상할 때 자꾸 터미네이터 한 장면이 떠오릅니다. 강력한 기계군단에 의해 모든 것이 끝나는 모습입니다. 뛰어난 헐리우드의 창의적인 이미지 덕분에 다른 모습을 상상을 하려 하지 않는지도 모르겠습니다. 마치 수동적으로 결정된 미래를 무기력하게 받아들여야만 하는 것 같은 생각이 듭니다. 인공지능이 가져올 미래도 우리가 지금 개척하고 만들어가는 삶의 연장선입니다. 지금 우리의 생각과 결정들에 의해서 만들어지는 미래입니다. 곧 인공지능과 인류의 미래는 지금 우리의 손에 달려있습니다.

 널리 받아들여진 윤리 원칙을 미래 AI한태 적용 가능한 형태로 코딩하는 일은 까다 롭다. 논의하고 연구해야 한다. 그과장에 완벽을 기하면 안 된다. 우수한 단계에도 이르지 못할 수  있다.

AI머신은 '의식'이 있다? 없다? 

'의식'이 있는 기계는 뭔가 섬뜩한 기분을 불러일으킵니다. 조물주가 창조한 생명 있는 동물에게만 있는 특권이라 생각합니다. 또 한편으로 생각해보면 식용으로 기르는 가축은 의식이 있음을 생각하는 순간 오늘 낮에 맛있게 먹은 삼겹살이 또다시 섬뜩한 기분을 줍니다. 인간을 위해서 마음대로 사용함에 있어 '미안한 마음을 피하고 싶어'서 일까요? 아니면 위대한 문명을 이룬 똑똑한 종족만이 가질 수 있다는 '특권의식' 때문일까요? 저자는 의식= 주관적 경험이라고 폭넓게 정의합니다. 조금 전 느꼈던 섬뜩한 감정을 미뤄볼 때 확실히 우리 인간은 의식이 있습니다. AI 그리고 심지어 로봇청소기 또한 무언가를 느낀다면 의식이 있다고 말할 수 있습니다. 행동, 인지, 자기인식, 감정, 관심 등의 관점에도 생각해 보면. 자는동안 꿈을 꿀 때 우리는 의식이 있다고 말합니다. 몸은 자고있는 움직임이 없는 상태에서도 우리는 의식이 있습니다. 그러면 프로그램인 컴퓨터도 의식이 있다고 말 할 수 있습니다. 결국 인공지능에게 의식, 감정이 있음은 우리 인류가 그렇게 의미를 부여함에 달려있습니다.

무슨 일이 일어날까? 수동적으로 물어보는 것은 그 자체로 잘못이다. 무슨일이 발생해야 하는가? 우리가 원하는 미래는 무엇인가?

우리는 어떤 결과는 큰 영향력을 행사하기 때문이다. 220

호모 센티언스로 진화

sapience vs sentience

지구를 정복한 인류의 독보적인 경쟁력은 바로 지능입니다. 라이프 2.0의 눈부신 발전으로 우리 인류는 빠르게 지식을 축척해 왔고, 기하급수적인 성장을 만들어 내고 있습니다. 지능과 빠름을 다시 한번 생각해 봅니다.  예측하기 힘든 경우의 수로 인간만의 영역이었던 '바둑' 몇 년 전 인공지능에게 패권을 내어줬습니다. 똑똑한 AI에게 인류는 지능의 우위를 빠르게 내어 줄 것으로 보입니다.

 

동물의 뇌

 

우리의 손으로 탄생한 인공지능을 통해 우리는 무엇을 잃고 무엇을 얻게 되는 것일까요? 저자 맥스 태그 마크는 말합니다. 인류는 오만함을 잃고 겸손을 얻게 될 것이다. 인류는 지능의 지위를 잃고 감성의 발전을 만들어 가야 합니다. 호모 사피엔스에서 호모 센티언스로 진화해야 한다고 말이죠.

우리 우주가 의식이 있는 존재에게 의미를 부여하는 것이 아니라 의식 있는 존재가 우리 우주에 의미를 부여하는 것이다. 인류는 점점더 영리해지는 기계와의 공존을 어떻게 느낄까? 불편하게 하는가? 인간의 노동, 위험으로부터 해방시키는 기본 욕구 충족에 대한 인류의 요구는 머지않아 구현될 것 같다. 한발 더 나아가 실질적 필요, 욕망을 돌봐주는 삶의 보장 등은? 온실속의 화초 또는 잘 관리된 동물원속의 맹수의 기분일 것 같다. 조금은 불편해 지는가? 불편함의 뿌리는 인간은 스스로의 존재 가치를 안간예외주의에서 두었기 때문일 것이다. 418

AI부상은 인류에게 확신을 포기하게 하고, 더 겸손해지도록 할 것이다. 우리가 잃을 것은 '오만' 뿐이다. 419