[추천] 마침내 특이점이 시작된다 : 인류가 AI와 결합하는 순간 (레이 커즈와일 저, 이충호 역 / 비즈니스북스, 2025.06.13.)

기술적 특이점에 관한 레이 커즈와일의 두번째 저서. 전작인 "특이점이 온다"를 독파하지 않아도 무방하다. 저자와 내용에 대해서는 무슨 말이 더 필요하겠냐만은, "그간의 기술 발전에 따라 우리의 삶이 부지불식 간에 큰 폭으로 개선된 것 처럼 인공지능이라는 새로운 기술로 인해 앞으로의 우리의 삶도 엄청난 개선이 있을 것이다....."라는 내용을 4장과 5장에서 다루고 있는데, 분량이 다소 과다해서 지루할 수 있다. 또한 일부 내용은 기술에 대한 지나친 낙관론으로 보이지만, 미래의 기술에 대한 사람들의 '지금' 인식이  그간 회의적이었던 점을 고려한다면 그 낙관을 망상으로 치부할 수는 없을 것이다. ★★★★☆ 

이미지 출처 : kyobobook.co.kr

추천글

이번에 추전하고 싶은 책은 컴퓨터과학자이자 미래학자인 레이 커즈와일의 “마침내 특이점이 시작된다”이다. 올해 6월 중순에 국내에 번역되어 출간된, 아주 따끈따끈한 책으로 2005년, 그러니까 지금으로부터 20년 전에 동 저자가 출간한 “특이점이 온다”라는 책의 후속작이다.

이번에는 보다 감성적인 느낌의... 읽기 편안한 산문집이나 미술 관련 책을 추천할 생각이었는데, 이 책이 한달 전에  국내 출간되면서 IT 분야에 종사하는 많은 사람들이 뜨거운 관심을 보이고 있어 이번엔 이 책으로 추천한다.

제목에 있는 '특이점' singularity 이라는 용어는 물리학에서 주로 사용되는데, 블랙홀의 사건의 지평선 너머에서 빛조차 빠져나오지 못하고, 시공간이 휘어져서 일반적인 물리 법칙들이 더 이상 적용되는 않는 지점을 의미한다. 이 책에서는 특이점을 은유적으로 제시하는데, "인공지능(AI)의 발전 속도가 기하급수적으로 빨라져 인간의 지능을 초월하고, 이로 인해 사회와 문명이 급격하게 변화하여 예측 불가능한 새로운 시대가 도래하는 시점"을 의미한다.

커즈와일은 2005년에 출간한 전작에서, 2029년에 기계가 인간 수준의 지능에 도달할 것이며, 2045년에는 인간과 기계가 완전히 융합되는 특이점이 올 것이라고 예언했다. 2005년 당시 우리는 스마트폰이 아닌 피쳐폰, 그러니까 애니콜을 사용하고 있었고, 디지털 카메라를 별도로 사서 들고 다니던 시기였으므로 그의 예견은 무모한 기술 낙관론자의 망상 쯤으로 치부했었다.

그러나, 커즈와일이 예견한 그 시기는 20년 후에 정확하게 도래했고, 그가 당시 예견한 미래 모습의 일부를 우리는 현재 목도하고 있다. 이런 상황 속에서 그가 이번 책에서 "지금의 기술 수준을 어떻게 설명하고, 또 앞으로 우리에게 다가올 미래의 모습을 어떻게 그려낼지" 매우 궁금해 진다.

커즈와일은 2005년 전작에서 "우리는 이 전환의 초기 단계에 있다"라고 주장했지만, 이번 책에서 그는 "이제 우리는 그 정점에 진입하고 있다"라고 말하고 있다. 전작이 "먼 지평선을 언뜻 보여주는 것"이었다면, 이번 책은 "그 곳에 도달하는 마지막 수 킬로미터의 구간"을 보여주고 있다. 그러면서 커즈와일은 다음과 같이 이야기한다.

5년 내로 기계가 인간과 같은 인지 능력, 학습, 추론을 구현하고, 20년 후에는 인공지능과 인간의 지능이 융합되는 형태로 기술적 특이점이 도래할 것이다... 즉, 뇌-컴퓨터 인터페이스를 통해 각 개인의 지능이 클라우드에 저장되고, 인공지능과 융합되면서 '인지 추상 능력'의 엄청난 도약이 이루어지고, 인류는 새로운 종으로 재탄생한다는 것이다. 그와 더불어 인류는 인간 고유의 의식, 창발, 자유의지가 무엇이며, 과연 우리는 누구인가?라는 존재론적인 혼란에 빠지게 되지만, 기술의 발전에 맞게 이를 해결할 수 있는 방안도 함께 찾게 될 것이다... 라는 것이다.

커즈와일의 이러한 과감하고도 낙관적인 예측은 노스트라다무스 식의 점성술이나 영감에 따른 예언이 아닌, 여러 증거 기반의 예측이라는 점에서 주목할만 하다. 즉, 가격 대비 컴퓨터 성능이 지수 함수적으로 증가해 왔다는 점, 최근 생물학과 나노 기술의 놀라운 발전 등에 근거를 두고 있는 점에서 이제 우리는 그의 주장을 20년 전 보다 더 진지하게 받아들일 준비가 되어 있어야 한다.

최근 엔비디아, 젠슨 황과 같이 최신 기술에 관한, 그리고 그 기술을 이끄는 사람에 관한 책들이 많이 출간되고 있다. 그러면서 동시에 디지털 기술 발전에 따른 부작용과 "이것이 과연 옳은 길인가?"라는 철학적 고뇌가 담긴 책, 예를 들어, "불안 세대(조너선 하이트, 2024)", "경험의 멸종(크리스틴 로젠, 2025)", "편안함의 습격(마이클 이스터, 2025)" 등과 같은 책이 온라인 서점에서 상위에 랭크되는 상황은 우리게에 주는 함의가 적지 않다. 

기술 발전의 양가적인 측면을 항상 인식하고 그에 대한 대비도 중요한 시점이다. 그러한 측면에서 충북교육청이 추진하고 있는 '모두의 다채움'과 더불어 '어디서나 운동장', '언제나 책봄', '온마을 배움터' 등을 통해 전인적인, 진정한 실력으로 이끄는 충북교육청의 정책은 이러한 측면에서 매우 시의적절하고, 또 의미있다고 생각한다.

지난번에 추천했던 "박태웅의 AI 강의" 보다는, 좀 더 깊이있고 전문적인 내용을 다루고 있지만, 과학교양서의 고전 "칼 세이건의 코스모스" 처럼 하나쯤 소장하고 있어도 될 만한 좋은 책이다. 소장 가치로 따진다면, 전작인 "특이점이 온다"도 함께 추천한다. 800페이지가 넘는 매우 두꺼운 책이지만, 20년 전에 커스와일이 지금의 인공지능 기술을 어떻게 예견하고 있는지 다시 역으로 확인해 보는 것도 독서의 색다른 재미를 선사할 것이다.

 

감수의 글

그에게 특이점은 단순한 사건이라기보다는 사피엔스라는 존재가 생물학적 한계를 넘어 스스로를 재건하는 순간이다. 그래서 특이점은 파국이면서, 동시에 새로운 탄생이라고도 할 수 있다. (p8)

실리콘의 한계는 기술적 대체물로 극복될 것이기에, 광컴퓨팅, 3D 트랜지스터, 양자컴퓨터와 같은 대체재들은 이미 모습을 드러내고 있다. 커즈와일은 이것을 '수확 가속의 법칙'이라고 명명해왔다. "기술의 가속은 우연이 아니라 필연이다." 그리고 이 필연의 끝엔 특이점이 기다린다. (p9)

머리말

<특이점이 온다> 머릿말에서 나는 우리가 "이 전환의 초기 단계"에 있다고 말했다. 이제 우리는 그 정점에 진입하고 있다. 그 책이 먼 지평선을 언뜻 보여주는 것이었다면, 이 책은 그 곳에 도달하는 마지막 수 킬로미터 구간을 보여준다. (p23)

이 책은 특이점에 대한 우리의 최종적인 접근법을 다룬다. 즉, 우리가 알고 있는 세계의 마지막 세대로서 우리가 함께 맞닥뜨려야 할 기회와 위험을 다룬다. (p24)

제1장 우리는 여섯 단계 중 어디에 있는가?

2030년대에 완성될 한 가지 핵심 능력은 우리 신피질의 위쪽 영역을 클라우드에 연결하는 것으로, 그렇게 되면 우리의 사고가 직접적으로 크게 확장될 것이다. 이제 AI는 경쟁자라기보다는 우리 자신의 확장된 일부가 될 것이다. 이런 일이 일어날 때 쯤이면 우리 마음에서 비생물학적인 부분이 생물학적 부분보다 수천 배나 많은 인지 능력을 제공할 것이다. <중략> 이 불가해한 변화 속도와 규모 때문에, 우리의 미래를 제대로 묘사하려면 물리학에서 특이점 은유를 빌려오지 않을 수 없다. (p30~31)

제2장 지능의 재발명

민스키는 주어진 문제에 대해 자동화된 해결책을 내놓는 방법이 두 가지 있다고 가르쳐주었다. 하나는 기호적 접근법이고, 또 하나는 연결주의적 접근법이다. (p38)

규칙 기반 시스템의 복잡성을 바라보는 한 가지 방법은 실패 가능성이 있는 지점의 집합으로 보는 것이다. <중략> 따라서 이미 존재하는 규칙이 많을수록 새로운 규칙이 추가될 때마다 가능한 부분집합의 수가 훨씬 더 많이 늘어난다. 가능한 규칙 조합 중에서 극히 미미한 비율만 새로운 문제를 일으킨다하더라도, 문제를 해결하기 위해 새로운 규칙을 하나 추가할 때 새로운 문제가 하나 이상 발생할 가능성이 높은 지점이 반드시 생긴다(이 지점의 정확한 위치는 상황마다 다르다). 이것이 바로 복잡성 한계이다. (p41~42)

이 네트워크는 똑똑한 규칙을 사용하는 대신에 데이터 자체에 통찰력을 추출할 수 있는 방식으로 배열된, 똑똑하지 않은 노드를 사용한다. <중략> 연결주의적 접근법의 중요한 이점 한 가지는 문제를 이해하지 않고도 풀 수 있다는 점이다. (p42)

2022년 4월, 5400억 개의 파라미터를 사용한 구글의 PaLM 모델은 이 문제에서 경이로운 진전을 이루었는데, 특히 우리의 지능에서 기본적인 두 분야인 유머와 추론적 사고에서 두드러인 성과를 보였다. (p84)

오늘날 남아 있는 AI의 결함은 몇 가지 주요 영역으로 나누어지는데, 그 중에서 가장 중요한 것은 맥락 기억과 상식, 사회적 상호 작용이다. (p89)

결국 '뇌-컴퓨터' 인터페이스는 사실상 비침습적 과정으로 만들어질텐데, 무해한 나노 크기의 전극을 혈류를 통해 뇌에 집어넣는 방식이 될 가능성이 크다. (p110)

우리가 마지막으로 신피질을 더 얻는 시점인 200만 년 전에 일어난 일을 기억하는가? 그때 우리는 인간이 되었다. 우리가 클라우드에서 추가적 신피질에 접속할 때 일어날 인지 추상 능력의 도약도 그와 비슷할 것이다. 그 결과로 현재 가능한 예술과 기술보다 엄청나게 풍부한(우리가 현재 상상할 수 있는 것보다 훨씬 광범위하고 심오한) 표현 수단이 발명될 것이다. (p112)

이 기술은 우리가 만들고 있는 초지능과 우리를 융합하게 해줄 것이기 때문에, 우리는 사실상 자신을 다시 만들게 될 것이다. 머리뼈라는 울타리에서 해방되어 생물학적 조직보다 수백만 배 더 빠른 기질에서 처리함으로써 우리 마음은 기하급수적으로 성장할 힘을 얻게 될 것이며, 궁극적으로 우리의 지능은 수백만 배나 팽창할 것이다. 이것이 내가 정의하는 특이점의 핵심이다. (p113)

제3장 나는 누구인가?

더 정교한 행동을 지원할 수 있는 뇌가 더 정교한 주관적 의식을 낳을 수 있다. <중략> 기록된 역사에서 일어난 모든 지적 도약은 석기 시대 이래 구조적으로 동일한 상태로 머문 뇌에서 일어났다. <중략> 2030년대와 2040년대에 신피질 자체를 증강할 수 있게 되면, 우리는 단지 추상적인 문제 해결 능력을 추가하는데 그치지 않고, 주관적 의식 자체가 더욱 심화될 것이다. (p120)

"물체를 조금씩 점진적으로 교체해갈 때 그 정체성은 어떻게 변하는가?"라는 질문은 2,500년 전에 처음 제기된 '테세우스의 배' 사고 실험으로 거슬러 올라간다. <중략> 새로운 널빤지를 추가할 때, 이전의 널빤지를 모두 모아 창고에 따로 보관한다고 상상해보라. 이제 원래의 배에 있던 널빤지 100%가 새로운 널빤지로 교체되고 나면, 창고의 낡은 널빤지들을 조립해 배를 다시 만들 수 있다. 자 이제 어느 배가 원래의 배인가? (p136~137)

우리의 뇌는 몇 개월마다 거의 완전히 교체되는 셈이며, 우리는 얼마 전의 자신과 비교하면 생물학적 버전의 두 번째 나이다. 여기서도 나의 정체성을 온전하게 유지시켜주는 것은 정보와 기능이며, 특정 구조나 물질이 아니다. (p139)

2040년대 초가 되면, 나노봇이 살아 있는 사람의 뇌로 들어가 그 사람의 기억과 개성을 형성하는 모든 데이터를 복재해 '두번째 나'를 만들 수 있을 것이다. (p151)

제4장 삶은 기하급수적으로 개선되고 있다

수확 가속의 법칙이 정보 기술에서 그토록 큰 위력을 발휘하는 이유는 피드백 고리가 혁신의 비용을 편익보다 훨씬 낮게 유지해 진전이 계속 일어나기 때문이다. 그리고 인공 지능이 점점 더 많은 분야에 응용되면서, 지금 컴퓨팅 분야에서 아주 익숙한 현상이 된 기하급수적 성장 추세가 이전까지만 해도 진전이 매우 느리고 비용이 많이 들었던 의학 같은 분야에서 가시적으로 나타나기 시작할 것이다. (p164)

또 다른 진화적 적응은 과거를 실제보다 더 나은 것으로 기억하는 심리적 편향으로, 이것은 문서 기록으로 충분히 입증된다. 고통과 괴로움에 대한 기억은 긍정적 기억보다 더 빨리 사라진다. <중략> 반대로 현재를 생각할 때 우리는 현재의 걱정거리와 어려움을 더 심각하게 여긴다. (p166~167)

"낙관주의는 미래에 대한 근거없는 추측이 아니라 오히려 자기실현적 예언이다." 더 나은 세계가 정말로 가능하다는 믿음은 그것을 만들기 위해 열심히 노력하도록 자극하는 강력한 동기가 된다. (p173)

처음에 이 과정은 아주 느리게 진행되었고, 조무보 세대와 그들의 손자 세대 사이의 생활 방식 차이는 미미하여 일반적으로 눈에 띄게 드러나지 않았다. 하지만 수백 년 동안 완만하게 진행된 이 추세는 사회적 안녕의 모든 측면에서 점직적이지만 유의미하게 증가하는 궤적을 남겼다. (p176)

여기서 중요한 사실은, 지금까지 이야기한 모든 발전이 기하급수적 성장 추세 중 느리게 나아가는 초기 단계들에서 나왔다는 것이다. <중략> 여기서 가장 기본적인 추세는 기하급수적으로 향상되는 계산의 가격 대비 성능(즉, 인플레이션을 감안해 보정한 1달러당 초당 연산 횟수)이다. (p225)

그때 라가르드는 내게 왜 현재 이용 가능한 경이로운 디지털 기술에서 경제 성장의 증거가 더 많이 보이지 않느냐고 물었다. 나는 우리가 이 성장을 분모와 분자 모두에 집어넣어 소거한다고 대답했다(지금도 내 대답은 똑같다.) (p226)

대략적으로 평가할 때, 아이폰은 IBM 7094보다 6800만 배 더 빠르며, 비용은 3만분의 1도 되지 않는다. 가격 대비 성능(달러당 속도) 면에서 비교한다면, 이것은 거의 2조 배나 증가한 것이다. (p229)

입사 태양 에너지 중에서 전력으로 전환되는 비율은 현재 약 20%인데, 이론적 한계는 약 86%이다. <중략> 이에 비해 전형적인 풍력 시스템은 약 50%의 효율에 이르렀는데, 이것은 이론적 최대치인 59%에 근접한 수치이다. 따라서 어떤 혁신이 일어나더라도 이 이스템은 크개 개선될 여지가 적다. (p237~238)

다행이도 에너지 저장의 가격 효율성과 용량도 기하급수적으로 증가하고 있다. 이것은 수확 가속의 법칙처럼 기본적이고 지속적인 기하급수적 추세가 이니라는 사실에 유의할 필요가 있는데, 에너지 저장의 개선과 확장은 피드백 고리 생성이 주도하지 않기 때문이다. (239)

제5장 일자리의 미래: 좋은 쪽 혹은 나쁜 쪽?

만약 그들이 "어떤 일자리가 새로 생긴다는 말인가요?"라고 묻는다면, 정직한 대답은 "그건 나도 잘 몰라요. 그것들은 아직 발명되지 않았으니까요. 그것들은 아직 존재하지 않는 산업들에서 생겨날 겁니다."라고 해야 할 것이다. <중략> 만약 내가 정말로 선견지명이 있다면, 1990년에 사람들에게 웹사이트와 모바일 애플리케이션을 만들어 운영하고, 데이터 분석과 온라인 판매를 하는 일자리들이 곧 새로 생겨난다고 말했을 것이다. 하지만 그들은 내가 하는 말이 무슨 말인지 전혀 이해하지 못할 것이다. (p271~272)

1924년 사람들에게 시간 여행자의 능력은 스마트폰 때문에 엄청나게 강화된 것으로 보인다. 하지만 2020년대에 사는 우리는 그런 관점에서 바라보기가 어렵다. 우리는 증강되었다는 느낌이 전혀 없다. 이와 비슷하게 우리는 2030년대와 2040년대의 발전을 활용하여 우리의 능력을 매끄럽게 증강시킬 것이다. (p313)

제6장 향후 30년의 건강과 안녕

제7장 위험

HIV를 처음 발견하고 나서 1996년 그 유전체 서열을 완전히 분석하기까지는 13년이 걸렸지만, 2003년 중등급성호흡기증후군(SARS) 바이러스의 유전자 서열을 분석하는 데에는 불과 31일밖에 걸리지 않았으며, 지금은 많은 바이러스의 유전자 서열을 단 하루 만에 분석할 수 있다. (p361)

제8장 카산드라와 나눈 대화

감사의 말