바이런 리스 지음, 이영래 옮김, 쌤앤파커스 펴냄
AI를 장착한 삼성갤럭시 S24 스마트폰이 출시되어 인터넷에 연결되지 않아도 13개 외국어의 동시통역이 가능한 시대가 열렸다. 우리 인간이 불을 이용하면서 추위를 극복하고 다른 동물로부터 안전을 확보하고 음식을 익혀먹으면서 좋아진 영양상태로 뇌가 커지고 언어가 발달된 것이 1세대라고 한다면, 2세대는 농업이 발달해서 도시가 형성되면서 노동의 분배와 부의 축적이 일어난 점, 3세대는 겨우 5천년 전의 일인데 글자의 발명과 바퀴의 발명이었다고 한다. 제4세대는 인터넷 출현과 함께 우리 인간의 정신과 행동을 대신해줄 로봇과 AI의 등장이다.
세상은 또 얼마나 빠르게 변화할까? 특히나 우리나라 50~60대 삶의 궤적은 세계에서 최고로 가난한 국가에서 선진국에 이르는 엄청난 변화를 겪었고, 지게 지던 농경사회에서 로봇과 AI를 생활 속에서 접하고 있으니 기가 막힐 노릇이다. 내가 원치 않든 원하든 시대의 흐름에서 자유로울 수는 없다. 개인의 삶이라는 것은 어쩌면 시대라는 거대한 강물을 따라 흘러가는 작은 돛단배의 운명인지 모른다.
불은 소화 과정의 일부를 아웃소싱 하게 해주었고 글은 기억하는 일을 아웃소싱 할 수 있게 해주었다. 그러나 글은 우리의 기억력을 손상시킨다. p31
►► 스마트폰을 사용하지 않을 때는 사람들이 몇 개의 전화번호를 외우고 있었다. 하지만 스마트폰 단축번호 기능까지 있는 지금은 외우는 전화번호가 10개 넘어가는 사람이 드물 것이다. 스마트폰에 아웃소싱한 것이다.
기술은 이렇게 발전한다. 다른 사람들이 이루어놓은 것을 점진적으로 개선해서, 다시 말해 아이작 뉴턴이 거인의 어깨에 올라서서 더 먼 곳을 본다고 표현한 그런 절차를 거쳐서 말이다. p36
►► 무에서 유를 창조하는 기술은 거의 없다. 만들어진 계단에 한 계단 쌓아 올리는 기술이 많다.
주판이 아이패드로 발전하는 데는 거의 5,000년이 걸렸지만, 지금부터 25년 후면 우리는 아이패드보다 앞선, 주판과 아이패드 격차만큼 앞선 어떤 것을 갖게 될 것이다. 그것이 무엇이 될지는 상상할 수도, 헤아릴 수도 없다. p41
►► 소화가 쉽다고 부드러운 음식만 먹으면 문제가 생긴다. 모든 계산을 컴퓨터가 해준다고 수학을 공부하지 않으면 인간의 두뇌는 퇴보할 것이다. 스마트폰이 외국어를 번역해준다지만 그래도 해당 언어를 어느 정도 알고 번역 프로그램을 사용하는 것과 전혀 모르고 사용하는 것은 다르다.
인간은 명백히 창발적인 존재이다. 당신은 40개 조의 세포로 이루어져 있다. 그 세포들은 모두 할 일을 한다. 인간이 결혼하고, 아이를 낳으면서 일상적인 일들을 바삐 할 때 세포도 그 역할을 하다가 죽는다. 그 과정에서 세포들은 당신이 존재한다는 것을 전혀 모르며, 그들이 다른 것의 일부라는 것도 알지 못한다. p69
►► 우리 몸 자체가 우주라는 말을 실감한다. 40개조의 숫자가 상상이나 되는가? 세다가 죽을 정도의 숫자이다. 우리 모두는 이렇게 위대한 인간이다. 우리가 태어나서 죽는 것은 한번 이지만 매일 잠을 자고 깨어나는 삶과 죽음을 반복하고 있으며, 피부 머리카락 세포 혈액 등등이 우리의 삶과 죽음 가운데서 더 짧은 주기로 생성과 소멸을 무한 반복하고 있다.
로봇에 대한 우리의 욕구 때문에 우리는 오랫동안 3D에 속하는 일, 즉 더럽고dirty, 위험하고dangerous, 지루한dull 일을 하는 로봇을 만들었다. 여기에 또 다른 4D, 환영받지 못하는disliked, 모욕적인demeaning, 진이 빠지는draining, 혐오스러운detestable을 추가할 수 있다. 우리는 이런 일들을 꺼리지 않고 하는 로봇들에게 모두 맡기고 싶어 한다. p85
►► 과거에는 3D 4D 일들을 노예들에게 시켰다. 이제는 자본주의와 글로벌화 된 세상에서 가난한 이들에게나 저개발국가 이민노동자들의 몫이 되었다가 이들이 임금이 올라가면 로봇들에게 맡기려고 한다.
경제력이 노동으로부터 로봇을 소유한 사람들에게로 이동하는 극적인 양상의 표본이 되는 것일까? p87
►► 농경사회에는 왕이나 부자들이 노예를 많이 거느리고 부를 축적했다. 자본과 로봇으로 경제력이 이동하는 걸까?
이 업계 최고 지성 중 한명인 앤드류 응은 다음과 같은 일이 일어날 것이라고 생각한다.
우리가 하는 모든 일을 점진적으로 배우는 AI가 생길 것이다. 기계가 거의 모든 일을 사람보다 잘 할 수 있게 되면, 사회 구조가 흐트러지기 시작할 것이다. 우리는 그에 대한 준비를 갖추어야 한다. p114
►► 어떠한 분야에 AI가 도입될지 아무도 모른다. 나처럼 아직은 휴게소나 식당에서 키오스크 주문과 로봇이 불편한 세대들은 더더욱 그럴 것이다. 인간이 기계나 로봇과 경쟁하는 것은 쉽지 않다. 기계나 로봇이 할 수 없는 일을 찾는 것이 더 중요하다.
20세기 100년 동안 농업이 우리의 일자리를 차지하는 비중은 40%에서 2%로 낮아졌다. 20세기 후반 50년 만에 제조업의 경제비중은 30%에서 10%로 떨어졌다. 같은 20세기 동안 우리는 새로운 직업이 나타나고 또 사라지는 것을 보았다. 이처럼 직업의 변화는 아찔할 정도이다. p121
►► 화학비료, 농기계, 농업기술의 발전과 함께 품종개량 등등을 통해 농업생산성은 엄청나게 올라갔고 당연히 일자리 비중은 줄어들었다. 노동력의 큰 축을 담당했던 한우는 이제 식탁으로 그 영역이 한정되었다. 나 또한 농촌의 변화와 인쇄업종에서 사라진 직업군을 여럿 보았다.
물론 신기술이 일자리를 없앤 경우도 있지만, 역사는 이 신기술이 사라진 일자리를 대신할 또 다른 일자리를 만들어낸다는 사실을 보여준다. p123
►► 신기술은 계속 발전해왔고 수많은 기계들과 로봇 AI 더구나 인구까지 폭발적으로 늘었지만 여전히 대다수 사람들은 일을 한다. 새로운 일자리의 증가속도가 그것들을 모두 상쇄했거나 노동시간을 줄여서 일자리를 나누었거나 일자리를 갖지 않고도 사는 삶이 가능한 사람들이 많아진 영향이리라.
우리는 지금부터 약 10년 후가 되어야 최저 기본소득에 대해 진지하게 논의할 것이다.
로봇이 일자리를 빼앗지 않는다면 기본소득이 채택될 가능성이 없다. 경제성장이 그 필요를 완화시킬 것이기 때문이다. p185
►► 유럽 몇몇 국가들에서도 기본소득 이야기가 나오고 우리나라도 대선 때면 주목받지 못했지만 기본소득 공약이 나왔었다. 기본소득은 복지정책의 완성을 의미한다고 생각된다.
우주 안의 모든 물체 중에 인간의 두뇌는 그 자체로 하나의 범주를 이룬다. 두뇌가 하는 일을 하는 기계를 만드는 것은 대단히 야심 찬 일이기도 오만한 일이기도 하다. 어떤 존재에게 진짜 지능을 갖춘 존재가 되는 것이 그리 어려운 일이 아니라면 그 존재는 분명 정신도 소유하고 있을 것이다. p202
►► 우리의 감정은 어디에서 생성될까? AI나 로봇이 우리 두뇌가 하는 일을 점점 대체하는 영역을 넓혀갈 수는 있겠지만 두뇌가 감정의 영역에 관여하는 부분을 AI나 로봇이 거기까지는 미치지 못할 것이다.
한 가지는 거의 확실하다. 컴퓨터의 역량은 상상하기 힘든 수준까지 계속해서 발전할 것이다. 2050년 즈음 되면, 지구상이 모든 사람의 연산 능력을 합쳐 놓은 컴퓨터의 가격이 2018년 스마트폰의 가격보다 싸질 것이다. p233
►► 내가 느끼기에 한 가지는 거의 확실한 것 같다. 컴퓨터의 상상하기 힘든 발전 속도만큼 인간의 행복지수가 높아지지는 않을 것 같다. 내 정서적으로는 컴퓨터가 아무리 용량이 커지고 발전하더라고 컴퓨터와 친구가 되고 밥을 먹고, 사랑을 나누고 미래를 꿈을 이야기하지는 않을 것 같다.
의식이 있는 기계에게 영혼이 있다고 믿는 사람들이 생기게 될까? 분명 그럴 것이다. 동물에게 영혼이 있다고 믿는 사람들도 있고, 나무에게 영혼이 있다고 믿는 사람들도 있다. p292
►► 기계나 동식물에 영혼이 있다고 하는 것은 사람들이 그렇게 믿고 싶은 게 아닐까? 인간이 인간의 영혼을 돌보고 함께 하지도 못하는 경우가 너무도 많은데. 개팔자 상팔자라는 속담이 만들어질 때는 진짜로 개의 팔자의 상팔자가 아니었다. 하지만 요즘은 선진국의 반려견들은 진짜로 상팔자가 되었다. 가난한 나라의 사람들의 영혼이 개팔자보다 못한 걸까?
우리의 두뇌와 컴퓨터가 직접 상호작용할 수 있게 된다면, 그것은 곧 역사의 종말이다. 우리가 알고 있는 생물학적 종말인 것이다. 이것이 발생했을 때 어떤 일이 일어날지 아무도 짐작하지 못한다. 그 후에 어떤 일이 일어날지에 대해서는 상상하기조차 힘들다. p319
►► 컴퓨터는 컴퓨터로 끝나야 된다. 인간의 역할을 완벽하게 대신하거나 뛰어넘는 컴퓨터가 출현한다는 것은 두려운 일이다. 최소한 컴퓨터에게는 생물학적 삶은 없지 않는가? 컴퓨터에도 내구성이라는 것도 있고 숨통을 끊어 놓을 수 있는 전기라는 것도 있다. 전기와 배터리 없이 작동하는 컴퓨터가 출현할까?
컴퓨터가 이런 특성들을 보이기 시작하면 어떨까? 선물을 주고, 농담을 하고, 결혼하고, 세상 의 종말에 대한 신념을 발전시키기 시작한다면? 그들이 결국 이 모든 특성을 보인다면 말이다. 우리가 컴퓨터를 훈련시키는데 이용하는 모든 데이터를 생각하면 설득력이 없는 이야기가 아니다. 컴퓨터가 이 모든 것을 한다면 과연 그들은 인간일까? p327
►► 컴퓨터가 인조인간의 형체를 갖는다면 우리 인간이 컴퓨터와 인간을 구분해서 상대할 수 있을까? 굉장히 혼란스러울 것 같다. 이미 그런 영화들은 많이 나왔다. 영화속에서 AI 인조인간 가정부가 육아와 가사노동을 실제 아내보다 더 잘한다. 인간과 인조인간의 구분이 모호해지는 시대가 오면 그것이 인류의 종말이 될 것이다.
아무도 인터넷을 예측하지 못했다. 우리는 우연히 인터넷을 만났다. 현재 인터넷은 원래 만들어진 목적과는 완전히 다른 목적으로 사용되고 있다. 미국 국방고등연구계획국은 세상에 소비자 파일 공유나 커뮤니케이션 네트워크가 필요하다고 생각해서 인터넷을 만든 것이 아니다. 하지만 우리는 그런 것을 필요로 하는 것으로 밝혀졌다. p343
►► 내가 10대 때 상상하지 못했던 것들이 지금 현실에서 아무렇지 않게 사용되고 있다. 가전제품 종류도 얼마나 늘었고, 일하고 노는 모습도 엄청 바뀌었다. 제약분야에서도 목적했던 효과보다 엉뚱한 효과로 탄생한 약들이 많다. 미래의 인간들이 무엇을 더 필요로 하고 무엇을 좋아할지는 미래에 도달할 때까지는 여전히 의문부호다.
세계 기아 인구의 79%는 식량 순수출국에 살고 있다. p347
►► 식량이 없어서 굶는 것이 아니라 분배가 이뤄지지 않아서 돈이 없어서 굶는 것이다.
세계 평균 의료 지출은 GDP의 10%이다. 모두 의료비를 감당하느라 허리가 휜다는 이야기다. 맥 빠지는 이야기이긴 하지만, 영원히 이런 문제가 지속되는 것은 아니다. 기술의 가장 중요한 특성 중 하나는 시간이 지나면서 힘은 증가하는 반면 가격은 낮아진다는 것이다. p354
►► 의료비 지출이 늘어나고 의사의 연봉이 치솟고 똑똑한 학생들 대다수가 의대를 지망하는 나라인데 우리나라 의사들은 의대정원 확대에 결사반대하고 있다. 의대 법대도 좋지만 정말 천재들은 과학기술 분야로 진출해야 인적자원으로 먹고사는 우리나라의 미래가 있다.
물론 결정은 언제나 당신의 몫이다. 하지만 AI는 당신을 당신보다 잘 알 것이고, 당신은 AI의 조언을 신뢰하게 될 것이다. p365
►► 쿠팡에서나 유튜브 포털에서 내가 관심 있는 분야를 검색하고 나면 이놈들을 줄기차게 관련된 내용을 들이댄다. AI가 이미 내 관심분야를 파악한 것이다. 내가 들고 다니는 스마트폰이 내 동선과 관심분야의 빅데이터를 나도 모르게 수집하고 있다.
제 5시대를 불러오는 것은 우리의 능력에 달려 있다. 우리는 스스로 그런 미래를 만들고 차지할 수 있다. 그것은 더 이상 헛된 꿈이 아닌 이룰 수 있는 현실이다. 그것은 더 이상 자원의 문제가 아닌 의지의 문제이다. p389
►► 제 5시대가 오는 것이 우리 인류에 행복인지 판단하기 힘들다. 또 5시대가 온다면 얼마나 세상은 바뀌어 있을까? 내게는 지금의 4시대도 벅차다.
