넥서스 -석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사

 
2025년 3월 21일 한겨레에 실린 유발하라리에 관한 글이다.
"언론과 법, 두가지 장치로 민주주의를 지켜야 한다.  시대를 꿰뚫는 성찰로 세계적으로 독자층이 두터운 저술가 유발하라리가 최근 한국을 찾아 이렇게 말했다. 그는 남한에서 민주주의 국가에서 계엄이 일어나는게 놀랍지는 않았다. 쿠데타 라고 하면 탱크를 앞세운 무력 방식을 떠올린다. 하지만 민주주의 방식으로 권력을 잡은 뒤 권력유지를 위해 비민주주의적 방식을 동원하는 게 역사적으로 훨씬 많다고 말했다. 이때 독재자를 견제하기 위한 장치가 언론과 법이다. 그는 신뢰 회복 방안의 첫번째로 인공지능에 대한 규제를 강조했다. "쳇봇이 사람으로 자신을 속이는 것을 법으로 규제해야한다"는 것이다. 두번째는 인간에 대한 관대함이다. 인간의 행동이나 말을 해석 할 때  선의의 측면에서 봐주려고 노력해야 한다. 최악의 결론으로 치닫기 전에 동기에 대해 여러 방면으로 파악할 필요가 있다는 것이다.
완전 개방된 정보 시장에서 싸고 단순하고 반짝이는 것에 밀려 진실은 가장 밑바닥에 가라앉는다고 말한다. 
진실은 비싸다. 정치, 물리학 과학 모두 진실을 드러내기 우해 투자를 많이 해야 한다. 허구는 그냥 지어내면 안된다. 진실은 그리고 복잡하다. 진실은 알게되면 아프고 힘들 수 있다.반면 가짜는 매력적이고 반짝거린다."
 
호모사피엔스에 이어 두 번째로 읽는 유발 하라리의 책이다. 우리가 지각하기 전에 이미 우리 안으로 깊이있게 들어와 있는 AI를 비롯한 알고리즘.  생성형 AI는 인류문명의 재앙인가 아니면 새로운 신세계를 위한 청사진인가. 의문을 제기하기도 전에 이미 불가항력적으로 피할 수 없는 현실이 되어버린 요즘. 예기치 못한 재앙이 오기 전에 최소한 기술문명의 발전이 어디로 향해 가는지 알아야 되지 않을까. 그리고 인간으로 나는 어떻게 기술문명의 거친 바다에서  순항까지는 아니지만 침몰하지 않을건지 세계 석학들의 글을 읽어보는 것이 필요하다고 생각한다. 
유발하라리가 프롤로그에서 말했듯이, 우리는 누구인가? 무엇을 추구해야 하는가?  잘 사는 게 무엇인가? 그리고 어떻게 살아야 하는가? 석기시대를 살아가는 것이 아니라 매일이 기술정보시대에 노출되어 삶이 엮여있는 21세기형 인간들 이라면 이러한 질문들에 시대에 맞는 답을 찾아 나서는 것은 어쩜 당연한 일이지 않을까.
그가 말했듯이 홍수와 같은 정보의 바다에서 헤매이다 멀리 떠내려가기도 하고 길을 잘못 든 조류에 휩쓸려가기도 하지만 우리가 원하는 지혜를 과연 지식과잉만큼 얻고 있는가?
그의 비유처럼 마법에 걸린 빗자루, 드론, 챗봇과 같이 우리의 통제력을 벗어나 우리를 의도치 않은 결과의 홍수로 우리의 영혼을 비정상적 과부하 상태로 내몰리지 않으려면 어떻게 해야 할까?
잘못된 역사적 선택이 단순히 인간들의 심리적인 이유에 있지 않고 네트워크의 문제라면? 무지가 힘이 되지 않기 위해서는?  21세기에 새로운 전체주의 정권은 모든 것을 통제하는 네트워크를 만들어, 후손들이 그들이 거짓과 허위를 폭로할 엄두조차 내지 못하는 알고리즘의 함정에 빠져 있을지도 모르지 않은가. 
최근 급물살처럼 몰려와 마치 진실의 사제인양 가짜뉴스와 허위로 대중들을 선동하고 가짜로 포장된 강력한 메시지로 반대자의 제거, 살인까지 불사하겠다고 나서는 극우들의 난동에 섬뜩한 오래된 미래를 보는 느낌이다.
다시 최신식 정보와 기술로 정신의 야만적 석기시대를 살게 되는 게 아닐지 두렵고 불안하다. 
어쩜 우리는 망상에 기반한 네트워크의 힘을 과소평가하게 되는 이유가 대규모 정보 네트워크가 작동하는 방식에 대한 널리 퍼진 오해 때문일지도 모른다고 저자는 말한다. 
즉 정보가 많을수록 정확성이 많아진다는 것이다. 이런 순진한 정보관은 더욱 강력한 정보 기술 개발을 정당화함으로써 컴퓨터 시대와 인터넷 세계의 준공식적인 이데올로기가 되었다. 이러한 정보관을 가장 잘 요약한 것은 " 전 세계가 정보를 정리하여 모두가 편리하게 이용할 수 있도록 하는 것이라는 구글의 사명 선언문이다. 
전문가들의 경고는 다음과 같다. 
1. AI의 힘은 기존의 인간 갈등을 증폭하여 인류를 분열시킬 가능성이 있다. 21세기에는 가시철조망 대신 실리콘 장막이 새로운 세계갈등을 일으켜 경쟁 강국들을 분열시킬 수 있다. 
2. 실리콘 장막은 인간을 한 집단과 다른 집단으로 분리 하는 것이 아니라, 모든 인간을 인간의 새로운 지배자 AL와 분리할지도 모른다. 어찌 보면 새로운 21세기형 전체주의의 주인은 인간이 아니라 비인간 지능일 수 있다. 
저자는 <정보의 무기화>를 경고한다. 즉 21016년 이후 생태위기를 넘어 포퓰리즘 물결은 가장 견고한 민주주의 사회의 결속을 훼손했다는 것. 그리고 관료와 의사, 주류언론인, 학계지식인들은 진실에 관심이 없고 국민을 희생시켜 권력과 특권을 얻기 위해 고의적으로 허위 정보를 퍼뜨리는 엘리트 카르텔이다. 트럼프와 우익 음모단과 윤석열과 극우 음로론자들의 전략은 상통한다.
더 나아가 인간은 오직 권력에만 관심이 있기 때문에 모든 사회적 상호작용은 권력투쟁이라고 주장하는 것. 포퓰리즘이 정보를 무기로 보는 관점을 유포하는 데 성공할 대 마다 언어가 훼손된다. 권력을 쥐고 있는 사람은 진실에는 관심이 없다. 그리고 자신들의 실수를 인정하고 바로잡을 수 없다는 주장으로까지 나아가기도 한다. 자신만의 가상세계에 살면서 그 세계밖에 사는 사람들은 존재한 적도 없고 존재하지도 않는 허상으로 여기는 정치인들이 주변에 있지 않은가. 
과연 모든 사회적 관계가 권력투쟁과 관련이 있을까. 포퓰리스트들은 복잡한 인간의 기관을 신뢰하지 않는다. 권력에 굶주린 최악의 인간의 손아귀에 잡히게 되면 우린 결국 AI 지배자의 손아귀나 자신만의 알고리즘에 편향적으로 집중하고 있는 독재자에게 잡히게 될 것이다. 
그걸 막기 위해 우리는 정보가 인간 네트워크의 구축을 어떻게 돕는지, 정보가 진실이나 권력과 어떤 관계인지 이해할 필요가 있다. 권력이 유일한 현실이며 정보는 무기에 불가하다는 생각은 잘못되었다. 
그의 이야기를 따라가 본다. 
 
제1부. 인간 네트워크들
 
1. 정보란 무엇인가?
 이 책의 입장은 정보의 대부분은 현실을 재현하려는 시도가 아니며 정보를 정의하는 기준은 완전히 다른 무언가라는 것이다. 인간 사회는 물론 다른 생물 시스템과 물리적 시시템에서도 정보의 대부분은 아무것도 나타내지 않는다는 것.
<무엇이 진실인가>
진실이라는 기저에는 하나의 보편적인 현실이 존재한다는 전제가 깔려있다. 현시에는 사람들의 믿음에 좌우되지 않는 객관적 사실들로 이루어진 객관적인 차원이 있다. 
현실에는 다양한 사람들의 신념과 감정 같은 주관적인 사실들로 구성된 차원도 있지만, 이 경웅도 사실과 오류를 구별할 수 있다. 
<정보는 무엇을 하는가?>
정보의 결정적인 특징은 재현이 아니라 연결이며 , 따라서 정보란 서로 다른 지점들을 네트워크로 연결하는 무언가다.
어쩜 우린 원자가 아닌 비트로 이루어진 환경에서 인간관계를 맺고 사회운동에 참여하고 , 직업을 갖고, 감정기복을 경험하게 될 것이다. 
우리에게 중요한 것은 사람들을 얼마나 잘 연결하는가? 어떤 새로운 네트워크를 만들어내는가?이다. 
 
2. 이야기: 무한한 연결
우리 사피엔스가 세상을 지배하는 것은 우리가 지혜로워서가 아니라 , 대규모로 유연하게 협력할 수 있는 유일한 동물이기 때문이다. 사피엔스 무리들 사이에 협력이 가능해진 것은 허구적 이야기를 말하고 이런 능력은 아마도 진화과정에서 뇌구조와 언어능력에 변화가 일어나면서 생겼을 것이다. 
<상호주관적 현실=설득권력과 비슷>
통증 같은 것은 개인의 주관적 현실이지만 법이나, 신, 국가나 기업, 화폐와 같은 상호주관적 현실은 수많은 사람들의 마음을 연결하는 곳에 존재한다. 구체적으로 말하면 상호주관적 현실은 사람들이 서로에게 말하는 이야기 속에 존재한다. 
우리가 보통 상호주관적 현실을 의식하지 못하지만 국가는 상호주관적 현실이다. 
<이야기의 힘>
이야기는 가자 기억을 심고 허구적 관계를 형성하고 상호주관적 현실을 창조하는 것을 통해 대규모 인간 네트워크를 짰다. 
 물질적 이해관계도 역사를 해석하는데 중요하지만 종교, 민족주의 자유주의 이상이 아무 역할을 하지 않는 것은 아니다. 
역사는 상호주관적인 이야기를 통해 통해 형성되기 때문에 대화를 통해 각 측이 믿는 이야기를 바꾸거나 쌍방이 받아들일 수 있는 새로운 이야기를 만들어냄으로써 분쟁을 피하고 평화를 지킬 수 있다 
역사의 경로는 결정론적인 권력관계보다는 , 매력적이지만 유해한 이야기를 믿는데서 비롯되는 비극적인 실수에 의해 결정되는 경우가 많다. 
12년간의 나치통지를 가능하게 했던 나치즘도 그들의 이야기를 믿게 만든 것이 주요하다. 
<고귀한 거짓말>
인간 네트워크를 묶어주는 것은 허구적인 이야기, 그중에서도 특히 신과 돈, 국가와 같은 상호주관적 현실에 대한 이야기들인 경우가 많다. 허구는 간단하게 만들 수 있지만 진실은 대체로 복잡하다. 진실은 고통스럽고 불편한 경우가 많은데 그렇다고 그것을 편안하고 듣기 좋게 만들면 더 이상 진실이 아닐게 된다. 반면 허구는 지어내기 나름이다. 
플라톤은 <국가>에서 국가의 헌법은 '고귀한 거짓말"에 기반해야 한다고 상상했다. 그것은 사회질서의 기원에 대한 허구적 이야기로 시민을 애국심을 확보하고 헌법에 의문을 품게 하지 않게 하는 것이다. 
미국 수정 헌법 13조에서 노예제를 폐지한 것처럼 수정할 권한을 인간에게 부여하는 것이 중요하다. 
<영원한 딜레마>
정보는 진실의 원재료가 아니며 인간의 정보 네트워크는 진실을 발견하는 것만이 목표가 아니다. 진실발견과 질서유지.
 
3. 문서: 종이호랑이의 위협
이야기는 인간이 개발한 최초의 중요한 정보 기술이었다. 이야기는 인간이 대규모로 협력할 수 있는 토대를 만들었음, 인간을 지구상에서 가장 강한 동물로 만들어주었다. 
이스라엘의 민족시인 비알릭과 이스라엘 국가의 비전을 제시한 시온주의자 헤르츨은 유대인이 팔레스타인 전체인구의 6~9퍼센트에 불과하다는 사실을 무시하면서 2천 년 전 그들이 살았던 땅을 마치 자신들이 되찾아야 할 구원과 약속의 땅, 야훼가 그들을 위해 준비한 가난 안 땅이라고 믿게 했고 그것이 현재 이스라엘이 팔레스타인 땅을 점령하게 한 계기가 된 것이다. 
목록(세금이니 국가 행정질서를 만들어 내는 문서들)보다는 이야기가 사실적 개념적 정서적 암묵적 정보를 전달하는 매우 효율적인 수단이라는 압도적이고 설득력 있는 증거를 제공한다는 것이다. 우리가 서사시와 텔레비전 시리즈를 잘 기억하는 이유는 인간의 장기 기억이 이야기를 보유하도록 특별힌 적용되어 있기 때문이다. 
<빛을 죽이다>
문자를 사용하는 국가에서 밭을 소유한다는 것은 어떤 점토판, 대나무 줄기, 종이, 또는 실리콘칩에 당신이 그 바의 주인이라고 적혀있다는 것을 의미한다. 고대 아시리아 방언은 문서를 죽일 수 도 있는 생명체로 취급했다. 빚이 상환되면 차용 계약서를 죽였다. 방법은 점포판을 파괴하는 것이다. 
<관료제>
대규모 조직에 속한 사람들이 검색 문제를 해결하여 더 크고 강혁 한 정보 네트워크를 만들어 낼 수 있었던 것은 바로 관료제였다. 
사람들에게 잘못된 꼬리표를 붙여 차별하는 편향된 알고리즘이나 인간의 필요와 감정을 무시하는 경직된 프로토콜 등 21세기 정보 네트워크가 안고 있는 문제들 대부분이 컴퓨터 시대에 새로 생긴 것이 아니다. 이런 문제들은 전형적인 관료주의적 문제들이다.
관료제는 말 그대로 책상에 의한 통치라는 뜻. 관례제와 서랍. 관료제는 세상을 서랍으로 나누고 어떤 문서가 어느 서랍에 들어가는지 파악함으로써 검색 문제를 해결하려고 한다. 즉 분리하여 통치하라는 뜻이다. 관료제는 진화와 맞지 않다. 진화의 핵심은 끊임없이 변한다는 것이므로 각각의 종을 하나의 고정된 서랍에 넣는다는 것은 생물학적 현실을 왜곡하는 것이다. 
<생물학적 드라마>
신화와 관료제는 모든 대규모 사회를 떠받치는 두 개의 기둥이다. 문서가 많은 사회적 사슬을 잇는 중요한 연결고리가 되면서 문서에 상당한 힘이 부여되고 난해한 문서를 다루는 전문가들이 새로운 권력층으로 떠올랐다. 
즉 기록 보관소를 관리하는 기술관료들.
관료제는 중앙 정부의 권한을 강화하고 지배자오 피지배자 사이의 격차를 넓히는 경향이 있다 국민의 시스템 자체가 어떻게 작도하는지 이해하기 어려운 처지가 되면서 지식을 독점한 엘리트주의가 국민을 무시하는 언사를 하게 되는 것이다. 
생물학적 드라마 중에 혐오 메커니즘을 이용하는 방법을 정치인들이 터득했다. 
소수민족과 소수 종교가 질병을 퍼트리고 성 소수자는 오염의 근원이며 여성은 불순하다는 말. 1994년 르완다 대학살 당시 후 투족은 투치족을 바퀴벌레라고 선동하고 나치는 유대인을 쥐에 비유했다. 인도의 카스트 순수의 꼭대기에 브라만을 불가족 촌민 (지금은 달리트)라는 사람을 불순함을 대표하는 하층에 위치시킨다. 
카프카의 소설 <소송>은 관료제가 인간의 삶에 종종 초현실적인 방식으로 영향을 미친다는 것을 보여준다. 
카프카식 이야기의 독특한 공표는 위협의 불가해성에서 온다. 문서로 인한 죽음을 이해하는 것이 무척 어렵다. 
<결론>
어떻게 신화와 관료제가 대규모 정보 네트워크에 필수적인 역할을 해왔는지 살폈다. 정보네트워크는 진실과 질서 사이의 균형을 찾으려고 한다. 그리고 관료제와 신화는 모든 질서를 유지하는 데 필수적이며 둘 다 질서를 위해 진실을 기꺼이 희생시킨다. 
 
4. 오류: 무오류성이라는 환상
성아우쿠스티누스는 "실수하는 것은 인간적이지만 실수를 고치지 않는 것은 악마적이다. "라는 유명한 말을 남겼다. 
자정장치가 제대로 작동하기 위해서 정당성이 필요하다. 
기원전 1000년기에 유대인 예언자, 사제 학자들은 방대한 분향의 이야기, 문서, 예언, 시, 기도문, 연대기를 만들어냈다. 하지만 한 구권의 책 <성경>은 성경시대에는 존재하지 않았다. 정경이 확정된 후 대부분의 유대인들은 <성경>을 편찬하는 혼란스러운 과정에서 인간의 기관이 했던 역할을 서서히 잊었다. 필경사들이 정경이 완료된 후 필사하는 과정에서도 오류를 범했고 책의 신성함과 정확한 문구에 합의하더라고 같은 단어를 다른  방식으로 해석할 수 있었다. 
성경을 두고 벌인 수많은 해석은 랍비들에게 힘을 실어주었다. 신약을 만든 사람들은 <신약>에 포함된 27개 텍스트의 저자가 아니었다는 사실에 주목할 필요가 있다. 그들은 큐레이터 선별가였다.
어떤 기준으로 공희회, 교부들이 저마다 특정 텍스트를 승인하거나 거부했는지 정확히는 모른다. 
<바울과 테클라의 행전>의 경우 테클라는 가장 존경받는 기독교 성인중 하나였으며 , 여성이 세례와 설교를 하고 기독교 공동체를 이끌 수 있다는 증거로 간주되었지만 이 행전을 이후 정경에서 배제되었고 기독교인들이 여성을 대하는 태도를 결정했다. 
15세기 유럽에 인쇄술이 보급되기 전 채의 사본을 많이 생산하는 것이 부유한 개인과 기관을 제외하고는 불가능했고 가톨릭교회의 권력가로 부를 이용해 자신들이 선호하는 텍스트의사본을 보급하는 동시에 잘못되었다고 생각하는 텍스트의 생산과 보급을 금지했다,
<인쇄술, 과학 마녀>
오류 없는 텍스트에 권위를 몰아줌으로써 인간의 오류를 우회 하려던 시도는 결코 성공하지 못했다. 
인쇄술은 과학적 사실만이 아니라 종교적 환상, 가짜뉴스, 음모론도 빠르게 확산시켰고 후자의 가장 악명 높은 사례가 사탄을 숭배하는 마녀들이 세계적인 음모를 꾸미고 있다는 믿음이었다. 대표적인 것이 크라마의 <마녀의 망치>다. 
마녀의 망치는 상호주관적인 현실이 되었다. 
상호주관적인 현실은 너무 강력해서 가짜 기억을 갖기 쉽고 몽상과 환상을 현실로 혼동한다.
아이디어의 완전한 자유 시장은 진실을 희생시키고 분노와 선정주의의 확산을 부추길 수 있다. 
 <무지의 발견>
자유로운 정보 시장에서는 진실보다 분노가 더 우세할 가능성이 높다. 진실이 승리하려면, 균형추를 팩트 쪽으로 기울일 수 있는 힘을 가진 큐레이션 기관을 설치해야 한다. 
과학혁명은 무지를 발견하는 것에서 시작되었다. 환상을 버리고 오류를 불가피한 것으로 받아들이는 정보 네트워크를 구축하는데서 과학은 시작된다. 
그러려면 자정장치가 필요하다. 
<자정장치>
자기 교정 메커니즘이 고장 나면 우리는 죽을 수도 있다. 악마는 디테일에 있다. 
자정장치는 인간의 정보 네트워크를 오류와 편향으로부터 지켜줄 마법의 탄환일까 불행히도 상황은 훨씬 복잡하다. 
강력한 자정장치는 의구심, 논쟁, 갈등, 분열을 일으키고 사회질서를 유지하는 신화의 힘을 약화하는 경향이 있다. 
5. 결정: 민주주의와 전체주의의 간략한 역사
독재적 네트워크는 고도로 중앙집중화 되어 있다. 
그리고 중앙에는 오류가 있을 수 없다는 가정에서 나오고 강력한 자정장치가 없다. 
반면 민주주의는 강력한 자정장치를 갖춘 분산된 정보 네트워크다. 
민주주의의 주요한 특징은 모든 사람이 오류를 범할 수 있다고 가정하는 것이다. 중앙정부는 의료, 교육, 복지, 서비스를 제공하지만 다양한 이유가 없는 한 민주주의 정부는 국민이 스스로 알아서 하도록 맡겨야 한다. 
다양한 정보 노드 사이의 지속적인 대화가 민주주의다. 정치적 견해가 다르다고 권리를 박탈하는 것은 민주적 네트워크에 필수적인 자정 장치 중 하나를 해체하는 것이다. 
강압적인 지도자가 민주주의를 망가뜨리는 흔한 방법은 자정 장치를 차례로 공격하는 것이다. 대게 언론과 법원부터 시작한다. 독립적인 언론매체를 폐쇄하거나 전방위적 선전 기계를 구축한다. 
정부에 반대하는 기관이나 개인은 모조리 반역자, 범죄자, 또는 스파이로 매도된다. 야당 지도자를 구속하거나 선거기구를 제멋대로 고치거나 유균자의 투표권을 박탈하거나 심지어 정부가 심어 놓은 판사들이 반민주적인 조치들을 기각한다.
민주주의는 다수라 해서 침해할 수 없는 권리범주가 있다. 
첫째, 인권이다. 생명권을 침해해서는 안된다. 그 외 노동권, 사생활권리, 종교의 자유가 포함된다. 
둘째 시민권이다. 민주주의의 자정 기능을 명문화한 투표권이다. 
인권과 시민권은 상호주관적 관습이고 역사적 우연에 따라 결정된다. 
<포퓰리즘의 공격>
포퓰리즘이란 말은 국민을 뜻하는 라틴어 푸룰루스에서 유래. 민주주의에서는 정당한 정치권력이 오직 국민에게서 나온다. 
민주주의 원리를 소중히 여기면서도 한 명의 지도자가 모든 권력을 독점해야 한다는 납득할 수 없는 결론에 이른다. 
무제한적인 권력추구를 정당화하는 기발한 정치적 연금술이다. 
자신들만이 국민을 대변한다는 주장. 선거를 조작되었거나 국민이 속아서 자신의들의 진정한 의사를 반영하니 못하는 방식으로 투표했다고 주장하기도 한다. 허위의식이 아니라 정말로 그렇게 믿는다. 
국민이 다양한 이해관계와 의견을 지닌 실존하는 개인들의 집합이 아니라 국민의 뜻이라는 하나의 의사를 가진 정체불명의 통합체라고 생각한다. 그 반대자들은 반국가세력으로 여겨진다.
포퓰리즘이 치명적인 것은 민주주의는 국민만이 권력의 정당한 원천이라는 데 동의하지만 국민은 결코 단일한 실체가 아니며 따라서 단일한 의사를 지닐 수 없다는 이해에서 출발한다. 
포퓰리스트들은 권력이 유일한 현실이라고 확신하기 때문에 , 법원이나 언론 매체, 또는 어떤 학문 분야가 진실이나 정의와 같은 가치를 지키기위해 스스로 오류를 바로잡는다는 사실을 받아들이지 못한다. 
<석기시대 민주주의>
농업혁명 이후 수천 년 동안 특히 문자의 발명으로 대규모 관료조직을 갖춘 정치제제가 등장하고 정보흐름이 중앙집권화되었도 민주적인 대화를 유지하기가 어려워졌다.
로마제국에는 민주적 대화를 진행하거나 지속할 수 이는 방법 자체가 없었다. 왜냐하면 그런 대화를 진행할 기술적 수단이 존재하지 않았다. 선출된 호민관과 집정관 그리고 원로회와 민회도 실제 힘이 없었고 모든 권력은 황제에게 있었다.
눈길을 끄는 건 대규모 전제군주국에서도 지역문제는 민주적으로 관리되는 경우가 많았다. 많은 도시가 지역의회와 선출직 공무원들의 통치를 받았고 폼페이에서는 폐허에서 선거운동과 관련된 1500여 점의 낙서를 발굴했다.
< 대중매체가 의미 있는 대중민주주의를 가능하게 하다>
수백만의 사람들을 빠르게 연결할 수 있는 정보 기술, 인쇄술은 중요한 첫걸음. 
1824년 의 미국을 민주주의로 봐야 할 중요한 이유는 강력한 자정 장치를 갖추고 있었다는 것. 로마공화정 시대의 원로원 Senatus에서 상원인 Senate, 국회의사당 Capitol은 로마의 정치중심지인 카피톨로 누스 언덕 Capitoline Hill에서 유래했다. 그리고 다른 자정장치는 자유로운 언론이다. 
<전체주의의 간략한 역사>
전체주의 체재는 무오류를 전제로 하며 국민의 삶 전체를 완전히 통제하려고 한다. 
스파르타는 누구와 결혼할지 무엇을 먹을지까지 삶의 모든 측면에서 세밀하게 통제를 받았다. 
진나라는 모든 제후국들을 패배시킨 후 수천만 명 백상어 사는 거대한 제국을 장악했다. 지역 토호와 엘리트들의 권력기반을 약화시키기 위해 토지와 재산을 몰수하고 센양 (함양)으로 강제 이주시켰다. 집중화와 획일화를 위해 화폐를 통일하고 방사성으로 뻗어나가는 도로망을 구축하고 표준화된 역참 군사검문서 설치, 국경지대 허가증을 만들었고 차축의 너비까지 표준화했다. 군사화된 사회조직을 위해 5인 1조로 남자들을 묶었다. 
<완전한 통제> 
정보의 흐름을 통제함으로써 정권을 유지하고 독립적인 정보 채널을 경계한다. 히틀러 독일 총리가 되고 두 달 후 통합법을 통과. 모든 단체에서 스와스티카 깃발 (만국기)를 게양하고 모든 회의를 나치당의 당가인 호르스트 베셀의 노래를 부른다. 
스탈린의 농업 집단화, 콜호스 (집단농장)은 기본적인 제도인 가족, 교회, 지역사회가 해체되었고 정의와 평등, 국민의 뜻을 앞세워 집단화를 방해하는 모든 것을 없애버렸다. 
그리고 부농인 클라크 청산운동이 시작되면서 클라크로 분류된 사람을 집에서 추방되고 관리범주에 따라 다른 지역으로 보내지거나 강제수용소에 감금되거나 사형에 처해졌다. 무려 3만 가량의 가장이 총살되었다.
백해 발트해 운하건설과 광산개발에 강제노역으로 사용된 이들이 클라크였다. 
쿨라크의 자녀들은 공산단 청년단체 및 좋은 직장에 들어갈 수가 없었다. 그리고 소련은 하나의 행복한 대가족이라는 가상현실을 현실화하면서 친부모가 공산당을 비판하면 고발하도록 교육받았다. 
<아무도 완벽하지 않다. >
네트워크의 자저장치가 매우 취약한 경우 자신들에게 도전할 수 있는 독립된 기관들을 두려워하기 때문에 자유로운 법원, 언론매체, 연구센터를 두지 않는다. 결과적으로 일상적인 권력남용을 폭로하고 바로잡을 사람이 없다. 본인의 부패와 결정적인 정책 실수가 있을 경우 그 책임을 외부의 적이나 내부의 적 혹은 부패한 부하에게 떠넘기고 이런 악당들을 처리한다는 명목으로 더 많은 권력을 요구한다. 윤석열이 계엄령을 발포한 것과 같은 논리다.
스탈린의 리센코주의는 가짜이론을 국가의 공식 진화론으로 채택하고 다윈주의를 주장하는 학자들은 강제수용소에 끌려가거나 머리에 총알이 박히는 위험을 감수해야 했다. 결국 이 이론은 소련의 농업을 후퇴시키고 농업을 망가뜨렸다.
 
제 2부. 비유기적 네트워크
 
6. 새로운 구성원:컴퓨터는 인쇄술과 어떻게 다른가?
결정을 내리고 새로운 아이디어를 생성할 수 있는 지능형 기계의 등장은 역사상 처음으로인간에게서 다른데로 이동하고 있음을 의미한다. 
쇼셜미디어 알로리즘이 많은 나라에서 증오를 퍼트리고 사회적 결속을 약화시키는데 기여하고 있는 가장 악명 높은 사례가 2016년 미얀마 페이스북 알고리즘이 반로힝야 폭력을 부추겼던 일이다. 불교를 맏는 다수민족인 버마족과 이슬람교를 믿는 소수민족인 로힝야족 사이의갈등이 심각했다. 1970년부터 군부 정권과 불교도들에게 심각한 차별을 당해왔다. 폭력을 부채질하는 로힝야족을 향한 극심한 분노는 페이스북 플렛폼에서 폭력, 증오, 차별을 부추기는 콘텐츠를 선제적으로 증폭하고 추천했다는 사실이 국제사면위원회에서 밝혀지고 유엔 사실 조사단은 페이스북이 증오로 가득한 코넨츠를 유포함으로써 민족 청소 운동에 결정적인 역할을 햇다고 결론지었다.
페이스북 알고리즘은 스스로 능동적이고 운명적인 결정을 내리고있었다.알고리즘은 사용자의뉴스 피드 상단에무엇을 배치할지, 어떤 콘텐츠를 호옵할지 어느 페이스북 그룹에 가입하라고 추천할 지 결정했다. 증옿와 전염성이 강한 내용은 최다 추천을 받았고 가장 악랄한 콘텐츠를 가장 많이 보게 되는 것는 것이다. 갖짜뉴스와 음모른을 추천하는 것에 그치지 않고 2020년대 초반에 이미 알고리즘은 가짜뉴스와 음모론을 스스로 생성하는 단계로 옮겨왔다.
알고리즘은 중요한 역사적 사건에 영향을 미칠 수가 있다. 
<사슬의 고리들>
컴퓨터와 컴퓨터의 연결로 이루어진 사슬은 이제 사이에 인간이 없어도 작동할 수 있다. 한 컴퓨터가 가짜 뉴스를 생성하여 소셜 미디어 피드에 게시하면 두번째 컴퓨터가 이것이 가짜 뉴스임을 알아체 삭제하고 다른 컴퓨터에 그것을 차단하라고 경고할 수 있다. 
<인류 문명의 운영 체제를 해킹하다.>
컴퓨터는 이제 텍스트 뿐만아니라 음성, 이미지, 코드등 다양한 형태의 언어를 분석하고 조작하고 생성한다.
인간인척 하는 봇과 대화하면 우리는 두가지 면에서 손해다. 첫째, 봇은 설득되지 않는 존재라서 선전 봇의 의견을 바꾸기 ㅟ해 시간을 들이은 것은 무의미하다. 둘째, 컴퓨터와 이야기를 하면 할수록 우리에 관한 더 많은 사실이공개되고 그 결과 봇이 자신의 주장을 가다듬어 우리의 생각에 영향을 행사하기에 더 쉬어진다. 
컴퓨터 혁명은 우리를 플라톤의 동굴 마야, 데카르트의 악마와 마주하게 하고 있다.
<함의는>
컴퓨터가 점점 힘을 축적하면 완전히 새로운 정보 네트워크가 등장 할지도 모른다. 컴퓨터는 스스로 결정을 내리고 아이디어를 생성하며 가짜 친밀감을 만들어 낼 수 있다. 서로 상호작용하는 컴퓨터로만 연결된 사슬이 있다.인간이 배제 될 것이다. 
컴퓨터는 스스로의 힘으로 결정을 내리고 아이디어를 생성하며, 게다가 가짜 친밀감을 만들어 냄으로써 어떤 문서도 할 수 없었던 방식으로 인간에게 영향을 미칠 수 있기 때문이다. 
두번째, 컴퓨터들끼리 상호작용하는 컴퓨터만 연결된 사슬이다. 
비유기체인 컴퓨터들이 지배하는 정보 네트워크는 우리가 상상할 수도 없는 방식으로 다를 것이다. 
AI는 진화함에 따라 덜 인공적인 되고 더 이질적으로 변한다. 혼란을 초래하는또 하나의 용어는 '로봇'이다. 봇은 주로 디지털 영역에서 구동되는 알고리즘을 지칭한다. 봇은 당신의 소셜 미디어 계정을 가자 뉴스로 오염시키고 있을지도 모르지만, 로봇은 당신의 거실에서 먼지를 청소할 것이다. 
<우와 좌>
모든 개인은 사생활 침해와 데이터 식민주의의 확산에 대해 경각심을 가져야 한다. 
<아무것도 결정되지 않았다>
기술자체가 미래를 결정하는 경우는 별로 없다는 것이다. 기술 결정론에 대한 믿음은 위험하다. 아직 변화의 방향이나 속도를 통제하는 힘은 아직까지는 대체로 인간에게 있다. 
인간의 선택. 값싼 라디오가 개발되었을 때 독일의 거의 모든 가정이 집에 한 대씩 들여놓을 수 있었다. 그런데 그것을 어떻게 사용할 것인가? 전체주의 지도자는 값싼 라디오를 이용해 모든 독일 가정의 거실에 연설을 전달 할 수있었을 것이다. 
21세기 신기술도 마찬가지다. 우리가 주체적인 선택을 할 수 있으려면 먼저 그새로운 기술이 무엇이고 무엇을 할 수 있는지 이해해야 한다. 
 
7. 집요하게: 네트워크는 항상 켜져 있다. 
인간은 감시받는 것에 익숙하다. 중앙 집권화된 관료주의 네트워크가 등장했을 대 , 각료의 가장 중요한 역할 중 하나는 국민 전체를  감시하는 것이었다. 
2020년대 초 널리 퍼진 한 음모론은 일론 머그ㅡ 같은 억만장자들이 이끄는 사악한 집단이 우리를 감시하고 통제하기 위해 이미 컴퓨터 침을 우리의 뇌에 이식하고 있다고 주장한다. 
신체 내부 감시가 결국 진가를 발휘하게 되면 그 시점에는 스마트폰으로 특정 뉴스를 시청하는 수백만 명의 심박수와 뇌 활동이 생체 인식 센서에 등록되면 그 정보를 토대로 컴퓨터 네트워크가 사람들의전반적인 정치적 성향 외에도 훨씬 많은 것을 알아 낼 수 있을 것이다. 
<사생활의 종말>
인간이 인간을 감시하는 세계에서는 사생활이 기본갑이다. 하지만 컴퓨터가 인간을 감시하는 세계에서는 역사상 처음으로 사생활이 완전히 사라질지도 모른다. 
<사회신용 시스템>
사회신용시스템으로 한 사람의 모든 것을 점수로 매겨 개인 평점을 내고, 이 평점은 다시 그 사람의 모든 것에 영향을 미친다. 가장 최근에 고안 한 것이 5000년 메소포타미아에서 발명된 화페다. 어떻게 보면 사회신용 시스템은 새로운 종류의 활폐라고 할 수 있다. 포인트의 가치는 포인트가 사회에서 개인의 평점을 기록하고 관리하는 회계 수단으로 쓰인다는 데 있다. 중국 정부는 ㅏㅈ국의 사회신용 시스템이 부패, 사기, 탈세, 허위광고, 위조등을 방지해 주기 때문에 개인 간 소비자와 기업간, 시민과 정부기관 간에 더 큰 신뢰를 구축해준다고 설명한다. 하지만 사회신용 시스템은 전체주의적 통제 시스템이 될 가능성이 있다. 
컴퓨터 네트워크는 항상 켜져 있다. 결과적으로 컴퓨터는 사람들에게 항상 연결되어 감시 당하는 새로운 종류의 존재가 되도록 강요하고 있다. 유기체는 쉴 기회가 없으면 쇠약해져 죽는다. 
정보는 진실이 아니다. 완전한 감시 시스템은 세상과 인간 존재에 대한 대단히 왜곡된 이해를 형성할 수 있다. 네트워크가 세상과 인간 존재에 대한 진실을 발견하는 대신, 자신의 막강한 힘을 이용해 새로운 종류의 세계 질서를 만들고 그것을 우리에게 강요할 것이다. 
 
8. 오류 가능성: 네트워크는 자주 틀린다. 
알레산드로 솔제니친은 <<수용소 군도>>에서 소련의 강제 노동 수용소와 그것을 만들고 지탱한 정보 네트워크의 역사를 기록한다. 스탈린에게 경의를 표하라는 요청이 떨어지자마자, 자신들이 감시당하고 있다는 것을 아는 청중은 박수갈채를 보냈다. 그 모두는 누구하나 먼저 멈춘자는 없었고 선 자리에서 쓰러질 때까지 계속 박수를 칠 태세였다. 한 제재 공장 공장장이 목숨걸고 박수를 멈추고 그는 강제 수용소로 보내진다. 이 이야기는 정보 네트워크, 특히 감시 시스템에 관한 중요하고 불편한 사실을 드러낸다. 정보는 대개 진실을 드러내기 보다는 질서를 유지하는데 쓰인다. 하지만  이런 방식은 시간이 갈수록, 비국, 위선, 냉소주의를 퍼뜨렸다. 이것이 소련의 정보 네트워크가 수십 년 동안 수억명의 사람들에게 한 일이다. 
체제를 반대한 소련 철학자이자 풍자 작가였던 알렉산드르 지노비에프는 <호모소비에타쿠스>는 자기주도성이나 독립적인 사고 능력이 없어서 아무리 터무니없는 명령이어도 무비판적으로 따르고, 자신의 행동이 초래하는 결과에 무관심한 비굴하고 냉소적인 인간이다. 
<좋아요, 독재>
새로운 인간형과 디스토피아를  21세기 컴퓨터 네트워크는 창조할 수 있다. 
페이스북과 유튜브 알고리즘도 특정한 원초적 본능에 대해서는 보상을 제공하고 우리 본성의 선한 천사를 처벌함으로써 인터넷 트롤( 온라인상에서 다른 사람들을 괴롭히거나 화나게 하려는 의도를 가지고 공격적이고 악의적인 메시지를 남기는 사람)을 만들어냈다. 
과격화 과정인 자체 알고리즘에서 이용자 참여를 높이는 임무를 맡기면서 시작되었다.  영상에 알고리즘이 수많은 이용자에게 그것을 추천해주고 따라서 인기와 수익을 얻을 수 있다는 사실을 알게 되었다. 
유튜브 알고리즘은 브라질 극우세력을 부상시키고 주변 인물이던 자이로 보우소나루를 브라질 대통령으로 만드는데 중요한 역할을 했다. 
<인간을 탓하라>
페이스북, 유튜브, 틱톡등 소셜미디어 플랫폼을 관리하는 사람들은 면죄부를 얻기 위해 알고리즘 문제를 '인간 본성'에 전가한다. 
모든 정보가 여과 없이 흐르도록 내버려두면, 진실이 지는 경향이 있다. 저울을 진실 쪽으로 기울이려면, 정보 네트워크가 진실을 말하는 사람에게 보상을 제공하는 강력한 자정 장치를 개발하고 유지해야 한다. 이런 자정 장치는 비용이 많이 들지만, 진실을 얻고 싶다면 반드시 그것에 투자해야 한다. 
<정렬문제>
추천 알고리즘이 혐오를 조장하는 행위를 멈춘다 해도 , 정렬 문제의 또 다른 사례들이 반로힝야 운동보다 더 큰 재앙을 초래할지도 모른다. 
정렬문제가 컴퓨터 네트워크의 맥락에서 특히 위험한 이유 중 하나는 이 네트워크가 이전의 어떤 관료제 보다 강력해질 가능성이 있기 때문이다. 
<칸트주의자 나치> 
철학자들에게 궁극적인 목표의 정의를 찾으려고 시도했고 그 하나는 의무론자와  공리주의라는 철학용어로 알려져 있다. 
의무론자는 모든 사람에게 적용되는 어떤 보편적인 도덕적 의무, 또는 도덕 법칙이 있다고 생각한다. 더 높은 목표에 부합하는 대신 내재적 선에 의존한다. 
내재적 선은? 이마누엘 칸트는 내재적으로 선한 법칙이란 나 자신이 보편적인 것으로 만들고 싶은 모든 법칙이라고 주장했다. 칸트는 오래된 황금률인 “남에게 바라는 대로 남에게 해주어라를 재구성한 것이다. (정언명령) “네가 하고자 하는 행동이 보편적인 법칙이 될수 있도록 행동하라를 뜻함. 
하지만 보편적 법칙이라 말 할 때 보편적 이라는 말은 어떻게 정의할 수 있는가?
나체 이데올로기의 핵심은 유대인인 인간임을 부정하는 것이다. 내집단과 외집단은 상호주관적인 현실이고, 이를 정의하는 기준은 대개 어떤 신화다. 따라서 보편적인 합리적 법칙을 추구하는 의무론자들은 흔히 어떤 지역적 신화의 포로가 된다. 
컴퓨터가 무엇을 신경 써야 하는지 정의할때 우리가 어떤 상호주관적 신화의 늪에 빠지지 않을 방법이 있을까? 
의무론자들이 내재적으로 선한 보편 법칙을 찾으려고 고군분투한다면 공리주의자들은 고통과 행복에 미치는 영향을 기준으로 행동을 판단한다. 영국 철학자 제러미 벤담은 세상의 고통을 최소화하고 행복을 극대화하는 것만이 유일하게 합리적인 궁극적  목표라고 말했다. 
정렬문제는 핵심으로 들어가면 신화 문제로 밝혀진다.나치 행정관들은 의무론자이든 공리주의자였던 그들이 인종주의 신화의 관점에서 세상을 이해하는 한 수백만 명을 살해 했을 것이다. 
<컴퓨터의 편향>
컴퓨터는 심한 자체 편향을 가지고 있다. 컴퓨터는 생물학적 존재가 아니며 의식도 없지만 디지털 마음과 비슷한 무언가를 가지고 있으며 심지어는 일종의 상호 컴퓨터 신화도 가지고 있다.  얼마든지 그들도 인종차별주의자, 여성 혐오자, 동성애 혐오자, 반유대주의자일 수 있다.  데이터베이스와 함께 편향도 따라 온다. 
 
제 3부. 컴퓨터 정치
문명은 관료제와신화의 결합으로 탄생한다. 컴퓨터 기반 네트워크는 새로운 유형의 관료제로 이전에 보았던 어떤 인간기반 관료제보다 훨씬 더 강력하고 빈틈없다. 
이 네트워크는 상호 컴퓨터 신화도 만들어낼 텐데, 이는 인간이 만든 어떤 신보다도 복자바고 낯설 것이다. 잠재적 이익 뿐만아니라 단점도 어마무시해서 인류 문명의 존폐가 달려 있다. 
오늘날 대부붐늬 사람들은 스탈린주위와 나치가 저지른 만행에 경악하지만 당시에는 수백만 사람들이 그들의 대담한 비전에 매료되었다. 
산업혁명은 지구생태계의 균형을 무너뜨렸다. 21세기 초인 지금 해마다 최대 5만 8000종의 생물이 멸종하고 있는 것으로 추정된다. 
<민주적 방식>
21세기 민주주의는 살아남을 수 있을 까? 민주주의가 21세기 정보 네트워크구조와 양립할 수 있을 까?
많은 책들이 디지털 시대에 민주주의의 사회가 어떻게 생존하고 번영할 수 있는지 소개한다. 
첫 번째 원리는 선의다. 컴퓨터 네트워크가 나에 대한 정보를 수집한다면 그 정보를 나를 조종하기 위해서가 아니라 나를 돕기 위해 사용해야 한다. 의료서비스 같은 것이다. 
두번재 원리는 분권화다. 민주주의 사회는 정보가 한 곳에 집중하는 것을 절대 허용해서는 안된다. 최고효율은 차칫하면 전체주의로 가는 길을 열 수 있다. 복수의 데이터베이스와 정보 채널은 강력한 자정 기능을 유지하기 위해서도 필요하다. 
세번째, 민주주의 원리는 상호주의다. 민주주의는 균형이 피루다. 시민들은 알로리즘을 통해 정부와 기어비 뇌물 수수나 타세등의 부정행위를 저지르는지 감시하여 책임을 물을 수 있다. 
네번째, 감시 시스템에 항상 변화와 휴식의 여지를 남겨야 한다는 것이다. 
<민주주의의 속도>
새로운 정보 기술은 감시 외에도 다른 방법으로 민주주의에 해를 끼칠 수있다. 
두번째 위협은 자동화다. 결국 독일의 바이마르 공화국처럼 3%이 지지율을 넘지않았던 국가사회주의 정당 나치가 1929년 금융위기와 뒤이은 세계불황으로 실업률이 치솟으며 히틀러가 독일 의 절대적인 독재자가 되었다. 자동화로 이처럼 고용시장이 큰 격변을 겪으면 민주주의에어떤 일이 일어날까? 우리의 직관과는 많이 다르게 고용시장이 움직일 수 있고 무슨 일이 일어날지 예측하기 힘들다.
창의성을 요하는 직업은 자동화가 어렵다는 생각도 지금은 잘못 된 가정이다. 
치료사부터 교사까지 정서 기능을 요하는 직업에서는 인간을 대체할 수 없다고 하지만 정서 기능이 무엇을 의미하느냐에 따라 결과가 달라질 수 있다. 
컴퓨터는 자신의 감정에 휘둘리지 않으며 우리의 감정패턴을 인식할 수 있다. 
감정인식능력 실험결과 쳇GPT의 챗봇이 인간의 평균보다 뛰어난 것으로 나타났다. 
뿐만아니라 공감능력도 더 뛰어났다고 한다. 
<보수의 자멸>
보수정당은 급진저긴 혁명정당으로 변모했다. 선거와 같은 기본적인 민주주의 제도와 전통을 공격하며, 패배를 인정하고 권력을 순조롭게 이양하는 것을 거부한다. 트럼프주의 프로그램은 기존제도를 파괴하고 사회를 혁명적으로 바꾸는 것을 목표로 한다. 이는 보수주의가 아니라 사실상 혁명이다. 보수의 자멸에 진보는 경악했고, 미국 민주당 같은 진보 정당들은 구지러와 기존 제도를 수호하는 역할을 떠맡게 되었다. 
21세기를 버텨내기 위해 가장 중요한 인간의 능력은 유연성일 가능성이 높고 , 민주주의는 전체주의 체제보다 유연하다. 
컴퓨터는 자체 편향을 가지고 있으며 상호컴퓨터 신화와 가짜 범주를 만들어 낼 가능성이 있다. 우리 모두는 알고리즘이 어떻게 어떤 결론을 만들어 내는지 이해하지 못할 수도 있다. COMPAS라는 알고리즘은 미국에서 재범 위험을 평가하는데 사용하는 알고리즘이다. 하지만 경미한 범죄에도 가혹한 처벌을 내리게 하는 결과를 가져왔다.왜일까? 알고리즘을 만든 회사도 판사도 그 알고리즘이 편향이나 오류가 없는 신뢰할 수 있는 도구라고 어떻게 확신할 수 있을까.
<설명을 요구할 권리>
사회가점점 더 많은 결정을 컴퓨터에 맡길수록 민주주의 의 자정기능, 투명성, 책임성이 약화된다. 이에따라 “설명을 여구할 권리”라는 새로운 인권을 성문화하는 요구가 높아지고 있다. 2018년에 발효된 유럽연합의 일반 데이터 보호 규정은 한 인간에 대한 결정을 내릴 경우 해당인은 그 결정에 대해 설명을 듣고 인간이 운영하는 기관에 이의를 제기할 권리가 있다고 명시한다. 
하지만 이런 권리가 실제로 이행될 수 있을까?
AI의 불가해성. 불가해의 이질적인 지능의 등장은 민주주이의 근본을 흔든다. 점점 더 불가해해지고 있는 정보 네트워크는 최근 포퓰리스트 정당과 강력한 지도자가 잇달아 등장하고 있는 이유중 하낟. 사람들은 더 이상 세상을 이해할 수 없을 때 쉽게 음모론에 빠지고 자신들이 이해하는 대상인 인간에게 구원을 요청한다. 
<추락>
앞으로 컴퓨터가 점점 더 많은 인간 관료와 신화제작자를 대체함에 따라 권력의 근본구조가 다시 한 번 바뀔 것이다. 민주주의 가 살아 남기 위해서는 이 새로운 구조를 면밀하게 조사 할 수 있는 전담관료 기관뿐 아니라 새로운 구조를 이해하기 쉽고 재미있는 방식으로 설명할 수 있는 예술가도 필요하다. 
<불랙미로> 에피소드중 하나인 <추락>이 이런역할을 훌륭하게 해냈다.
추락은 생물학적 지위 경쟁을 둘러싼 진부한 이야기가 아니라 컴퓨터 기술이 지위 경쟁의 규칙을 바꿀 때 일어날 수 있는 일을 예견하는 통찰력 있는 탐구다. 
즉 AI 알고리즘에 의한 사회 신용제도가 차별적인 결과를 초래하고 특정 집단을 배제할 수 있으며 존엄성과 차별받지 않을 권리, 평등과 정의의 가치를 침해할 수 있다. 
<디지털 무정부 상태>
컴퓨터 네트워크가 토론 참여를 더 쉽게 만든다. 과거에는 신문사, 라디오 방송국, 정당 같은 조직이 공론장의 문지기 역할을 하며 누가 목소리를 낼지 결정했지만 소셜 미디어가 이런 문지기들의 힘을 약화한 결과, 공론장은 전보다 개방되었지만 그만큼 무질서해졌다. 
<봇을 금지하라>
알고리즘이 민주적 대화를 휘협하고 있지만 민주주의는 무력하지 않다. 민주주의 국가는 가짜 인간이 뱉어내는 가짜 뉴스로 정보 환경이 오염되는 것을 막기 위해 AI를 규제하는 조치를 취해야 한다. 
디지털 주체들이 인간인 척하지 않는다면 많은 대화에 참여시킬 수 있다.
그리고 공개토론의 콘텐츠를 선별하고 관리하는 일을 감독받지 ㅏㄶ는 알로리즘에게 맡기지 않는 것이다. 물론 소셜미디어 플랫폼을 운영하는 데는 알고리즘을 계속 사용해도 된다. 하지만 어떤 목소리를 금지하고 증폭할 지 결정하는 데 알고리즘이 사용되는 원칙은 반드시 인간이 운영하는 기관의 심사를 거쳐야 한다. 
 
10. 전체주의 : 모 든 권력을 알고리즘에게로?
모든 정보와 권력을 한 곳으로 집중하려는 시도는 20세기 전체주의 정권에서는 아킬레스건이었지만 AI 시대에는 결정적인 이점이 될 수 있다.전체주의 정권은 AI를 이용해 저항이 거의 불가능한 완전한 감시 체계를 만들 수 도 있다. 
<봇을 감옥으로>
조지오웰이 <<1984>>에서 설명했듯 전체주의 정보 네트워크가 자주 이중화법을 쓴다는 것은 흥미롭다. 러시아는 우크라이나 침광은 1945년 이후 유럽에서 일어난 가장 큰 전쟁이었지만 , 공식적으로는 ‘특별군사작전’으로 불린다. 이를 ㄴ’전쟁’으로 지칭하는 것은 범죄로, 치고 3년의 징역에 처해질 수있다. 이중화법을 잘 이해하지 못한 컴퓨터는 러시아 헌법을 읽고 나서 러시아는 표현의 자유가 핵심가치라고 결론 내릴 것이다. 
<독재자의 딜레마>
현재 AI시스템은 아직 정권을 장악 할 힘이 없지만 , 전체주의 체제에는 알고리즘을 지나치게 신뢰할 위험이 내재되어 있다. 독재자들은 항상 약한 자정 기능으로 인한 문제에 시달렸고, 항상 힘 있는 부하들에게 위협받았다. AI는 이문제를 더욱 심화 할 것이다. 인간부하의 손아귀에서 벗어나기 위해 오류가 없다고 여겨지는 기술에 의지 할 수 있지만 이경우 기술의 꼭두각시가 될 수 있다. 그렇다고 AI를 감독할 수 있는 인간의 기관을 만들면, 독재자 자신의 권력도 제한 받을 수 있다.
 
11. 실리콘 장막:세계 제국인가, 세계 분열인가
컴퓨터는 아직까지 인간의 통제를 완전히 벗어나거나 인간의 문명을 파괴할 만큼 강력하지 않아 인류가 단합하는 한 , AI를 통제하고 알고리즘의 오류를 찾아내 바로 잡을 수 있는 제도를 만들수 있지만 인류는 불행히도 단합한 적이 없다. 컴퓨터가 악의적이어서가 아니라 우리가 완벽하지 않다. 
 
<새로운 컴퓨터 네트워크가 국제정치에 어떤 영향을 미칠 것인가?

1. 정보와 권력을 중앙 허브에 모은근 것을 쉽게 만든다는 점에서 인류는 새로운 제국주의 시대에 접어들 수 있다. 
2. 인류는 서로 경쟁하는 디지털 제국들 사이에 가로놓인 새로운 실리콘 장막을 따라 분열될 수 있다. 

<데이터 식민주의>
전 세계 데이터를 수집하는 소수의 기업 또는 정부는 나머지 세계를, 노골적인 군사력이 아닌 정보를 통해 지배하는 식민지로 만들 수 있다. 
데이터 식민주의는 사회신용 제도의 확산이라는 형태로 나타날 수 있다. 
<코드전쟁에서 무력 충돌로>
사이버 무기는 핵폭탄보다 훨씬 용도가 다양하다. 사이버 무기는 한 국가의 전력망을 붕괴시킬 수 있다. 비밀 연구솔ㄹ 파괴하고 적의 센서시스템을 교란하고 정치 스캔들을 일으키고 , 선거를 조작하고 스마트폰을 해킹할 수 있다. 
세계적 협력이 없으면 예방은 커녕 억제하기도 힘들다. 
<인간의 선택>
AI에 대한 국제적 협의를 도출하고 유지하려면 국제 시스템이 작동하는 방식에 큰 변화가 필요하다. 신뢰와 자제력이 필요하다는 것이다. 
첫째, 불법 핵 원자로보다 불법 AI연구실을 숨기는 것이 더 쉽기 때문이다. 
둘째, AI는 핵폭탄에 비해 민간용과 군용 양쪽으로 사용되는 경우가 훨씬 많기 때문이다. 전쟁이 줄어든 것은 인간이 법, 신화, 제도를 바꾸고 더 나은 결정을 내린 결과이다. 
정보의 가장 중요한 역할은 실존하는 현실을 재현하는 것이 아니라 새로운 네트워크를 짜는 것이기 때문에 , 새로운 정보기술은 항상 중대한 역사적 변화를 이끌어내는 촉매가 된다는 것이다. 
21세기까지 수십억명의 기독교인들이 <바울과 테클라의 행전>의 관용적인 태도 대신<디모테오에게 보낸 첫째편지>의여성 혐오사상을 바탕으로 세계관을 형성했다. 즉 개발자들이 초기 코드를 작성하는 중요한 결정을 내리는 것이 수 세기 후까지 파장을 미칠 것이다. 
결론적으로 AI는 무오류의 존재가 아니다. 아직은 우리의 경험이 부족하지만 최근 미얀마, 브라질 등지에서 일어난 충격적인 사건들에서 얻은 짧은 역사적 관점을 비추어 보면 AI는 강력한 자정장치가 없을 경우 왜곡된 세계관을 조장하고 , 심각한 권력남용을 가능하게하며 ,무시무시한 마녀사냥을 할 수 있다. 
개인으로서 우리는 권력에 관심을 갖지보다는 진실에 진심으로 관심이 있다. 
우리는 모든 상호작용을 제로섬 권력 투쟁으로 환원하는 것을 거부해야 한다.
진실보다 질서를 우선시한 탓에 인간의 정보 네트워크들은 엄청난 힘을 만들어냈지만 지헤는 거의 만들어내지 못했다. 
자기 수정을 통한 개선은 인류 역사보다 훨씬 오래된 원리다.