디지털 패러다임과 민주주의의 미래

목차
프롤로그
1.기술 전체주의
2.기술 신뢰의 딜레마
3.AI와 복수효과
4.기술독점과 유럽의 종속
5.기술과 급진적 민주화
6.디지털 공생 민주주의
에필로그
참고문헌





프롤로그

우리가 사는 세상은 복잡하고 늘 혼돈의 위기에 처해 있다. 우리가 우리 몸보다 더 잘 아는 것은 거의 없다. 적어도 우리는 그렇게 생각한다. 그러나 그 안에서 일어나는 수많은 과정, 즉 우리가 통제할 수 없고 거의 이해하지 못하는 과정을 고려하면, 우리는 그것을 지식이라고 말하기 어렵다. 우리 몸은 복잡한 시스템이다. 모든 생명체는 이러한 다양한 시스템으로 구성되어 있다. 각 요소는 서로 통신하고 상호 작용하는 수많은 구성 요소로 이루어져 있다. 예를 들어, 신체의 복잡한 시스템은 수십억 개의 세포로 이루어져 있으며, 세포들은 마치 소셜 네트워크 사용자들처럼 서로 끊임없이 소통한다. 이러한 시스템을 연구하는 별도의 과학 분야가 있는데, 바로 복잡성 연구이다. 그 전신은 1960년대에 과학에 혁명을 일으킨 혼돈 이론이었지만, 대부분의 체계가 단계적으로만 혼돈적이라는 것이 분명해지면서 대체되었다. 이러한 단계를 벗어나면 연구된 시스템은 안정적인 구조를 보였다. 그래서 이러한 시스템은 "복잡한 시스템"으로 이름이 바뀌었고, 이러한 시스템은 기후나 금융 시장 등 모든 종류의 과학 분야에서 점점 더 많이 인식되었다. 1970년대에 복잡한 시스템은 특정한 속성을 공유한다는 사실이 발견되었다. 가장 중요한 특징 중 하나는 역동성이다. 즉, 복잡한 시스템은 정적이지 않고 끊임없이 변화한다는 의미이다. 하지만 이러한 변화는 선형적이지 않으며 예측할 수 없다. 그래서 특정 게시물이 Facebook에서 어떤 반응을 불러일으킬지, 모레 Twitter에서 어떤 주제가 트렌드가 될지 아무도 말할 수 없다. 그리고 그것이 충분히 복잡하지 않기 때문에, 각 시스템은 서로 경쟁하기도 한다. 이는 각 개인이 서로 다르게 기능하는 여러 시스템의 일부이기 때문이다. 예를 들어 유럽의 페이스북 사용자 모두 민주주의 시스템에 속해 있지만, 소셜 미디어보다 반응이 훨씬 느리다. 두 시스템이 충돌하면, 둘 중 하나는 적응해야 한다. 이것이 일어나지 않으면 안정화 구조를 잃게 된다. 이는 민주적 여론 형성이 소셜 미디어의 속도에 맞춰 발전하지 못할 때 발생하는 현상이다. 그러면 간단히 말해서 혼란스러워진다. 특히 복잡한 정치적 문제에 있어서는 더욱 치명적이다. 정확한 분석과 균형 잡힌 보도를 통해 이러한 문제에 대한 정의를 내리는 대신, 특정 보도와 의견은 종종 소셜 미디어에서 매우 빠른 속도로 확산되고, 소위 가짜 뉴스가 숨가쁘게 퍼져 정당한 의견 형성을 방해한다. 해로운 결과는 이미 발생하고 있다. 


1.기술 전체주의

디지털 혁신은 새로운 형태의 자본주의, 즉 감시 자본주의를 탄생시키고 있다. 노트북 카메라를 가리고 시크릿 모드로 인터넷을 사용하는 사람인가요?  걱정할 필요없다. 당신만 그런 게 아니다. 점점 더 많은 사람들이 자신이 감시당하고 있다고 느낀다. 그 책임은 완전히 새로운 형태의 자본주의에 있다. 자본주의가 변화하고 있다는 사실은 새로운 것이 아니다. 자본주의 체제는 탄생 이래로 혁신에 의존해 왔다. 사실, 자본주의가 생겨난 것은 오로지 혁신 때문이었다. 산업혁명 이전에는 인구의 상당수가 농부로 일했다. 그 당시에는 토지를 소유한 사람들이 권력을 가지고 있었다. 이러한 상황은 19세기에 공장이 등장하고 조립 라인, 방적기 등의 기술 장비가 생산되면서 바뀌었다. 이러한 혁신적인 기계는 인간 노동자보다 더 효과적으로 일을 처리했기 때문에 인간 노동자는 말 그대로 비인간적인 조건에서 노동해야 했고, 공장 주인은 상품을 판매해서 돈을 벌었다. 순식간에 새로운 경제 질서와 이념이 등장했다. 바로 자본주의이다. 그 이후로 경제 성장과 기술 혁신은 분리할 수 없게 되었다. 혁신은 경제적 역동성을 의미하고, 경제적 역동성은 이익을 의미하기 때문이다. 따라서 영향력 있는 회사는 혁신을 주도하고 추진하려고 노력한다. 특히 디지털화 분야에서 경제적 잠재력이 매우 큰데, 스마트폰, 노트북, 앱 판매로 수익을 창출할 뿐만 아니라, 수집된 데이터에서도 수익을 창출하기 때문이다. 소위 정보 자본주의에서는 최대의 데이터가 최대의 이익을 뜻한다. 가장 부유한 사업은 전면적 감시에서 나온다는 말이 당신에게는 너무 음모론처럼 들리나요? 우리가 어디에 살고 있는지, 연인에게 무엇을 원하는지 아는 회사는 우리의 필요와 욕구에 맞춰 상품을 더 잘 맞춤화하여 구매를 독려할 수 있다. 개인화된 광고는 감시의 무해한 측면일 뿐이다. Google과 같은 거대 기업이 우리에 대해 실제로 얼마나 알고 있는지 살펴보면 정말 무섭다. Google은 이미 독일 인터넷 트래픽의 60%를 모니터링하고 있으며, 2016년 개발자 컨퍼런스에서는 Google이 곧 사용자의 일상 생활에 더 깊숙이 침투할 것이라고 기쁘게 발표했다. Google이 이 정보를 건강 보험 회사에 전달하면 어떻게 될까? 미래에는 이러한 회사들이 가끔 맥주를 너무 많이 마시는 환자에게 더 높은 보험료를 부과할 수도 있다. 이 모든 일은 어디에서 끝날까? 사물 인터넷(IoT) 시대에 인간은 데이터 집합으로 축소되고 스마트 환경에 따라야 한다. 인공지능이 인간을 지배한다 - 이런 공포스러운 시나리오는 영화나 책에서만 볼 수 있다. 엄밀히 말하면, 우리는 오랫동안 인간이 기계의 규칙을 따르는 세상에 살아왔다. 인터넷에 접속할 수 있는 모든 장치는 네트워크로 연결되어 있다. 우리는 이 네트워크를 사물인터넷이라고 부른다. 이는 인간과 기계를 연결하지만, 둘을 구별하지는 않는다. 인터넷에 있어서 우리의 에르나 이모는 우리의 새 차와 마찬가지로 데이터 세트이다. 처음에는 달랐다. 당시에는 주로 사람들이 네트워크를 통해 정보를 교환했지만, 곧 점점 더 많은 사물들이 연결되었다. 오늘날에는 거의 모든 것과 모든 사람이 연결되어 있다. 이런 상황이 계속된다면 2030년까지는 1,000억 개의 물체가 서로 통신하게 될 것으로 추산된다. 그리고 그 모든 것의 중심에는 우리가 있고, 우리는 지능형 기계에 의해 분석 가능한 데이터 세트로 변환된다. 예를 들어, 우리는 스마트폰을 사용한다고 믿고 싶어한다. 우리의 스마트폰도 똑같은 방식으로 우리를 이용한다. 즉, 데이터를 수집하는 것이죠. 그것은 우리의 대화를 들을 수 있다. 그것은 우리가 어디에 있는지, 무엇을 좋아하는지 알고 있다. 메시지, 사진, 검색어를 저장한다. 작은 스마트 송신기처럼, 그것은 어디든지 우리를 따라다니며 우리에 대한 모든 것을 알고 있다. 사물 인터넷에서 인간은 단지 데이터로 구성된 구조물일 뿐이다. 즉, 수십억 개의 다른 컴퓨터화된 요소 중 하나에 불과하다. 이러한 요소들의 대부분은 우리에게 도움을 주기 위해 설계되었다. 하지만 어떤 기기들은 이제 우리가 이런 도움을 원하는지 아닌지에 대한 선택권을 전혀 주지 않는다. 그들은 우리를 대신해 결정을 내리고, 우리는 그에 따른다. 지금까지 국민에 대한 이런 권력은 국가만이 행사할 수 있었다. 법을 위반한 사람은 누구나 처벌을 받았다. 반면에 기계는 처벌을 내리지 않는다. 처음부터 누구도 규칙을 어기고 플레이하기로 결정하는 것을 허용하지 않는다. 예를 들어, 스마트카는 모든 승객이 안전벨트를 착용할 때까지 출발하지 않는다. 우리는 선택의 자유를 오래전에 빼앗겼다.


2.기술 신뢰의 딜레마

우리 인간은 체계적으로 우리를 차별하는 기술을 지나치게 신뢰하고 있다. 파트너와 함께 차에 앉아 있다고 상상해 봅시다. 교차로에 있는데, 내비게이션 시스템에서 좌회전하라고 알려준다. 당신의 파트너는 오른쪽으로 가는 것이 더 빠르다고 생각한다. 당신은 누구를 믿는가? 21세기에 대부분의 사람들은 자신이나 동료보다 기계를 더 신뢰한다. 인공지능이 한 발언에 대해 의문을 제기하는 경우는 거의 없다. 대부분의 사람들은 인공지능도 틀릴 수 있다는 사실을 알지 못한다. 예를 들어, 내비게이션 시스템이 (불행히도 잘못된) 지침을 내려 운전자가 차를 강으로 몰고 간 사례가 반복적으로 보고되고 있다. 하지만 인공지능은 우리를 오도할 뿐만 아니라 차별적이고 비민주적이기도 하다. 프로파일링은 많은 지능형 기계가 작동하는 방식이다. 이는 대량의 데이터를 평가하여 개인 프로필을 만드는 것을 말한다. 영향을 받은 사람들은 다양한 범주에 따라 소위 동등 계층으로 나뉜다. 복잡한 알고리즘의 도움으로 사회 전체가 상자 속에 담겨졌다. 영향을 미치는 요소로는 나이, 거주지, 급여, 성적 지향 등이 있다. 이제부터 서랍 X의 A라는 사람에 적용되는 모든 사항은 이 동등성 클래스의 다른 모든 사람에게도 적용되어야 한다. 사람들은 특정한 특성에 따라 자신에게는 전혀 적용되지 않는 특성을 부여받기도 한다. 지능형 기계는 그들을 마치 기계인 것처럼 취급한다. 즉, 개인성이 없고 재정적, 정치적, 성적 자기결정권이 전혀 없다. 이는 불공평할 뿐만 아니라 위험하기도 하다. 디지털 프로파일링에 대한 무분별한 신뢰로 인해 수많은 인명이 희생되기도 했다. 수년 동안 미국군은 비밀 스카이넷 시스템을 통해 5,500만 명의 파키스탄 국민의 휴대전화를 감시했다. 이 지능형 시스템은 감시 대상인 파키스탄인을 이미 알려진 테러리스트 7명과 비교하고, 몇 가지 유사점을 발견한 뒤, 수천 명을 테러리스트로 잘못 분류하여 드론 공격을 통해 이들을 표적으로 삼아 살해했다. 이게 공상과학 디스토피아 같은 이야기인가? 하지만 그것은 사실일 뿐이다. 이제는 더나아가 데이터 수집 미니컴퓨터와 칩이 달린 블라우스에 대한 더욱 소름 돋는 사실을 발견하게 될 것이다. 우리는 새로운 시대의 문턱에 서 있다. 미래의 기술, 특히 인공지능과 유전공학은 우리가 아는 세상을 근본적으로 바꿀 것이다. 이러한 혁명은 사실상 무한한 긍정적 변화의 잠재력을 가지고 있지만, 다른 혁명과 마찬가지로 완전히 새로운 위험과 위기도 안고 있다. 그리고 바로 이 흥미로운 딜레마에 대한 것이 바로 The Coming Wave이다. 이런 역학관계 자체는 새로운 것이 아니다. AI와 유전공학의 발전이 전례 없는 것처럼 보일지라도, 역사를 살펴보면 파괴적 기술의 도입은 언제나 예상치 못한 결과와 부작용을 가져왔다. 혁신은 단 한 번만 일어나는 일시적인 사건이 아니라, 일종의 영원한 순환이다. 상호 의존적이고 형성적인 발명품의 끊임없는 흐름 속의 스냅샷이다. 기술 개발은 다윈의 원리를 따른다. 즉, 효과적인 것이 우선시되고 새로운 개발의 기초를 형성한다는 것이다. 이에 대한 가장 좋은 예는 스마트폰이다. 간단한 휴대전화로 시작해서 GPS, 얼굴 인식 기능 등 수많은 기능을 갖춘 복잡한 미니 컴퓨터로 진화했다. 대부분의 사람들에게 이는 이제 일상생활의 필수적인 부분이 되었다. 하지만 기술의 발전은 진공상태에서 일어나지 않는다. 많은 발명품은 창안자의 의도와는 전혀 다른 방식으로 사용되게 된다. 토마스 에디슨은 시각 장애인들에게 책을 녹음해서 들려주기 위해 축음기를 발명했다. 하지만 대신 그의 오디오 녹음기는 세계 최초의 음악 플레이어가 되었다. 알프레드 노벨은 원래 광산과 철도 건설을 위해 다이너마이트를 개발했는데, 그의 폭발물 발견이 전쟁에 혁명을 일으키는 모습을 지켜보았다. 요하네스 구텐베르크의 인쇄기는 실제로 성경을 대량으로 인쇄하기 위해 고안되었지만, 이는 유럽의 권력 구조를 뒤흔든 종교 개혁의 시작을 알렸다. 이런 예상치 못한 부작용을 '복수 효과'라고도 한다. 그리고 자세히 살펴보면, 그것이 어디에서나 발견될 것이다. 항생제의 발견은 수많은 사람들의 생명을 구했다. 하지만 새로운 약물이 너무 과도하게 사용되어 치료에 내성을 가진 세균이 생겨났다. 미국과 소련 간의 우주 경쟁은 위성 통신의 발전을 촉진했다. 하지만 세월이 흐르면서 지구 궤도에 너무 많은 우주 쓰레기가 쌓여서 충돌이 미래의 우주 프로젝트를 위협하게 되었다. 기술이 널리 보급될수록, 더 많은 사람들이 자신의 필요와 변덕에 맞게 기술을 더 빨리, 더 많이 적용하게 된다. 그리고 바로 이러한 적응은 시간이 지남에 따라 전혀 예측할 수 없는 결과를 가져오는 경우가 많다. 이에 대한 또 다른 예는 소셜 미디어이다. 페이스북과 트위터는 무해한 부업 프로젝트로 시작되었다. 사용자들이 서로 연락을 주고받을 수 있도록 도와야 한다. 그들이 수십억 명의 사람들에게 가장 중요한 정보원이 될 줄은 예상하지 못했다. 그리고 사람들을 불행하게 만들고 민주주의를 위험에 빠뜨리는 가짜 뉴스를 왜곡하기 위한 규제 해제된 번식지 역할로 소식이 얼마나 빨리 퍼질 수 있는지 보여주는 예다. 사회는 새로운 기술의 위험성을 조만간 인식해 왔다. 그리고 그들은 통제 불가능하고 잠재적으로 위험한 확산을 막기 위해 반복적으로 노력해 왔다. 교황은 석궁을 금지하고 싶어했고, 군주들은 인쇄기를 멈추고 싶어했으며, 산업화 시대에는 분노한 노동자들이 일자리를 위협하는 기계를 파괴했다. 하지만 이 모든 발명품들은 결국 승리하여 세상을 바꾸었다. 한 가지 확실한 사실은 AI와 유전공학 역시 멈추지 않을 것이지만 그 이전의 다른 획기적인 기술과 마찬가지로 이 기술 역시 심각한 "복수 효과"를 일으킬 수 있다. 중요한 질문은 그들이 승리할 것인가가 아니라, 그들의 위험을 완화하는 동시에 그들의 이점을 어떻게 활용할 수 있는가이다.


3.AI와 복수효과

AI와 유전공학은 이미 세상을 변화시키고 있다. 미래는 오래전부터 현실이었다. 앞으로 수십 년 동안 우리 삶을 형성할 기술은 더 이상 단순한 환상이 아니다. 당신은 이미 여기에 있다. 인공지능은 어디에나 존재한다. 얼굴과 사물을 인식하고, 실시간으로 언어를 번역하고, 인간의 말과 거의 구별되지 않는 텍스트를 작성한다. AI 모델은 버튼 하나만 누르면 음악을 작곡하고, 주식 시장 데이터를 분석하고, 웹사이트 전체를 구축할 수 있다. 그들은 이제 자동차를 운전하기도 한다. 그리고 그들이 처리하는 데이터 세트가 늘어날수록 그들의 능력은 더욱 향상된다. 그들의 기하급수적 발전은 멈출 수 없다. 머지않아 AI 시스템은 말하고, 일관된 주장을 펼치고, 놀라울 정도로 "인간적인" 감각으로 주변 환경을 인식하게 될 것이다. 이제 문제는 그들이 인지 능력 면에서 우리를 능가할 것인가의 여부가 아니라, 언제 그럴 것인가이다. 유전공학 역시 급속히 발전하고 있다. 불과 수십 년 전만 해도 DNA 변형은 막대한 예산과 고도로 전문화된 팀이 있어야만 가능한 엘리트 과학이었다. 오늘날, 모든 잘 갖춰진 생물학 박사과정 학생은 25,000유로짜리 장비를 이용해 실험실에서 합성 DNA를 인쇄할 수 있다. 예전에는 몇 년 걸리던 일이 이제는 몇 주 만에 끝낼 수 있다. 생명공학의 "민주화"는 엄청난 의미를 지닌다. 특히 의학과 농업 분야에 큰 영향을 미친다. 낫적혈구빈혈과 같은 질병은 이미 유전적 방법을 통해 치료되고 있으며, HIV, 낭포성 섬유증, 암에 대한 치료법도 곧 뒤따를 수 있을 것이다. 유전자 변형 곡물은 생산성이 더 높을 뿐만 아니라 가뭄과 해충에 대한 저항력도 더 강하다. 이는 미래에 증가하는 세계 인구에 대한 식량 공급에 중요한 기여를 할 수 있을 것이다. 이러한 기술의 이점은 명확하다. 생산성이 높아지고 편의성이 향상된다. 더 나은 의료 서비스와 더 긴 수명을 누리지만 기술을 정말로 이해하고 싶다면 긍정적인 효과에만 집중할 수 없다. 그는 또한 의도치 않은 "복수 효과"를 염두에 두어야 한다. 가장 큰 위험은 인간의 일자리가 사라지는 것이다. 자동화가 인간의 노동을 대체하고 있으며, 이는 항상 그래왔다. 첫째, 특정 활동의 효율성을 높이고, 둘째, 개별 직업을 불필요하게 만들고, 셋째, 전체 산업을 불필요하게 만든다. 이는 북미와 유럽의 "러스트 벨트"에서 일어난 일과 똑같다. 공장이 기계에 점령당하면서 수백만 명의 산업 노동자가 일자리를 잃었다. 과거에는 이런 변화가 어느 정도 완화되었다. 제조업 일자리가 사라지는 반면, 변호사, 디자이너, 콜센터 상담원, 소셜 미디어 관리자 등 서비스 부문에서 새로운 일자리가 생겨났다. 하지만 지금 위기에 처한 것은 바로 이러한 서비스업 일자리이다. AI는 텍스트를 쓰고, 문서를 번역하고, 데이터를 분석하고, 이메일을 작성할 수 있으며, 이는 모든 인간보다 더 빠르고 저렴하며 효율적이다. 아마도 "인지적 조립 라인 작업"의 시대는 끝나갈 것이다. 그 다음에 무슨 일이 일어나는지는 불분명하다. 지금까지 모든 기술 혁명은 새로운 고용 분야를 창출해 왔다. 하지만 이번에 새로운 일자리가 창출되지 않는다면 어떻게 될까? 중산층이 줄어들고 대량 실업이 만연해지면 한때 번영했던 도시들은 어떻게 될까? 한 가지 확실한 것은 경제가 흔들리면 민주주의도 흔들린다는 것이다.


4.기술독점과 유럽의 종속

유럽의 가치와 경제적 자율성은 심각한 위협에 직면해 있다. 자유, 평등, 민주주의 - 유럽의 가치는 누구나 알고 있지만, 최근 들어 사라지는 것 같다. 인터넷 회사가 이런 가치의 하락에 관여하고 있다는 사실을 생각하는 사람은 거의 없다. EU 내 점점 더 많은 사람들이 자신들이 민주주의의 일원이라고 느끼지 못하고 있다. TNS 오피니언 앤 소셜(2015)의 연구에 따르면, 유럽인 10명 중 4명만이 여전히 자신의 투표가 중요하다고 믿고 있다. 설령 그것이 무언가 의미가 있다고 하더라도, 두 정당이 너무 유사해져서 누구에게 투표하느냐는 중요하지 않은 것처럼 보인다. 많은 정치적 결정은 대안이 없는 것처럼 제시된다. 예를 들어 아프가니스탄 임무나 유로 도입은 실제로는 전략적 결정이었지만 의무적 조치로 제시되었다. 그러니 많은 사람들이 소외감과 좌절감을 느끼는 것도 당연한 일이다. 이런 감정은 민족주의가 자라나는 토양을 제공한다. 일부 회원국에서는 민족주의 정당과 운동이 영향력을 얻고 있다. 그들은 인종차별적이고 성차별적인 견해를 다시 사회적으로 수용 가능하게 만들고, 난민들을 거부하는 분위기를 전반적으로 퍼뜨린다. 특히 난민들은 이쪽에서 의심과 공격을 받는다. 헝가리 등 일부 국가에서는 실제로 마녀사냥이 벌어지고 있다. 그리고 우리는 그곳과 다른 EU 국가에 도착하는 난민들이 처음에 국경을 넘은 사람들일 뿐이라는 사실을 잊어서는 안 된다. EU가 외부 국경을 봉쇄하기로 결정함에 따라 수천 명의 사람들이 국경 캠프에 주둔하거나 지중해를 건너 도피하는 동안 사망했다. 이런 발전과 더불어 유럽 경제는 미국 경제에 점점 더 의존하게 되었다. 거의 모든 유럽 기업은 미국 대형 IT 기업의 기술에 의존하고 있다. 예를 들어, 독일 자동차는 대개 미국식 운영 체제를 탑재하고 있으며, 이 자동차를 제조하는 독일 기계에도 미국식 운영 체제가 탑재되어 있다. 이러한 의존성에 대한 인식이나 의심은 자연스럽게 EU 시민들의 두려움과 공격성을 부추긴다. 그러니 실리콘 밸리 기업이나 미국 정부가 유럽 경제를 마비시키기로 결정하더라도, 그들은 이미 그렇게 할 수 있는 최적의 조건을 갖추고 있을 것이다. GAFAM 시스템에 대한 소프트웨어 업데이트 거부나 요금 인상은 독일 경제에 큰 타격을 줄 것이다. 새로운 법률도 이를 바꿀 수 없다. 기존의 법률 시스템은 디지털화에 정의를 적용하지 못한다. 인터넷에는 광범위한 무정부 상태가 존재한다. 하지만 자유는 동전의 한 면일 뿐이다. 반대편은 무법지대이다. 우리 법률 시스템의 법률과 구조는 인터넷과 관련해서는 시대에 뒤떨어져 있다. 그것들은 정보 자본주의의 새로운 과제를 적절히 해결하기에는 전혀 적합하지 않다. 예를 들어, 구글이 거의 방해받지 않고 독점 기업이 될 수 있었다는 사실이 이를 입증한다. 물론, 해당 회사는 자사의 – 매우 명백한 – 독점적 지위를 부인한다. 하지만 이제 이 거대 기업은 다른 모든 대체 검색 엔진보다 훨씬 뒤떨어졌고 원래 제공하던 기능에 수많은 기능을 추가했다. 안드로이드 시스템과 같은 수많은 서비스는 Google 계정이 있어야만 사용할 수 있다. 그러나 독일과 미국의 반독점 당국은 무력해 보인다. 구글의 멈출 수 없는 성장을 막을 수 있는 사람은 아무도 없다. 그리고 이를 은폐하기 위해 해당 회사는 독점적 지위를 가질 수 없다고 주장한다. 독점적 지위가 있다면 가격이 인상될 것이기 때문이다. 반면, 구글에서 제공하는 서비스는 모두 무료이다. 대부분의 사람들이 이해하지 못하는 점은 우리가 GAFAM에 비용을 지불하는 대상이 바로 우리의 데이터라는 사실이다. 하지만 왜 더 이상 구글과 같은 대형 IT 기업을 막을 수 있는 사람이 없게 되었을까? 문제는 역시 기계이다. 앞서 살펴본 바와 같이 인터넷의 많은 기능, 서비스, 상품은 기계가 내린 결정에 따라 제공된다. 하지만 기계는 책임을 질 수 없으며 기계가 내린 결정을 추적할 수도 없다. 현재 온라인에서 EU 시민을 보호하기 위한 새로운 법률이 도입되고 있다. 그 중 하나가 2018년에 모든 유럽 국가에서 발효될 EU 일반 데이터 보호 규정(EU GDPR)입니다. 이 법률의 목적은 완전 자동화된 데이터 처리를 기반으로 한 차별적 프로파일링으로부터 인터넷 사용자를 보호하는 것이다. 하지만 문제는 사용자를 분류하는 사람이 누구인지, 그리고 분류가 어느 정도 자동화되었는지를 어떻게 판단할 수 있느냐는 것이다. 그리고 인간이 잘못 분류되었다는 것을 증명할 수 있다 하더라도 기계가 책임을 질 수 없다는 문제는 여전히 남는다. 누가 책임을 져야 할까? 수천 명의 파키스탄 국민이 잘못해서 테러리스트로 몰려 사망한 사건에 대해 누구의 책임이 있을까?


5.기술과 급진적 민주화

권력이란 그들에게 영향을 미치려고 무언가를 바꾸는 일을 하는 것을 의미한다. 그리고 그것이 바로 기술이 정치적인 이유이다. 기술은 사용자들에게 자신의 생각에 따라 세상을 형성할 수 있는 도구를 제공한다. 다음 기술 혁신은 무엇보다도 일종의 급진적 민주화를 이룰 것이다. 이를 통해 점점 더 많은 사람들이 획기적인 혁신을 접할 수 있게 되었다. 지금까지 사회의 대부분은 콘텐츠를 소비하는 소비자로 구성되어 있었다. 하지만 인공지능은 우리 모두를 잠재적인 생산자로 만들어준다. 곧, 누구나 적은 비용으로 몇 번의 클릭만으로 고품질의 비디오, 텍스트, 이미지를 제작할 수 있게 될 것이다. 결혼식 축사를 써보시겠어요? AI는 이미 많은 전문 연설가보다 이 일을 더 잘할 수 있다. 그리고 DNA 합성기를 구매할 돈이 몇천 달러 있다면 언젠가 차고에서 새로운 유전자를 만들어낼 수도 있고, 또는 더 나쁜 경우, 위험하고 전염성이 강한 병원균도 생산 가능하다. 이러한 기술은 전력을 증가시킨다. 아이디어나 목표가 있는 사람이라면 누구나 그 목표를 실현하는 데 도움이 되는 새로운 도구가 제공된다. 그리고 그것은 바로 양날의 검이다. AI는 애플리케이션을 최적화하고, 기금 모금 캠페인을 조직하고, 회사를 위한 마케팅 전략을 설계할 수 있다. 하지만 위험할 정도로 믿을 만한 가짜 뉴스를 퍼뜨리거나 권위주의 국가가 전면적으로 감시하는 데 도움이 될 수도 있다. 더 많은 사람들이 이러한 강력한 도구에 접근할수록 위험은 더 커진다. 그리고 그게 바로 빠르게 혼란스러워질 수 있는 부분이다. 한 가지 예로 사이버 공격을 들 수 있다. 최초로 성공한 AI 시스템 중 하나는 중국의 전통 보드 게임인 '바둑'을 두려고 시도한 알파고(AlphaGo)이다. 알파고는 쉬지 않고 자기 자신과 경쟁하며 수백만 번의 움직임을 시도하고 완전히 새로운 전략을 발견했다. 결국 그것은 세계 최고의 인간 바둑 기사들을 쉽게 물리칠 만큼 강력해졌다. AI가 비슷한 방식으로 전력망을 공격하는 법을 배웠다고 가정해 봅시다. 실시간으로 취약점을 파악하고 보안 업데이트를 개발할 수 있다. 공격하는 동안 타깃 전력망의 새로운 취약점을 발견하고, 지속적으로 진화하여 병원, 은행, 군 시설의 상호 연결된 시스템에 침투할 수 있다. 그들을 막으려는 시도는 그들을 더욱 똑똑하게 만들 뿐이었다. 물론, 어느 시점에서는 문자 그대로 플러그를 뽑을 수도 있겠지만 그때쯤이면 이미 국가 전체 인프라의 근본적인 부분이 마비되었을 수도 있다. 그리고 이는 수많은 위협 시나리오 중 하나일 뿐이다. 얼굴 인식 기능을 갖춘 무장한 AI 조종 드론이 테러리스트나 대량 학살자의 손에 들어가면 무슨 일이 일어날지 상상하는 데는 많은 상상력이 필요하지 않다. 진짜 문제는 훨씬 더 깊은 곳에 있다. 현대 입헌 국가는 권력을 핵심 약속인 안보에 두고 있다. 그가 더 이상 이것을 보장할 수 없다면 그의 정통성은 무너질 것이다. 정부가 더 이상 병원, 학교, 전력망을 가상 공격으로부터 보호할 수 없게 되면 어떻게 될까? 불이 꺼지고 아무도 아무것도 할 수 없다면 어떨까? 그러면 우리는 더 이상 우리를 보호할 수 없는 국가에 대한 충성심에 무슨 가치가 있는지 스스로에게 물어봐야 할 것이다.


6.디지털 공생 민주주의

국가는 권력과 돈의 이유로 민간 기술 부문과 협력한다. 누구도 악의로 인해 더 이상 금을 생산하지 못할 위험을 무릅쓰고 돈벌이 수단으로 돈을 버는 소를 마구간에 가두어 두지는 않을 것이다! 그러니 정부조차도 사적 기술 기업의 의지와 경제적 권력에 굴복하는 것은 당연한 일이다. 그들보다 더 많은 돈을 은닉하는 사람은 아무도 없기 때문이다. 구글, 애플, 페이스북, 아마존, 마이크로소프트, 줄여서 GAFAM은 가장 훌륭하고 귀중한 당나귀 다섯 마리의 이름이다. 이들은 뛰어난 지능과 교활함을 갖추고 있다. 이들 회사 중 단 하나의 유동자산만으로도 그리스 전체를 구할 수 있을 것이다. 아무도 그런 경제 거인들과 싸우고 싶어하지 않는다. 심지어 정부도 마찬가지이다. 그들은 실리콘 밸리의 대기업과 함께 일하는 것을 선호하지만, 그것이 항상 대중에게 이로운 것은 아니다. 예를 들어, 프로파일링은 개인화된 광고를 만드는 데에만 사용되는 것이 아니다. 또한 정부는 이를 이용해 세수입을 최적화한다. 그러면 이 문제에 대해 국가를 돕는 사람은 누구인가? 물론, 구글이죠. 이 인터넷 대기업은 세무 공무원을 대상으로 워크숍을 정기적으로 개최하여 직원들이 스마트폰 식별 번호를 사용하여 납세자가 방문하는 국가와 상점을 추적하는 방법을 배운다. 그 대가로 국가는 빅데이터 기업에 이렇게 획득한 데이터에 대한 무료 접근 권한을 부여한다. 이러한 협업의 다음 미친 프로젝트는 소위 스마트 시티인데, 이는 주민을 스스로 감시하는 것이 목적이다. 보도, 거리, 가로등에 설치된 센서를 이용해 이동 프로필을 생성하고, 이를 오픈 데이터로 민간 기업에 공개한다. 그리고 기업들은 웃음을 터뜨리고 있다. 돈은 국가가 세계에서 가장 강력한 계곡의 거대 기업과 협력하는 데에는 여러 가지 이유 중 하나일 뿐이다. 두 번째 이유는 권력을 확보하기 위해서이다. 이에 대한 예는 수없이 많다. 위키리크스를 통해 알려진 몇 안 되는 사건 중 하나는 2015년 NSA 스캔들인데, 이 사건에서 총리실은 도이체 텔레콤이 연방정보국과 미국 국가안보국을 통해 독일 국민에 대한 대규모 감시를 허용하도록 서면으로 요구했다. 대부분의 사람들에게는 잘 알려지지 않은 사실은 독일 경찰이 시위 중에 추적한 휴대전화의 식별 번호를 저장한다는 것이다. 이 경우 시위대는 단순히 민주적 권리를 행사하고 있을 뿐이다. 우크라이나 정부는 한 걸음 더 나아갔다. 키이우에서 시위가 진행되는 동안 시위대에게 "고객님, 귀하는 대규모 폭동의 참가자로 등록되었습니다."라는 메시지를 보냈다. 이는 암묵적인 억압 위협이며, 법에 대한 민주적 이해와 명백히 모순된다. 다음 순간에 우리는 스스로에게 묻는다: Quo vadis Europe? 그렇게 보이더라도 우리가 인터넷 독점에 대항해 무력한 것은 아니다. Google 검색 결과에서 1페이지 상단에 어떤 결과가 나타나는지 결정하는 사람이 누구인지 생각해 본 적이 있는가? 구글 알고리즘은 어떤 정보가 사용자에게 특히 관련성이 있는지, 어떤 정보가 그렇지 않은지를 결정하는 데 사용된다. 어느 한 쪽의 진실성이 결정적인 역할을 하지 않는다. 중요한 것은 이전에 얼마나 많은 사람들이 해당 페이지를 보았는지, 콘텐츠가 프로필과 일치하는지, 그리고 Google이 해당 페이지에서 재정적 이익을 얻을 수 있는지 여부이다. 페이스북은 구글과 함께 인터넷을 지배하는 절대적인 거대 기업 중 하나이다. 예를 들어 2014년에 해당 회사가 비밀리에 심리 실험을 했다는 사실이 알려졌다. 69만 명의 사용자를 동의 없이 테스트하여 어떤 인터넷 콘텐츠가 그들에게 특히 긍정적인 반응을 불러일으키는지 파악하기 위해, 예를 들어 사용자가 얼마나 클릭하는지 또는 웹사이트에 얼마나 오래 머물렀는지 측정했다. 그 결과, Facebook의 뉴스와 기타 콘텐츠는 사용자가 가능한 한 편안함을 느낄 수 있는 방식으로 구성되었다. 즉, 페이지에 오랫동안 머물 수 있도록 구성되었다. 이런 접근 방식은 실리콘 밸리가 우리 세상과 세계관에 개입하는 데 사용하는 방법의 좋은 예이다. 그들은 우리를 대신하여 정보를 검색, 수집, 분류하여 우리의 견해가 확인되도록 하고 반대 의견이 우리에게 도달하는 경우가 드물도록 한다. 하지만 민주적인 여론 형성은 이런 식으로 이루어지지 않는다. 이 모든 것에도 불구하고, GAFAM은 여전히 ​​인터넷에서 중립적인 행위자로 간주된다. 이런 치명적인 긍정적 이미지가 유지되는 한, 그들의 힘은 계속해서 커지고 더 빨리 커질 것이다. 이 눈사태를 막는 것은 어렵지만 불가능한 것은 아니다. 한 가지 대책은 방송과 유사한 공공 인터넷을 구축하는 것이다. 후자가 확립된 이래로 여론 형성에 미치는 힘과 영향력에 관해 많은 논쟁이 있었다. 교육적 수요를 충족시키기 위해 이원적 시스템이 개발되었다. 한편으로는 민영 방송사, 다른 한편으로는 공영 방송사이다. 후자는 국가로부터 자금을 지원받았기 때문에 이윤으로부터 크게 독립적이었다. 그들은 고품질 저널리즘을 장려하고, 보다 정교하고 균형 잡힌 프로그램을 제공할 수 있었다. 대체 네트워크는 비슷한 방식으로 운영될 수 있으며, 비슷한 지침에 따라 운영될 수도 있다. 이는 GAFAM의 디지털 영역과 대조를 이룰 것이다. 그러나 5대 강기업의 힘을 제한하려면 누군가가 조치를 취할 때까지 기다리는 것 이상이 필요하다. 우리 모두는 책임을 지고 감시, 데이터 오용, 프로파일링으로부터 자신을 방어해야 한다. 우리는 디지털화로 인해 우리의 민주적 가치가 억압되는 것을 허용해서는 안 되며, 오히려 그 가치에 새로운 생명을 불어넣어야 한다.


에필로그

지금까지는 무섭네요. 다가오는 물결의 기술은 위험한 만큼 가치도 있다. 우리 자신과 우리의 능력을 최대한 발휘할 수 있는 기회를 제공하기 때문에 가치가 있다. 위험한 이유는 그것이 우리의 최악의 면을 확대시키기 때문이다. AI는 기후 변화에 맞서 싸우는 데 완전히 새로운 방법을 보여줄 수 있다. 하지만 이 세상의 탐욕스럽고 비양심적인 사람들은 아마도 주식 시장과 전력망을 공격하는 데 더 관심이 있을 것이다. 이 모든 것은 새로운 미지의 영역이다. 미래의 AI 시스템이 얼마나 빨리 스스로를 최적화할지는 알 수 없다. 또는 전혀 탐구되지 않은 생명공학과 관련된 실험실 사고가 어떤 결과를 초래할 수 있는지에 대해서도 생각해 보라. 지금으로선 확실한 것이 하나 있다. 우리는 돌이킬 수 없는 지점에 다다르고 있다는 것이다. 우리는 스스로 조립하고 개선하는 기계를 개발하기 직전이다. 완전히 새로운 생물학적 활성 성분이 합성되기 직전이다. 그리고 우리가 이런 발명품을 세상에 내놓으면, 뒤돌아갈 수 없게 될 것이다. 이제 다시 필요악의 주장을 제기할 수 있을 것이다. 즉, 세계가 계속 발전하려면 그러한 위험을 감수해야 한다는 것이다. 최소한 인쇄기와 같은 초기 기술 혁명을 살펴보면 그런 사실을 알 수 있다. 하지만 정말로 이 둘을 비교할 수 있을까? 결국, 우리는 근본적으로 새로운 제품, 즉 새로운 소재, 새로운 생명체, 심지어 완전히 새로운 종에 대해 이야기하고 있는 것이다. 상황이 역전될 확률이 아무리 낮더라도, 우리가 현재는 단지 눈으로만 보고 운전하고 있다는 사실을 부인할 수 없다. 결국 우리는 단지 어둠 속을 더듬고 있을 뿐이다. 그리고 언젠가는 어딘가에서 어떻게든 뭔가 잘못될 수 있다는 것이다. 하지만 어떻게 해야 할까? 획기적인 기술의 발전을 저해하지 않으면서 위험을 억제하고 보복을 피할 수 있는 방법은 무엇일까? 베이징, 브뤼셀, 워싱턴의 AI 연구자, CEO, 정치인에게서 가장 먼저 듣는 대답은 대개 '규제'이다. 사실, 우리는 이런 일을 이미 경험했다. 자동차를 생각해 보라. 하지만 불행히도 그렇게 간단하지는 않다. 현재 AI와 유전공학이 우리 세상에 도입되는 속도에 비하면 자동차의 도입 속도는 달팽이 수준이다. 아마추어 생물학자들이 오랫동안 DNA 합성기를 실험해 왔고 기술 회사들이 연구 부서에 수십억 달러를 쏟아붓는 동안, 정부는 일상의 정치 문제에 갇혀 있다. 그들은 한 위기에서 다음 위기로 비틀거리며 나아가는 반면, 법률은 현실을 따라잡는 데 몇 년이 걸리는 경우가 많다. 그리고 또 다른 의문이 있다. 규제가 정말로 자동차를 완벽한 기술로 만들었을까? 물론, 교통 규제로 도로가 더 안전해졌지만 우리는 여전히 오염, 도시 확산, 교통 혼란 등의 결과를 겪으며 살아간다. 매년 전 세계적으로 150만 명이 사고로 사망한다는 사실은 말할 것도 없다. 이는 규제가 무의미하다는 것을 의미하지 않는다. 하지만 AI와 유전공학에 대해 이야기할 때, 단순히 새로운 법률을 통과시키는 것만으로는 충분하지 않다. 사회적으로 우리는 근본적으로 어떤 위험을 감수할 의향이 있는지, 그리고 진보를 위해 어떤 대가를 치르려 할지 결정해야 한다. 규제는 단순히 법률 제정을 의미하는 것이 아니라, 우리가 가치, 기준, 우선순위를 공동으로 협상한다는 의미이다. 이러한 결정이 결국 어떻게 될지는 완전히 불확실하다. 하지만, 앞으로 우리에게 미래가 어떻게 다가올 지 이미 여기에 다 있다. 이제 우리가 그들에 대해 진지하게 이야기할 때가 됐다.





참고문헌

다가오는 파도
무스타파 술레이만 & 마이클 바스카르Mustafa Suleyman & Michael Bhaskar

민주주의의 종말
이본 호프스테터Yvonne Hofstetter