AI는 인간 친화적 혁신인가, 인간 착취적 혁신인가 [스페셜 리포트]

<김태경의 시선> AI시대 인클로저
반복 노동으로부터 해방시켜주는 AI 기술은 현대판 독점적 울타리
사람 밀어내는 기술 아닌 사람을 편하게 하는 기술 개발이 나아갈 길
효율·생산 측면에선 대체재 없는 AI… 민주적 통제 방안도 고민해야

게티이미지뱅크

인클로저 운동은 자본주의의 자연스러운 귀결이자 문명화된 경제의 정점이다. 영국에서 시작된 이 운동은 땅을 관리하는 가장 계몽적이고 합리적인 방식으로 인식됐다. 폐쇄된 땅의 소유권을 통해 평민 위에 군림하면서 자신의 정치적 지위를 도모하는 도구로 활용됐다. 다시 말해 더 큰 권력과 정치적 힘, 수익을 많이 낼 수 있는 가능성으로 이어지는 관문이었던 셈이다. 1845년 인클로저법 제정으로 이런 경향은 더욱 강화됐다. 국회의원들은 땅을 폐쇄할 수 있도록 스스로 국회에 청원을 하며 아무도 침범할 수 없도록 자신들의 독점적인 울타리를 만들었다. 결국 소수의 특권층을 위해 수많은 빈곤층의 삶을 모른체했다. 땅은 비로소 배타적인 상품이 됐다.

유럽은 자신이 발견한 땅에 대해 주권을 얻게 된다는 셀프 원칙 아래 지구의 모든 땅에 대한 울타리를 세우고 약탈했다. '발견주의 원칙'이라고 불리는 이런 유럽의 행동은 식민지 개척으로 이어졌고 결과적으로 오늘날의 지정학적 배치를 결정했다. 그들은 땅을 약탈하면서 원주민들에게 자신들이 문명이라는 큰 선물을 부여했다면서 자신들의 행동을 정당화하는 기제로 활용했다. 영국이 인도를 통치할 때 철도와 영어를 선사하면서 인도인들에게 이익을 가져다줬다는 식으로 말이다. 정복자들은 문명화 사명이라는 명분으로 원주민들을 동화하고 굴복시키고 이들의 독립된 어떠한 삶도 인정하지 않았다.

우리가 말하는 문명이라는 것은 거의 이런 방식으로 진행됐고 인클로저 운동 같은 폐쇄적 토지 소유를 통한 독점적 이익을 추구하는 사회 체제를 형성했다. 문명은 사실상 약탈과 파괴, 억압과 동의어라고 할 수 있다. 물론 유럽이 일으킨 문명은 많은 부분에서 인류의 발전에 지대한 공헌을 했다는 측면을 간과해서는 안 되지만 말이다.

■현대판 인클로저 가속화

이런 측면에서 현대에 들어서도 인클로저의 동력은 더 강화됐다. 모양은 변했지만 그 작동 방식은 더 치밀하고 세련된 방식으로 진화했다. 그중 지대를 통한 합법적 이익 추구 체계는 불공평과 불평등의 주요 원인 중 하나로 꼽힌다. 부동산을 정점으로 이익을 향한 거대한 행렬은 쉼 없는 호흡 활동으로 인간을 규정하기에 이르렀다.

여기에는 중앙집중형의 원리가 작동한다. 중앙집중형은 현대 사회의 숙명이자 한계다. 사회 운영 체제로서 효율적이고 생산적인 측면이 조명받으면서 사회의 운영 원리로 채택된 것이다. 그러나 중앙집중은 사회의 다양성과 개방성, 창의성을 제한하고 관리 가능한 정도로 허용했기에 사회 발전과 엇박자가 날 수밖에 없는 구조다. 특히 인터넷 시대에 들어와서는 이같은 한계 상황이 더욱 증폭됐다.

초기 인터넷 시대에서는 그럭저럭 감내할 수준이었지만 인터넷 네트워크의 폭발적 성장과 다양한 소프트웨어 기술들이 발전하면서 중앙형은 그 한계에 부딪쳤다. 겉으로는 개방성과 가치와 이익의 공유 등을 내세우지만 실상 대부분의 네트워크는 기업형 네트워크로 사용자들의 참여와 소유는 철저하게 기업이 정한 규칙에 따라야 하는 반쪽짜리 네트워크로 전락했다.

사용자들도 기업형 네트워크의 규칙에 익숙해져 있어 기업들의 변덕과 상술에 무장해제당하기 일쑤다.

특히 스타트업 같은 혁신적 기술을 추구하는 기업들은 기업형 네트워크에 의존하지 않고서는 발전할 수 있는 통로가 별반 없는 데다 자본의 취약성으로 지속적인 기술을 개발할 여력이 부족하다. 기업형 네트워크가 온전히 인터넷 사용자와 개발자들을 지배하면서 플랫폼 독점 현상은 심화되고 있다. 플랫폼 프로토콜은 이제 인터넷의 영혼이자 지배자로 군림한다. 여기에 대항하는 그 누구도 이 궤도를 벗어날 수 없다.

초기 이런 분권화 경향에 힘입어 발전을 거듭하던 스타트업 등 일부 기업들은 갈수록 거대 기업 운영원리를 채택하면서 초기 디지털 선구자들의 민주적 이상은 퇴색했다. 이 거대 기술기업들은 제1세대 기업들이 중시한 탈중앙화를 뒤집고 새로운 중앙집중형 체제를 완성했다. 끊임없는 기업 간 인수합병을 통해 몸집을 불리고 자신들의 디지털 권력을 유리한 방향으로 재편하는 데 선봉장으로 나섰다.

탈중심형 웹의 지지자들은 비트코인 등의 암호화폐를 작동시키는 블록체인에 사용되는 P2P 즉 사용자 간 직접 접속 기술에 기초한 모델을 제안하며 이에 맞섰다. 이런 분산 시스템을 통해 사용자들이 현재 중개인 역할을 하는 페이스북, 구글, 마이크로소프트 등 거대 기술기업의 통제를 우회할 수 있다고 내다봐서다.

2014년 플랫폼 이더리움의 공동창업자인 개빈 우드는 "스노든 이후 우리 정보를 언제나 그들의 권한을 확장하고 넘어서려는 대규모 조직과 정부에 맡기는 것은 위험하다는 점이 분명해졌다"라고 주장했다. 그렇지만 일부에서는 이런 탈중앙형 웹도 마찬가지로 기존 인터넷을 대체하면서 결국 거대 기술기업이나 대규모 벤처 자본에 흡수될 것이라는 암울한 전망을 내놓고 있다.

초기 역동적이고 분산적인 기업들도 성장하면서 자신들의 울타리를 세우고 그 안에서 수익을 최대한 확보하려는 독점화 경향으로 치달을 것이라는 분석이 지배적이다. 인클로저 운동이 어느새 역사의 보편적인 현상이자 피할 수 없는 경향으로 자리 잡았다.

■틀 밖에서 보라…탈중앙화 시대적 흐름

중앙집중화의 균열은 시간문제다. 철옹성도 시간이 지나면 내적 모순으로 틈이 벌어진다. 이것이 역사 법칙이다. 가령 중앙 화폐에 도전한 비트코인과 같은 암호화폐가 대표적이다. 탈중앙화와 개방성으로 무장한 비트코인은 중앙이 없이 개인과 개인 간의 연결과 거래를 위한 완벽한 프로토콜을 제공한다. 중앙에서 임의로 조정하거나 조작이 불가능하다. 처음부터 그렇게 설계된 탓이다. 외부의 강제 없이 사용자들 스스로 움직이는 자율적 주체의 속성이 강하다.

탈중앙화의 선두주자인 블록체인은 엔지니어가 발명과 창조를 위해 이용하는 일종의 빈 캠퍼스다. 블록체인의 고유성은 기존 컴퓨터에서는 만들 수 없었던 응용들의 제약을 풀어주거나 응용 범위를 공개하면서 세를 불린다. 새로운 기능, 값싼 수수료율, 더 공평한 지배 구조, 더 나은 상호 운용성, 금융 이익의 공유 등을 제공하는 새로운 네트워크가 구축될 것이라는 전망이 힘을 얻고 있다. 블록체인은 멀티플레이어다. 기존에 관계없던 사람들 사이에서 무언가를 조정하는 데 유용하다는 점에서 미래의 총아로 불린다.

그런 와중에 캡슐화가 대안으로 부각됐다. 토큰은 디지털 화폐라기보다 블록체인에서 사용자에 대한 수량, 허가, 기타 데이터베이스를 축적할 수 있는 일종의 데이터 구조다. 즉 코드를 단순화해 소프트웨어의 복잡성을 제어하는 일종의 전기 콘센트의 역할을 맡는다. 토큰은 사용하기 쉽고 프로그래밍하기가 간단하다는 장점을 지닌다. 토큰은 소유를 가능하게 하고 소유는 제어를 의미한다. 미래에 대한 지속적이고 확실한 약속을 할 수 있는 컴퓨터다. 블록체인에서 실행하는 토큰은 블록체인 기술의 진정한 잠재력으로 평가되는 것도 그래서다.

새로운 트렌드의 발명은 네트워크가 복리식 성장을 시작할 때 자리 잡는다. 그 네트워크의 힘은 플랫폼 앱 피드백 루프 효과다. 이는 파괴적 힘으로 정의될 수 있으며 이런 제품들은 놀라운 속도로 발전하는 기하급수적 흐름 위에 올라탄다. 소프트웨어의 조합성은 또 다른 파괴적 힘의 원천으로 작동한다. 이 모든 기술적 발전은 앞으로 인공지능(AI)으로 표상된다. 인공지능이 인간을 노동으로부터 해방시켜주는 동시에 인간의 생존권을 박탈하는 착취자가 될 것이라는 전망이 분분하다. 인공지능에 대한 도덕적 윤리적 제어는 인간이 어떤 규제와 규범을 만들고 실행하느냐에 달렸다.

그렇다면 '인공지능이 인간을 노동으로부터 해방해줄 것인가?' 최근 출간된 'AI는 인간을 먹고 자란다'는 책에서는 이를 정면으로 부정한다.

■우회로가 없고 직진만 한다

AI는 '인간의 감정, 지식, 창의성, 육체노동, 시간을 데이터로 흡수해 알고리즘으로 가공하고, 이를 자본과 권력으로 전환하는 장치'라고 책은 말한다. AI의 눈부신 발전 뒤에는 보이지 않는 인간 노동자들의 헌신과 자본가의 탐욕이 존재한다. 이른바 'AI 하청노동자'라고 불리는 사람들을 보라. 하루 수백 건의 폭력적이거나 성적인 게시물을 검토해야 하는 케냐의 하청노동자와 하루 1.6달러를 받고 10시간 이상을 컴퓨터 앞에서 영상을 분류해야 하는 우간다의 계약직 노동자들이 대표적이다.

AI는 인간의 창의성과 자율성을 무단으로 추출하고, 인간이 누려야 할 지구 자원까지 탈취한다. 아일랜드 유명 성우의 목소리를 본인도 모르게 AI 학습에 활용하고, 아이슬란드 AI 데이터센터의 서버를 식히기 위해 매일 수백만 리터의 냉각수를 사용한다. AI는 인간뿐 아니라 지구의 자원까지 흡수하며 작동하는 '총체적 착취 시스템'이라고 비판받는 이유다.

이런 면에서 AI는 포르노적이다. 거리감과 간접성을 없애고 즉시 '실사'로 직진하는 포르노와 유사한 경향을 띤다는 말이다. AI의 발전은 점점 더 타인의 경험을 없애고 모든 것이 적나라한 투명성의 측면에서 전개된다. 대화하고 타자를 마주하며 경청하고 대답할 기회는 사라진다.

포르노 산업과 AI 산업은 방향성이 비슷하다. 발전 가능성이 커질수록 이에 비례해 인간의 사고와 감정은 축소되고 쪼그라진다.

인간의 사고를 단순화하고 모든 것을 시각화하는 것은 인간을 기계에 종속된 존재로 전락시키기에 안성맞춤이다.

AI 산업의 가속화에 따라 '디지털 식민주의'의 경고등이 커진다. 저소득 국가에서 값싼 데이터와 노동을 추출해 수익을 창출하는 구조가 영원히 작동할 수 있을까. AI에 대한 민주적 통제 말고는 이런 AI의 파괴적 흐름을 제어할 수 없을 것이다.

[e-mail]

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지