누가 인공지능을 두려워하는가?

오늘날 인공지능이란 무엇인가?

이른바 “인공지능(AI)”이라는 것은 실제로 인간의 지능과는 아무런 관련이 없다. AI는 막대한 데이터에 대한 통계적 분석을 위한 시스템들의 집합으로, 모델을 설정하고 조절하고 대조하고 일련의 목표를 설정하여 “올바른” 해답을 예측하려고 하는 것이다.

번역의 경우를 보기로 들면, AI는 번역자가 하는 식으로 번역하지 않는다. AI는 우선 텍스트가 이야기하는 것을 이해한 다음에, 다른 언어의 문법과 어휘를 적용하여 같은 메시지를 전달하려고 하지 않는다. 그것은 그저 수많은 번역문을 분석한 것에 기초해서, X라는 언어로 된 문장은 Y라는 언어의 또 다른 문장에 상응할 것이라고 통계적으로 예측하려 할 따름이다.

챗GTP 같은 프로그램처럼, AI는 사용자들과 웹브라우저들 사이의 수많은 대화와 상호작용을 샅샅이 찾아낸 후에 질문을 하거나 명령을 내리는 사람이 받기를 기대하는(또는 적어도 기대할 수 있는) 것을 예측한다.

“AI 혁명”은 무엇을 낳았는가?

이러한 시스템들이 이용한 절차는 15년 이상 진화되었는데, 그것은 연구의 진전 덕분이라기보다는 무엇보다도 대규모 데이터 센터들에 대규모 투자가 이루어진 탓에 처리 속도와 능력이 향상되어 데이터가 잘 정리된 덕분이다. 대규모 온라인 서비스로 일제히 출자된 거대한 컴퓨터 농장들(computer farms)이 없었다면 우리는 오늘날과 같은 컴퓨터 신경망을 지니지 못했을 것이다.

즉, AI는 거대한 자본 집중화의 산물로 발전한 것으로, 미국과 중국 양쪽 모두에서 투자할 곳을 찾던 대규모 자본은 인터넷을 그 최종 목적지로 선택했다.

중국과 미국의 경쟁을 지금과 같은 전쟁 직전의 수준까지 끌어올리고, 미국이 한국과 대만에서 긴장을 고조시키고 우크라이나에서는 전쟁을 견인하는 전략을 사용하도록 부추긴 이른바 AI의 스푸트니크(Sputnik: 옛 소련에서 쏘아 올린 최초의 인공위성) 순간이라는 것이 구글이 계발한 바둑 게임 프로그램으로 시작되었다는 사실은 결코 우연이 아니다.

AI 서비스 계발에서 미국 쪽 선봉장인 OpenAI 컨소시엄―ChatGPT의 창조자―이 피터 틸(Peter Thiel) 같은 투자자들과 일론 머스크(Elon Musk)가 발의로 시작하고 아마존과 마이크로소프트의 지원을 받아 탄생했다는 점도 우연이 아니다. AI의 급속한 발전의 뒷면에는 거대한 자본금―일류 회사들과 전문가들과 더불어 한때 인터넷과 온라인 서비스 옮겨갔던 자본금―이 있다.

AI가 실제 의미하는 바는 무엇인가?

AI의 발전은 인터넷을 통해 우리가 본 것―다시 말해 생산의 사회화라는 일반적 경향이 자본의 배치와 축적에 종속되는 현상―의 제2악장이다.

각각의 AI 이면에는 많은 시간의 극도로 불안정한 노동이 있다. 특히 언어 자료, 다시 말해 텍스트들, 대화들, 행동 데이터 그리고 수많은 사람의 선택―보통 그 자체로는 계산되지 않으며, 지불되지 않은, 수많은 사회적 노동 시간을 포함하는―이 있다.

다른 말로 하면, 뒤에서 보게 될 것처럼, 생산을 사회화할 필요성과 그 경향을 협소한 자본주의적 관계의 한계 안에 제한하려는 것은 강제적이고 극도로 모순적인 시도이다.

실제로 AI 산업의 출현은 그 이전에 거대 인터넷 독점회사들이 출현할 때처럼, 이 사회화 경향이 자본주의 사회에서 그 한계점에 도달한다는 것을 극단적인 형태로 보여준다.

우리는 지금 ‘기계’에 대한 생각이 변형되고 있는 시점에 와 있다. 다시 말해 공공연하게 기계는 사회적 노동을 구현하는 것으로서 임금 노동의 필요성을 더 이상 정당화하지 않는 것이 되고 있으며, 그리하여 임금 노동과 직접적으로 모순되는 것으로 변화한다고 생각한다. AI는 어쨌든 기계이며, 컴퓨터 네트워크이다.

“그것들은 인간의 손으로 만들어진 인간 뇌의 기관들이다. 따라서 대상화된 지식의 힘이다. 고정 자본의 발전은 일반적인 사회적 지식이 어느 정도로 직접적인 생산력이 되었는지를, 그리고 사회적 삶의 과정의 조건들이 어느 정도까지 일반적인 지성의 통제 아래 놓이게 되었으며 그것에 부합하여 변형되었는지를 보여준다. 사회적 생산 능력이 지식의 형태로뿐 아니라, 사회적 실천의 직접적인 기관으로서 실생활 과정의 형태로 생산되었는지를 보여준다.” (칼 맑스, 정치경제학 비판 요강(그룬트리세), 1857-1858)

이게 무슨 말일까? AI와 같은 기술 발전을 허용하는 유형 생산의 사회화는 즉각적인 목표로서 임금 노동과 상품화와 결핍으로부터 사회를 해방하는 것을 가능하게 만드는 것이라는 의미이다. 그리고 같은 이유로, 이러한 기술들이 체제 안에서 확대하는 모순의 유형은 인류가 자본주의를 극복하는 것을 불가피하고도 긴급하게 만든다.

거대 자본이 AI에 크게 도박을 건 이유는 무엇이며 그것이 노동자들에게 어떤 영향을 미쳤는가?

연속 출간물 코뮤니즘에서는(In Communism...)에서 보았듯이, 생산의 사회화는 노동 생산성(그리고 자원)을 배가하기 위해서는 역사적으로 필수적인 엔진이다.

자본은 이것을 실현하지만, 그 기회를 축적이라는 협소한 틀 안에서 이해하고, 단 한 명의 노동자도 없이 거대 인프라를 수익성 있게 만들거나 섬유산업 같은 분야에서 노동력을 최소한으로 줄이는 눈앞의 가능성만을 누린다.

부르주아지의 상상력을 가장 자극하는 것은 노동의 자격을 박탈하는 것이다.

산업계에서 부르주아지는 노동자의 훈련 시간을 단축하여 그들을 그저 기계의 보조자가 되도록 만들 생각을 한다. 서비스 분야에서는 프롤레타리아화를 완료하여 전문직 종사자들(쁘띠부르주아지)을 봉급을 받는 법인 구조 속으로 흡수하고 점점 더 불안정하게 만들었다. 의사, 거대 회사의 하급 변호사, 가치가 거의 없는 코드 프로그래머, 임상실험이나 여타 기업 소재의 작가, 텔레마케터, 투자 자문가나 디자이너가 여기에 속하는데, 이 직업들은 점점 더 표준화된 직업에서 생산형 AI들에 의해 바로 대체되는 직업으로 변화될 것이다.

AI와 더불어 증대되는 자본주의의 모순들

보병, 국경, 그리고 궁극적으로는 폭동 진압을 위한 인공지능 유도 초병

일반 구조: AI에 도달한 자본주의는 이미 반동적이며 그것을 인류를 위해 사용할 수 없다.

생산의 관점에 보면, AI를 적용한다는 것은 노동의 물질적 생산성의 증대를 의미한다. 다시 말해 어떤 서비스의 특정한 양을 생산하는 데 필요한 사회적 노동 시간이 전반적으로 감소한다는 뜻이다.

하지만 부르주아지는 물질적 생산성 그 자체에는 관심이 없다. 그들이 관심을 가지는 것은 이윤의 측면에서 노동 생산성―사회적 평균 노동 시간으로부터 얼마나 많은 이윤을 산출할 수 있는가―이다. 그것은 더 많이 생산하는 것뿐만이 아니라 더 많이 ‘판매’하는 것도 의미한다(그와 같은 기술 변화 이후에 임금이 총생산의 가치에서 더욱 적은 비율을 구성하게 되었다는 사실에도 불구하고).

자본주의가 발전하고 있던 19세기에는 세계 시장과 자본주의가 전체적으로 팽창하면서 이러한 모순이 해결되었는데, 이는 국제적 생산을 재조직하고 증가시켜서, 평균 노동일의 감소뿐 아니라 노동자의 소비 능력 향상이라는 결과를 초래했다. 다시 말해 진보.

하지만 세계 시장이 모든 방면에서 마지막 모퉁이에 도달하면서 쇠퇴하고 있는 오늘날의 자본주의에서는 맑스가 임금 요구안의 “한정된 토대”라고 부른 것을 확장할 방법이 없다.

물질적 생산성을 증대시키는 기술들을 통합함으로써 기업들은 더 많은 생산물을 흡수할 시장이 존재한다는 것을 당연하게 받아들일 수 없게 된다. 그래서 전체적으로 기업들은 최대한 신속하게 총산출물을 증가시키지 않고 단지 고용 노동을 감소시킴으로써 이윤을 증가시킨다.

새로운 시장을 차지하려는 충동이 증대하지 않는다고 말하는 것은 아니다. 그 반대이다. 그것은 증대한다. 하지만 그러한 시장은 이미 민족 자본이 차지하고 있는 자본주의 시장들이다. 민족 자본은 그곳에서 소유주 역할을 하며 상업적 팽창을 위한 정확히 동일한 충동과 욕구 지니고 있다.

다시 말해서, 우리는 제국주의 시대에 살고 있으며, 따라서 축적을 향해 나아가는 각각의 단계는 민족 자본들 사이의 제국주의적 긴장들을 증대시키는 결과를 낳는다. 경쟁은 곧 평화로운 가격 승부이기를 그만두고 전쟁까지 나아가지는 않을지라도 무역 전쟁, 통화 전쟁, 제재 …… 그리고 군사적 압박이라는 전략적 게임이 되고 만다.

이를 요약하면 다음과 같다. 오늘날의 거대한 기술적 개선은 진보, 즉 생산자들 자신의 더욱 완전한 인간적 발전이 아니라, 한편으로는 노동자들의 실업과 궁핍을 낳고 다른 한편에서는 더 심한 고통과 죽음으로 밀고 나아가는 군사적 긴장을 낳는다.

부르주아지의 입장에서 본 AI의 모순

지배계급은 자본주의적 성장(축적)이 요구하는 것과 인간 발전 사이의 근본적인 모순에 대해서 별로 관심이 없다. 게다가 지배계급은 필요하다면 재산 형태를 기괴하게 변형시킴으로써 시장의 가장자리에서 생길 수도 있는 풍족함을 최소한으로 제한할 수 있다고 믿는다.

지배계급을 불안하게 만드는 것은 모순이 그 자체로 취하는 형태이다. 즉 AI의 잠재적인 생산성 증대가 그 체제 자체가 생산하는 유효 수요 증가의 결핍을 지나치게 빠르고 폭력적인 방식으로 입증하고 있다는 것이다.

기업 부르주아지는 사업에 AI를 이용하여 일자리를 감소시킴으로써 기꺼이 이윤을 향상한다. 하지만 AI의 사용이 일반화되면 같은 이유로 수요가 감소한다는 사실을 알고 있으며 …… 이를 우려한다.

보기를 들면, AI의 충격에 대한 논쟁이 처음에는 로봇에 세금을 부과하거나 “보편적 기본 소득”을 확립하는 것에 관한 관심을 부활시켰다. 이러한 제안은 잠시 언론의 집중 조명을 받은 후에 또다시 잊히고 말았는데, 그런 제안이 아무것도 해결하지 못했기 때문이다.

“보편적 기본 소득”은 로봇화가 실업에 미치는 효과를 경감시키지 않을 것이다. 생산에 대한 여타의 기술적 개선과 마찬가지로 로봇화는 더 많은 생산물을 배치할 충분한 시장이 없다면 실업을 초래한다. 하지만 앞에서 보았듯이, 그것이 바로 오늘날 자본주의의 문제이며, 모든 재분배 체계와 마찬가지로 보편적 기본 소득은 “새로운 시장을 창조”하거나 소득을 현저하게 증대시킬 수는 없다.

로봇화 경향은 계속될 뿐 아니라, 수출 경쟁력을 증대시키기 위하여, 무역 전쟁의 시나리오 속에서 훨씬 더 강화될 것이며 훨씬 더 많은 실업을 일으킬 것이다.

(Universal Basic Income, 6/5/2018)

결국 탈출구는 언제나 똑같다. 온갖 수단을 통해 제국주의적 경쟁자들의 기술 발전―특히 AI의 발전―을 억제하려고 함으로써 전쟁의 가속 페달을 밟는 것. 그리고 우크라이나에서 보고 있는 것처럼, 필요하다면 이러한 기술을 전쟁 무기로 전환하는 것. 제국주의 권력이 더 강력할수록 이것을 더욱 분명하게 볼 수 있다. 미국에서뿐 아니라 중국에서도 이것을 확인할 수 있는데, 이들은 군사 우주 경쟁에 AI를 적용하는 데 있어 최전선에 있는 나라들이다.

자본주의와 인간의 삶 사이에 대립이 증대하고 있다는 사실을 이보다 더 분명하게 보여줄 수 있는 것은 없을 것이다. 풍요를 낳는 데 이바지할 수 있는 도구가 대량 학살과 파괴의 도구가 된다는 점이다.

자본주의 도덕성에 대한 통계적 종합으로부터 무엇을 기대할 수 있을까?

끊임없이 차별과 원자화로 향해 나아가는 경향

언론 매체는 그들의 전형적인 근시안으로 AI의 편향됨―특히 생성형 AI들과 챗-연계 AI들에서―을 마치 그것이 그것들의 주요 문제인 것처럼 강조해 왔다. 의심할 여지 없이, 대화형 AI에 의해 사용된 대다수 텍스트가 이데올로기적으로 성차별과 인종주의 쪽으로 편향되어 있다면, 그 AI는 정확히 같은 편견을 지닌 채 대화에 대한 올바른 반응을 계산할 것이다. 그리고 사후의 교정―AI가 흑인이나 여성에 대해 농담을 하는 것을 금지하는―은 체제가 생산하는 차별 놀이가 어느 정도까지 널리 퍼져있는지를 보여주는 데 이바지할 따름일 것이다. 그것이 안달루시아 사람들에 대한 인종주의적 언급이나 남성에 대한 모욕적인 농담을 삭제하지는 않을 것이기 때문이다.

그렇지만 지배계급의 입장에서 이 문제에 대한 근원적인 관심은 더욱 진지하다. 그들은 이미 관리 기구와 취약계층을 원조하는 정책 비용―이것들은 이제 기본 서비스의 보편성을 약화하는 것에 대한 변명으로 작용하고 있다―의 축소를 계산하고 있다. 그러나 이것이 지역 수준에서 먼저 시험하던 미국에서, AI는 그러한 결정이 체제 자체에 의해 육성된 계급 차별과 인종주의를 어느 정도나 재생산하는지를 드러냈다. 그것이 EU 입법자들이 AI가 재생산하고 증폭시킬 수 있는 도덕적 메시지에 대해 경고를 날린 이유이다.

자동화된 억압

이것이 단지 초현대적 판타지는 아니다. 인간의 통제가 없는 치명적이고 자율적인 군사·경찰 장비는 제지할 수 없는 소형 무기 산업의 선도자이다. 완전히 자동화되고 자율적인 무기 시스템은 시리아 전쟁에서 시험한 것으로 알려졌는데 이미 지역적인 유혈 전투를 악화시킴으로써 치사율을 증대시킨 것으로 보고되었다.

미국-멕시코 국경지대의 로봇 개들에서부터 인도의 로봇 감시병들과 이스라엘의 무장 장갑차들에 이르기까지, “자동 방어” 체계는 전쟁 상태를 넘어설 정도로 국가로부터 점증하는 투자를 받고 있으며 민간인들에 대한 억압을 자동화하는 쪽으로 더욱더 근접하고 있다.

개인의 행동에 대한 전체주의적 통제

그중에서도 특히, 전체주의와 AI의 결합이 낳은 직접적인 산물인 중국의 사회 신용 제도―애초에 미국과 유럽의 전체 언론으로부터 비판받았다―는 중앙아시아와 아프리카에서 시장을 개척했을 뿐 아니라 …… 그들이 서양이라고 부르는 지역에서 경쟁자들을 만들어냈다. 보기를 들면 남한은 팬데믹으로 감금되었던 시기에 AI의 성능을 시험했으며 카타르는 월드컵을 극단적으로 AI가 유도하는 전체주의적 통제의 실시간 예증으로 전환했다.

미국에서 구글과 아마존은 …… 노동 규약과 절차에 대해 갈수록 만연하는 AI 감시로는 충분하지 않은 것처럼(그리고 때때론 제대로 작동하지 않으며 위험하기까지 한 것처럼), 작업장에 있는 노동자들의 “이상 행동”을 감시함으로써 이 기술들을 한 단계 더 밀고 나오고 있다.

타락하고 미신적인 “보편적 문화”

최근 몇 달 동안 우리는 챗GPT가 끼친 사회적 충격으로 다음과 같은 사실을 보기 시작했다. 아무 생각 없이 되풀이하는 여론 산업의 대중매체들은 정보를 제공하는 자료일 뿐 아니라 불분명한 교육 자료로 간주하기 시작했으며, 구글은 검색 엔진의 대답을 변형시키기 위하여 “코드 레드”를 발동한다는 사실. 그 회사의 메시지에 주의를 기울인다면, 우리는 다양한 결과의 목록을 받는 대신에 위키피디아의 글과 거의 동등한 표현을 얻는 시점에 도달할 것이다.

구글에 의해 조정된 정보와 지식에 대한 관계가 체제 자체에 의해 생산된 이데올로기·선전·도취에 대한 저항을 약화해서 전쟁에 대한 사회적 저항을 약화하는 지점에 이르게 한다면, 앞으로는 신념에 대한 동질성을 추진하는 수준―중세 기독교 세계 이래로 알려진 바가 없는 것―에 이르게 될 우려가 있다.

중국이 AI를 이용한 디지털 복제품으로 변덕스러운 인플루언서를 대체하고 있다는 것은 놀랄 일이 아니다. 사회적 통제의 자동 장치가 사회적 자동 장치, 즉 기계로 작동하는 부르주아지의 유토피아를 언급하는 것이라면, 지배계급이 보기에 이데올로기적 AI들은 사회 기계(social machine)의 영혼―잘 통제되면, 거대한 인간 (가혹한) 조직이 순조롭게 움직이도록 할 것―이다.

자동 장치의 영혼에 대한 이러한 부르주아지 특유의 사상은 주변적인 것이 아니다. 이번 여름에 구글은 인공지능 분야의 수장을 해고했는데, 챗GPT에 해당하는 그 회사의 작품―그가 작업하고 있는―이 어린아이와 동등한 지각과 감각을 발전시켰다고 주장했기 때문이다. 매체의 반응은 전혀 조롱 조가 아니었다. 문제의 엔지니어가 잘못 알고 있을지라도 이 프로그램들이 지적인 존재가 되리라는 것은, 우리가 AI라고 부르는 것의 본성의 문제가 아니라 시간의 문제일 뿐이라는 것을 모든 사람이 당연시 여겼다.

우리는 여기서 단지 매체의 통계적 통설의 미신에 사로잡힌 혼동이나 신격화―민중의 소리는 하나님의 소리라는 말의 거대한 판본―에 직면하는 것이 아니다. 참고용 신문들이 이미지 형태의 통계적 예측과 예술을 혼동할 때, 우리는 체제의 타락을 나타내는 전형적인 현상을 넘어섰다. 우리는 지배계급의 문화―한때 이것은 보편적인 문학과 음악의 출현을 진보를 생산하는 지배계급의 능력을 보여주는 이데올로기적 지표로 만들었다―가 야만적으로 퇴화하는 첫 단계와 직면하고 있다.

AI로부터 무엇을 기대해야 하는가?

* AI는 생산의 사회화와 노동 생산성 증대에 도움이 되는 통계적 분석 기술이며, 따라서 인류를 위해 거대한 해방 잠재력을 지니고 있다.

* 자본주의적 사회관계의 틀에서, 한편으로 AI는 노동자들의 실업, 탈-기술, 빈곤 …… 그리고 제국주의적 긴장을 추동하여, 쇠퇴하는 자본주의 체제의 기본 모순을 증폭시킬 수 있을 따름이다.

* 자동 전쟁 장치와 무기에 AI의 적용은 자본주의와 인간의 삶 사이의 대립을 증대시킨다. 풍부함을 창조하는 데 이바지할 수 있는 도구가 대량 파괴와 살상의 도구가 된다.

* 군국주의와의 논리적 연속성 속에서 AI는 사회적 통제와 억압의 전체주의적 발전의 극단적 형태―우리가 미국 국경지대의 무장 통제와 중국(신장 지구의 사례가 가장 중요하다)에서 볼 수 있는 것―에 기여하고 있다. 하지만 AI의 충격은 그 이상인데, 모든 사회적 삶에 스며들어 정보와 지식을 통해 지배적인 문화와 사람들의 관계 전반을 그리고 특히 노동자들의 관계를 퇴보시킨다.

2023-01-03

코뮤니아(Communia)