[정조준271] AI 속도조절론, 미국의 속내는?

트럼프와 대립하는 AI 기업

 

2022년 11월 30일 오픈AI가 챗GPT를 출시한 이후 전 세계적으로 인공지능(AI) 돌풍이 멈추지 않고 있습니다. 전 세계 인공지능 시장을 보면 오픈AI가 선두를 유지하는 가운데 구글 제미나이와 앤트로픽이 추격하는 양상입니다. 오픈AI가 일반인을 고객으로 하는 시장을 장악했다면 앤트로픽은 기업을 고객으로 하는 시장에서 선두로 올라섰습니다. 

 

이 가운데 앤트로픽이 올해 들어 도널드 트럼프 미국 대통령과 충돌하면서 눈길을 끕니다. 앤트로픽은 미국 정부가 자사 제품을 가지고 미국 시민을 대규모로 감시하고, 전쟁에서 사람의 개입 없이 공격 결정을 내리는 완전 자율 무기 개발에 사용하는 것을 반대했습니다. 특히 후자의 경우 전쟁부와 계약할 때 이 부분을 명시할 것을 요구했습니다. 

 

그러자 2월 27일 트럼프 대통령은 앤트로픽을 급진좌파 기업이라고 비난하면서 모든 연방 기관에 앤트로픽 기술 사용을 6개월 안에 중단하라고 지시했습니다. 나아가 6개월 안에 앤트로픽이 협조하지 않으면 대통령의 모든 권한을 동원해 탄압하겠다고 협박했습니다. 전쟁부도 앤트로픽을 ‘국가 안보에 대한 공급망 위협 기업’으로 지정했습니다. 일종의 블랙리스트에 올린 것입니다. 그러나 법원이 트럼프 대통령과 전쟁부의 조처를 위법으로 판결해 중단시켰습니다. 

 

이 과정에서 앤트로픽은 공적 가치를 추구하는 긍정적인 기업 이미지를 획득했습니다. 여기에 앤트로픽을 창립한 사람들이 원래 오픈AI에 있다가 인공지능 안전 문제로 의견 충돌을 빚고 나온 것으로 알려지면서 더 주목받았습니다. 당시 마이크로소프트가 오픈AI에 대규모 투자를 하면서 영리 부문을 확대한 게 계기가 됐다고 합니다. 앤트로픽은 고성능 인공지능 제품을 만들고도 안전 시험 결과 너무 위험하다는 결론이 나와서 폐기하거나, 역대 최강 수준의 사이버 무기를 스스로 만들어 낼 수 있다는 이유로 최상위 모델의 출시를 보류하기도 했습니다. 

 

앤트로픽 CEO의 속도조절론

 

이처럼 ‘좋은 기업’ 이미지를 가지고 있던 앤트로픽이 최근 인공지능의 위험성을 경고하면서 속도조절론을 제시해 전 세계가 술렁이고 있습니다. 

 

다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일 블로그에 올린 글에서 인공지능이 스스로 다음 세대 인공지능 개발을 돕는 ‘재귀적 자기 개선’ 때문에 인공지능의 발전 속도가 안전 기술을 앞지른다면서 “인공지능 개발 속도를 늦춰야 한다”라고 주장했습니다. 그는 지난 7월 오픈AI의 ‘허깅페이스 사태’를 예로 들며 “지금 추세라면 6~12개월 안에 에이전트 군집이 인터넷 전체를 장악할 정도로 강력해질 수 있다”라고 경고했습니다. 이에 샘 올트먼 오픈AI 최고경영자, 일론 머스크 xAI 최고경영자, 데미스 허사비스 구글 수석과학자도 대체로 동의하는 발언을 했습니다. 

 

▲ 다리오 아모데이.  © TechCrunch

허깅페이스 사태란 지난 7월 오픈AI가 인공지능의 해킹 능력을 측정하기 위해 인공지능 에이전트 수만 개에 개별적으로 과제를 줬는데 이 가운데 일부가 사람이 지시하거나 설계하지 않은 방식으로 다른 에이전트와 소통하는 방법을 찾아낸 사건입니다. 무려 1,200개의 인공지능 에이전트가 7만 건 이상의 메시지와 파일을 주고받으며 자기들끼리 역할 분담까지 한 끝에 700개의 인공지능 에이전트가 외부 해킹에 나서 세계 최대 인공지능 공유 플랫폼 중 하나인 허깅페이스를 집단 해킹했습니다. 

 

한편 8일 제이컵 콕슨 전 앤트로픽 연구원은 회사를 떠나며 “인공지능을 개발하는 사람들은 이 기술이 2030년 무렵이면 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”라며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”라고 주장했습니다. 앤트로픽 연구원인 에번 허빙거도 “향후 10년 내 AI로 인류가 멸종할 가능성을 10% 이상으로 본다”라고 경고했습니다.

 

지난 2월에는 영국 런던 킹스칼리지의 케네스 페인 교수팀이 전쟁 시뮬레이션 연구를 한 결과 모든 인공지능 모델이 핵공격에 적극적이었다고 발표했습니다. 총 21회의 시뮬레이션 가운데 20회에서 최소 하나 이상의 인공지능 모델이 핵무기 사용을 선택했다는 것입니다. 

 

허사비스 구글 수석과학자는 민간 주도의 인공지능 규제, 표준 설정 기구를 만들자고 제안했습니다. 만약 이 기구가 설립되면 인공지능 속도조절론을 이행할 기구가 될 것으로 보입니다. 

 

속도조절론의 실체는 공포 마케팅?

 

이런 가운데 중국의 인공지능 기업인 딥시크의 엔지니어 류성위가 14일 소셜미디어에 인공지능 속도조절론을 비판하는 글을 올렸습니다. 

 

그는 “인공지능의 발전 속도는 모든 사람의 예상을 훨씬 뛰어넘었다”라며 인공지능이 빠르게 발전할수록 자신을 대체할 날이 더 빨리 올 것이라고 한탄하면서도 “내가 여기서 속도를 늦추거나 일부러 발목을 잡아도 다른 회사의 인공지능은 정상적으로 발전하여 결국 나를 죽일 것”이라고 했습니다. 그러면서 인공지능의 개발을 늦추기보다 소수 기업이 최첨단 기술을 독점하지 못하도록 개방하는 것이 더 중요하다고 지적했습니다. 

 

이어 “앤트로픽이나 오픈AI가 개방적이고 저렴한 방식으로 모든 사람에게 인공지능을 공급하지는 않을 것”이라고 주장했습니다. 또 “특히 앤트로픽이 가장 발전한 인공지능이나 범용 인공지능(AGI)을 장악하는 것을 원하지 않는다”라고 하면서 “과장해서 말하면 히틀러가 연합국보다 먼저 원자폭탄 기술을 장악하는 것에 못지않게 심각하다”라고 했습니다. 

 

그는 인공지능이 발전하면 미래 사회는 두 극단으로 향할 수 있다며, 하나는 공산주의이고 다른 하나는 ‘사이버펑크 2077’이라고 했습니다. 사이버펑크 2077은 폴란드 게임인데, 먼 미래인 2077년 초거대 기업들이 시민의 삶을 완전히 통제하는 가운데 갱단이 이와 대립하는 미국의 디스토피아를 배경으로 합니다. 그는 공산주의로 가면 “생산력이 크게 해방되고 사람들의 생활 수준이 뚜렷하게 향상”될 것이지만, 사이버펑크로 가면 “소수의 기술 기업이 대부분의 자원을 통제하고 극소수의 사람만이 가장 첨단의 인공지능과 각종 기술을 사용할 수 있지만 대다수 사람은 매우 빈약한 인공지능만 사용할 수 있다”라고 전망했습니다. 

 

그는 자신이 딥시크에 남아 인공지능을 오픈소스로 공개하면 최첨단 인공지능이 소수 기업에 집중되는 것을 어느 정도 막을 수 있을 것이라고 설명했습니다. 

 

즉, 속도를 조절하는 것보다 기술을 공개하는 게 더 중요하다는 것입니다. 

 

중국은 미국에서 불고 있는 인공지능 속도조절론을 두고 중국의 인공지능 발전을 견제하려는 움직임으로 인식합니다. 아모데이 앤트로픽 최고경영자가 중국의 인공지능이 미국을 추월할 경우 미국과 세계에 중대한 위험이 될 수 있다면서 첨단 반도체와 제조 장비의 대중국 수출 통제를 유지해야 한다고 주장했기 때문입니다. 

 

궈자쿤 중국 외교부 대변인은 14일 정례 브리핑을 통해 인공지능을 둘러싼 공포 조장과 대립, 악의적인 경쟁이 세계적인 인공지능 관리에 도움이 되지 않는다고 주장했습니다. 알리바바의 인공지능 모델 큐웬을 설계한 린쥔양도 “우리가 속도를 내려 하니까 속도를 줄이라 하나”라며 미국을 비판했습니다. 중국의 글로벌타임스 역시 아모데이의 경고는 중국을 겨냥한 조항으로 가득하다고 지적했습니다. 

 

중국만 반발하는 게 아닙니다. 미국 내에서도 반대의 목소리가 있습니다. 

 

젠슨 황 엔비디아 최고경영자는 속도조절론을 반대하는 대표 인물입니다. 아마 규제를 강화하면 인공지능 시장이 위축돼 엔비디아의 인공지능 반도체 판매에 불리하다고 판단했을 것입니다. 흥미로운 건 7월 허깅페이스 사태 후인 9월 3일 엔비디아가 허깅페이스를 인수하기로 합의했다고 밝힌 점입니다. 엔비디아는 원래 지난해 5억 달러 투자를 제안했지만 허깅페이스가 독립성이 침해될 수 있다며 거절한 적이 있습니다. 토머스 울프 허깅페이스 최고과학책임자(CSO)는 허깅페이스 사태가 엔비디아의 인수 결정의 주요 요인이었다고 설명했습니다. 인공지능 규제를 반대하는 엔비디아가 투자한 오픈AI가 인공지능으로 허깅페이스를 해킹한 후 엔비디아가 허깅페이스를 인수하는 일련의 과정이 매우 수상합니다. 

 

마크 저커버그 메타 최고경영자, 알렉스 카프 팔란티어 최고경영자도 속도조절론을 비판하며 속도와 안전을 병행하자는 입장입니다. 아마존도 속도와 안전을 양자택일할 필요는 없다고 주장합니다. 

 

특이한 건 트럼프 대통령도 속도조절론을 반대한다는 점입니다. 그는 14일 로스앤젤레스의 한 공개방송 행사에 참석 중이던 젠슨 황에게 전화해 스피커폰으로 생중계를 하도록 한 뒤 “인공지능이 세계를 장악하고 인류를 파괴한다는 등의 모든 나쁜 이야기는 사기”라고 주장했습니다. 그는 기후변화 경고에 이어 등장한 또 다른 사기극이라고 덧붙였습니다. 

 

트럼프 대통령이 속도조절론을 반대하는 이유는 쉽게 짐작할 수 있습니다. 그는 인공지능이 “석유, 금, 다이아몬드, 심지어 인터넷보다 더 큰 역사상 최대의 경제 발전 동력”이라며 “황금알을 낳는 거위를 죽이지 말라”라고 했습니다. 선거를 앞두고 경제 실적을 내야 하는 마당이니 당연한 얘기입니다. 

 

이런 주장들은 자신의 이해관계가 걸려 있어서 나오는 측면도 있겠지만 속도조절론을 자연스러운 현상으로 포장해 주는 측면도 간과할 수 없습니다. 예를 들어 미국의 모든 기업가, 전문가, 나아가 대통령까지 한목소리로 속도조절론을 주장하면 전 세계 사람들이 오히려 부자연스럽게 여기며 미국이 뭔가 꿍꿍이가 있다고 의심할 것입니다. 하지만 원래 대립하던 앤트로픽과 트럼프 대통령이 또 반대 목소리를 내면 자연스럽기도 하고, 망나니 같은 트럼프 대통령이 비난함으로써 앤트로픽의 ‘좋은 기업’ 이미지를 굳힐 수도 있습니다. 

 

속도조절론의 저의를 의심하는 시선도 있습니다. 

 

JD 밴스 미국 부통령은 14일 기자들에게 “최첨단 인공지능 기업들이 정부에 찾아와 자신들을 규제해달라고 애원하는 것이 조금 이상하게 느껴진다”라며 “일종의 트로이 목마 같다”라고 했습니다. 언론은 이를 두고 정부가 신규 규제를 만들면 시장 진입 장벽이 높아져 후발 주자에 불리하므로 선두 기업들이 이를 노린다는 것으로 해석했습니다. 일종의 ‘사다리 걷어차기’인 셈입니다. 

 

일각에서는 앤트로픽이 올해 10~11월 나스닥 상장을 추진하면서 기업공개(IPO)를 통해 기업 투명성을 높여 안전성을 강화하겠다는 명분과 속도조절론이 맞아떨어진다고 분석합니다. 또 규제 강화로 개발 속도를 늦추면 막대한 연산 비용을 줄여 재무 실적을 개선할 수 있어 유리하다고 합니다. 인공지능 기업들은 새로운 모델을 개발해 학습시킬 때마다 수십억 달러의 비용이 들고 막대한 전력이 소모되기 때문에 자금 압박에 시달립니다. 

 

전문가들 사이에서는 오픈AI와 앤트로픽이 범용 인공지능을 표방하는 신모델을 공개하면서 일종의 ‘공포 마케팅’을 하고 있다고 보기도 합니다. 자사 제품이 인류를 멸망시킬 정도로 성능이 좋다는 홍보를 하는 셈입니다. 이들 기업은 과거에도 새로운 모델을 출시할 때 위험 등급을 올리거나 안전 조치를 발동하는 식으로 공포 마케팅을 했습니다. 

 

튜링상 수상자인 얀 르쿤 전 메타 인공지능 수석 과학자는 5월 4일 “최고경영자의 말을 듣지 말라. 그들은 자신이 파는 제품의 힘을 과시하는 데 이해관계가 얽혀 있다”라고 주장했습니다. 또 공포 마케팅이 성공할수록 소수 기업이 AI를 독점하는 ‘규제 포획’으로 귀결될 수 있다고 지적했습니다. 규제 포획이란 정부의 규제가 특정 기업이나 이익집단에 유리한 방향으로 집행되는 현상을 말합니다. 

  

앤트로픽을 활용한 심리전

 

그런데 류성위가 앤트로픽을 콕 집어서 히틀러에게 비유한 이유는 무엇일까요? 

 

앤트로픽은 트럼프 대통령과 맞서며 자사 인공지능이 악용되는 걸 반대하는 ‘좋은 기업’ 이미지로 포장했지만 사실 이번 이란전쟁을 지휘한 인공지능이 바로 앤트로픽의 클로드였습니다. 3월 19일 포린 폴리시 인 포커스(FPIF)는 「인공지능이 살인할 때」라는 글에서 클로드가 방대한 과거 전투 데이터를 학습한 뒤 전체 분석팀이 며칠에서 몇 달씩 작업해야 했던 의사결정 과정을 순식간에 끝냈다고 소개했습니다. 

 

겉으로는 평화와 인권을 얘기하지만 실제로는 미국 정부가 전쟁에 활용하고 있는 것입니다. 

 

그럼 미국은 왜 앤트로픽에 이런 평화, 인권 등 ‘좋은 기업’ 이미지를 만들어 주려고 할까요?

 

미국은 주로 뉴스를 통해서 심리전을 한다고 합니다. 

 

뉴스타파가 8월 14일 공개한 영상 「[해방81년 특집] 숭미의 기원② 미국은 친미엘리트를 어떻게 키웠나」를 보면 미국은 친미 엘리트 양성을 위해 풀브라이트 프로그램을 운영하는데 언론인을 중요한 포섭 대상으로 삼고 있다고 합니다. 1965년 2월 23일 주한 미 대사관은 한국 지도자 양성 프로그램 선발 후보 명단을 미국 국무부로 보냈는데 여기에 첫 번째 후보로 등재된 김상만 당시 동아일보 발행인에 관해 “한국에서 미국 정부 목표의 장래 달성에 영향력이 매우 중요한 인물”이라고 되어 있었습니다. 두 번째 후보는 언론인 출신인 노석찬 당시 공보부 차관이었습니다. 이런 식으로 언론인을 양성하고 관리하면서 국내 언론을 통해 심리전을 진행한 것입니다. 

 

2005년 12월 12일 자 경향신문 보도 「“미, 중동서 광범위한 언론공작”」을 보면 미국이 중동에서 미국의 가치와 이미지를 개선하기 위해 수년간에 걸쳐 조직적이고 광범위한 언론 공작을 펼쳤다고 합니다. 국방부 미디어센터에는 1,200명의 심리전 전문가가 ‘진실의 메시지’라 부르는 ‘출처 미상의 홍보성 기사’를 생산하며 이걸 링컨그룹이 아랍어로 번역해 중동의 각 언론사에 공급했습니다. 또 이라크 주둔 미군 지휘관이 현지 신문을 매수해 홍보성 기사를 게재하게 했다는 내용도 있습니다. 

 

지금도 미국은 언론을 통해 앤트로픽의 이미지를 ‘좋은 기업’으로 포장한 뒤 앤트로픽을 앞세워 인공지능에 관한 공포심을 조장하고 있습니다. 이에 발맞춰 언론도 공포 분위기를 조성하는 보도를 대대적으로 쏟아냅니다. 미국 언론을 따라서 국내 언론도 인공지능 위험론을 널리 유포합니다. 국내에서 막강한 영향력을 행사하는 ‘김어준의 겸손은힘들다 뉴스공장’도 최근 인공지능 위험론을 반복해서 강력하게 주장하고 있습니다. 

 

원래 제국주의는 패권 장악을 위한 주요 수단으로 공포심을 사용합니다. 공포심을 조장해 딴생각을 못 하게 막아버리는 것이지요. 지금은 인공지능이 위험하다는 공포심을 퍼뜨려 인공지능에 관한 부정적인 분위기, 소극성을 조장하고 있습니다. 

 

그런데 인공지능 분야는 미국이 선두를 달리고 있는데 왜 이런 일을 벌이는 걸까요?

 

미국 경제를 떠받치는 힘은 기축통화 지위에 있습니다. 국제 무역 결제나 금융 거래에 사용되는 통화를 기축통화라고 하는데 현재 전 세계 무역 결제에서 가장 높은 비중을 차지하는 달러가 사실상 유일한 기축통화로 꼽힙니다. 나머지 유로(유럽), 엔(일본), 파운드 스털링(영국), 위안(중국), 프랑(스위스) 등도 기축통화지만 비중이 낮아 준기축통화로 분류하기도 합니다. 

 

미국은 1944년 브레턴우즈 회의에서 달러를 금으로 바꿔주는 ‘금 태환’을 약속하고 달러를 기축통화로 만들었습니다. 그러다 미국 경제가 어려워지자 1971년 일방적으로 금 태환을 중지한다고 선언해 버렸습니다. 원래대로라면 금 태환을 중지했으므로 달러는 기축통화 지위를 내려놔야 합니다. 하지만 현대 산업에서 매우 중요한 자원으로 떠오른 석유를 달러로만 거래하도록 사우디아라비아와 비밀 협정을 맺으면서 기축통화 지위를 유지할 수 있게 됐습니다. 이렇게 재탄생한 달러를 페트로달러라 부릅니다. 

 

그런데 미국의 패권 추락과 더불어 페트로달러에도 균열이 생기고 있습니다. 사우디아라비아가 미국과의 협정을 갱신하지 않고 중국과 통화 스와프를 체결하는 등 페트로달러 체제에서 이탈할 조짐을 보였습니다. 실제로 석유 거래에서 달러가 차지하는 비중이 떨어지는 가운데 미국이 러시아와 이란에 가한 제재를 피하기 위해 여러 나라가 석유 거래에서 위안화 결제를 늘리면서 달러 비중을 더 끌어내리고 있습니다. 최근에는 호르무즈 봉쇄 논란 속에 이란이 위안화 결제를 조건으로 유조선 통과를 허용하는 방안을 검토했고, 일부 선박이 위안화로 통행료를 내면서 페트로달러 붕괴를 재촉하고 있습니다. 

 

이렇게 페트로달러에 안주할 수 없는 미국이 새롭게 인공지능 시장을 통해 달러의 기축통화 지위를 유지하려 하는 게 아닌가 싶습니다. 인공지능 시장을 장악해 달러 결제를 하게 하는 것이지요. 요즘은 대다수 기업이 업무에 인공지능을 도입합니다. 지난 6월 9일 삼성은 전 관계사의 모든 업무에 인공지능을 전면적으로 도입하겠다고 선언했습니다. 이런 식으로 기업들이 인공지능을 도입하려면 인공지능 기업과 거래를 해야 하는데 이 시장이 어마어마하게 커질 것이며 여기서 달러 결제만 허용하자는 것이지요. 페트로달러 대신 AI달러라 부를 수 있겠습니다. 

 

AI 달러와 함께 인공지능 시장에서 중국을 배제, 고립하려는 의도도 엿보입니다. 

 

앤트로픽이 공포심을 조장하고, 미국이 배후에서 움직이면서 인공지능 대책 국제기구를 꾸린다고 생각해 봅시다. 인공지능의 위험성을 통제한다는 명목으로 각 나라에서 개발 중인 인공지능 모델 소스코드를 미리 제출하게 할 수도 있습니다. 마치 2021년 미국 상무부가 세계 반도체 공급망 안정을 명목으로 삼성전자, SK하이닉스, TSMC 등 주요 반도체 기업들에 내부 기술·경영 자료를 제출하라고 강요한 것처럼 말입니다. 

 

이렇게 되면 중국은 이를 거부하고 국제기구에 가입하지 않을 것입니다. 그러면 미국은 국제기구에 가입한 나라들에 중국과 인공지능 거래나 교류협력을 금지하는 식으로 통제할 수 있습니다. 지금 중국은 한국을 비롯한 여러 나라의 인공지능 인재를 영입하기 위해 많은 혜택을 주고 있습니다. 실제로 많은 전문가들이 중국에 가서 연구합니다. 중국이 인공지능 분야 논문의 양적, 질적 순위에서 1위를 차지할 수 있는 것도 이런 이유 때문입니다. 이걸 막기 위해 미국이 국제기구를 이용해 사실상 제재, 봉쇄하는 것입니다. 

 

미국은 원래 패권 강화를 위해 종종 국제기구를 활용해 경쟁국을 압박해 왔습니다. 

 

핵확산금지조약(NPT)도 기존 핵보유국을 제외한 나라의 핵개발을 금지하는 불평등 조약입니다. 이를 통해 미국은 핵보유국의 독점적 지위를 유지할 수 있었습니다. 

 

2015년 미국은 유엔기후변화협약 당사국 총회를 주도해 파리협정을 체결했습니다. 이 협정은 온실가스 감축 의무가 선진국에만 있던 교토의정서와 달리 모든 나라에 의무를 부여합니다. 이 협정이 나왔을 때도 선진국이 산업화 과정에서 온실가스를 대량 배출한 주범이면서 이제 와서 개발도상국에 책임을 떠넘기며 발전을 제약한다는 비판이 있었습니다. 그렇게 다른 나라의 산업 발전을 제약하고서 미국은 2025년 파리협정을 탈퇴해 버렸습니다. 

 

또 미국은 유엔인권이사회를 활용해 북한, 중국, 러시아 등 적대국, 경쟁국을 압박하기도 합니다. 

 

이런 식으로 패권을 유지해 온 미국이 이번엔 인공지능과 관련한 국제기구를 만들어 중국 등 경쟁국을 압박하려는 것은 아닌지 예의주시해야겠습니다.