하드웨어가 세상을 집어삼키고 있다

2011년, “소프트웨어가 세상을 집어삼키고 있다”(Why software is eating the world)는 칼럼이 화제를 모았다. 넷스케이프를 만들었고 당시 앤드리센-호로위츠라는 VC를 이끌던 마크 앤드리센의 이야기였는데, 골자는 단순했다. 물리적인 세상이 소프트웨어에 의해 크게 변화한다는 얘기였다. 그 당시는 서점과 쇼핑이 아마존으로 대체됐고, 레코드샵은 아이튠즈와 스포티파이로, 극장은 넷플릭스로 잠식되던 때였다.

10여년이 지난 지금은, 하드웨어가 소프트웨어를 집어삼키고 있다. 오프라인이 소프트웨어에 잠식되었듯, 온라인이 하드웨어에 잠식된다는 얘기는 아니다. 그보다는 소프트웨어의 발전이 하드웨어에 그 어느때보다 더 의존적이 됐다는 뜻이다.

요즘 모두가 얘기하는 엔비디아와 반도체 기업들이 없었다면 지금의 인공지능이 과연 작동할 수 있을까? 아니, 이렇게 물어보자. 지금 우리 눈앞에 놓인 반도체의 성능이 지금처럼 아득히 예상치를 넘어 강력해지지 않았다면 과연 우리는 지금처럼 비효율적으로 인간 두뇌의 뉴런 연결을 흉내내 보겠다는 도전을 시작할 수 있었을까? 인공신경망에 대한 아이디어는 이미 수십년전부터 존재했지만, 여기서 정작 돌파구를 찾게 된 건 (기존의 관념에서 보자면) 무한히 부담스러운 연산을 군말없이 뒷받침해주는 새로운 하드웨어 덕분이 아니었을까.

엔비디아는 이 새로운 하드웨어 시장의 슈퍼스타다. 이 회사가 만드는 GPU는 고성능 슈퍼카라기보다는, 단순 계산을 동시에 많이 해내는 오토바이 부대에 해당하는데, 이 GPU는 전통적으로 보면, 그저 비디오게임을 잘 즐기기 위해 3차원 그래픽을 실시간으로 만들어내는 단순 계산을 해 왔다. 그런데 이런 단순 계산이 인공지능에 딱이었다. 마치 개별 세포 하나의 능력은 보잘 것 없어도 서로 연결되어 놀라운 능력을 발휘하는 인간 두뇌의 수백억 개 뉴런처럼, GPU도 단순 계산을 담당하는 수많은 작은 코어가 서로 연결돼 놀라운 일을 해낸다. 없어서 못 판다는 엔비디아의 H100 같은 제품은 코어만 1만개가 넘고, 사용된 트랜지스터는 수십억 개에 이른다. 사람의 두뇌를 흉내낼 수 있는 수준의 하드웨어가 구상 수준으로 머물던 소프트웨어를 현실에 구현해냈다. 하이닉스나 삼성전자가 만든다고 해서 9시 뉴스에도 나오는 HBM(고대역폭메모리)도 마찬가지다. 이 메모리는 이전에는 거의 신경도 쓰지 않던 프로세서와 메모리 사이의 데이터 이동속도를 높이기 위한 신기술이 적용된 새로운 하드웨어다. 굳이 비유하자면 예전에는 오토바이 배달 주문을 시키면 배달기사가 안장에 올라타는 시간은 전체 배달시간에서 생각할 필요도 없었는데,(아주 일부에 불과했는데) 배달시간이 극도로 짧아지면서(GPU가 발전하면서) 안장에 올라타는 시간까지도 예전보다 훨씬 줄인 메모리를 만든 셈이다.

반도체만의 일이 아니다. 이런 인공지능은 내 스마트폰 위에서 작동하는 게 아니다. 데이터센터에서 일어난 연산의 결과가 그저 내 스마트폰으로 전달될 뿐이다. 정작 인공지능은 데이터센터에 있다. 수십억 명의 사람들이 수백만 개의 질문을 초단위로 쏟아내도 그걸 받아서 응답해 줄 수 있는 일을 하는 거대한 시설 말이다. 사람은 몇 명 일하지도 않는 이 곳에서는, 사용하는 에너지가 항공모함급인 수많은 서버컴퓨터들이 고열을 뿜어내고, 이를 식히기 위해 최고 출력으로 에어컨이 상시 돌아간다. 예전에는 데이터센터당 전력 사용량이 약 10메가와트 수준이었다고 하는데, 최근 지어지는 인공지능을 위한 데이터센터는 약 100메가와트의 전력을 잡아먹는다. 일반적인 규모의 태양광발전소 발전량에 맞먹는 수준이다. 이른바 ‘빅테크’들이 인공지능을 전지구적으로 서비스하겠다고 마음먹게 된 건 이들이 소프트웨어 기술력이 뛰어나서가 아니라 발전소를 짓거나 전기를 사들일 능력이 됐기 때문이다. 아마존과 구글의 데이터센터 주위에는 이들이 입도선매한 태양광 발전소, 풍력발전소 등이 함께 생겨난다. 다른 기업들이라면 아무리 돈을 내겠다고 해도 지역 주민들의 전기를 24시간 365일 나눠써야 하는 이런 시설 건설 계획에 대한 시민사회의 반대에 부딪혔겠지만, 세계에서 가장 현금이 많은 이 기업들은 친환경 전력을 직접 생산한다. 이들 옆에서 이제 전력생산의 불규칙성을 줄여주는 에너지 저장 업체들이 번성하고 있다. 인공지능의 시대는 컴퓨터 모니터 앞에 앉은 두꺼운 뿔테안경 천재들이 만들었다기보다는 땅을 파고 건물을 올리는 사람들이 열어가고 있는 셈이다.

또 하나의 변수는 통신이다. 이미 전 지구가 초고속인터넷으로 연결됐다고 하지만, 지난 10년 간 이 인프라는 차근차근 새로운 주인을 맞아왔다. 테슬라의 창업자인 일론 머스크가 설립한 스페이스X는 지구 저궤도에 이미 수천개의 인공위성을 쏘아올렸다. 전 세계가 쏘아올린 인공위성의 절반 수준이다. 이 거대한 통신 네트워크는 우크라이나 정보전 전황을 좌우할 정도였다. 전세계 국가간 통신량의 90% 이상은 해저케이블을 통해 연결되는데, 태평양과 대서양을 가로 지르는 이 해저케이블은 과거에는 국영 통신사들의 투자로 건설됐다. 하지만 지난 10년간 여기에 빅테크 기업들의 자본이 그 어느때보다 급속하게 투입됐다. 심지어 구글은 잠수함으로 설치해야 하는 이 거대한 해저케이블 통신망을 단일 민간기업으로서 직접 설치한 첫 회사로 기록됐다. 우리는 애플이나 구글, 메타, 아마존 같은 기업들이 소프트웨어 개발자들을 불경기라는 이유로 가차없이 해고하는 것을 보고 있지만, 이들이 통신과 전력, 데이터센터 같은 하드웨어 투자를 줄이는 모습은 결코 보지 못한다. 새로운 시대는 에너지와 건설, 반도체의 시대다.

물리적 사업을 비트(bit)와 연결 짓지 못해 발을 굴렀던 지난 10년이 지나고, 이제 우리는 소프트웨어 사업의 발전을 위해 공장 앞에 줄을 서고, 발전소 옆에 회사를 짓고, 안정적인 통신을 위해 인공위성을 쏘아야 하는 시대를 살기 시작했다. 이 하드웨어 시대의 마지막에, 생각지도 못했던 인프라가 우리 주변을 슬그머니 먹어치운 다음, 그 다음에 올 새로운 소프트웨어의 세상은 과연 어떤 모습일까.