저도 처음엔 AI 열풍이 과장된 게 아닐까 의심했습니다. 과거 IDC 버블처럼 또 하나의 과잉 투자로 끝나는 건 아닌지 궁금했죠. 그런데 2024년 8월부터 2025년 6월까지 수도권 데이터센터 신규 건설 신청 195건 중 최종 승인이 단 4건이라는 통계를 봤을 때 생각이 완전히 바뀌었습니다. 승인율 2%라는 충격적인 수치 앞에서 한국이 AI 경쟁에서 인프라 단계부터 뒤처지고 있다는 현실을 절감했습니다. GPU 성능이나 알고리즘 개발에만 집중하던 시대는 끝났습니다. 지금 AI 전쟁의 승부처는 데이터센터를 얼마나 빠르게 짓고 안정적인 전력을 얼마나 확보하느냐에 달려 있습니다.
인프라 경쟁이 결정하는 AI 패권
AI는 디지털 기술이지만 그 기반은 놀랍도록 물리적입니다. 대형 언어모델 하나를 학습시키려면 수만 개의 GPU(Graphics Processing Unit)가 동시에 돌아가야 하고, 그 GPU를 안정적으로 구동하려면 전력과 냉각, 네트워크 인프라가 뒷받침돼야 합니다. 여기서 GPU란 원래 그래픽 처리 장치를 뜻하지만 현재는 AI 연산에 최적화된 핵심 반도체로 자리 잡았습니다. 제가 관련 자료를 분석하면서 느낀 건 AI 경쟁의 본질이 코드가 아니라 인프라 확보 능력이라는 점이었습니다.
커니 컨설팅 분석에 따르면 글로벌 CSP(Cloud Service Provider)들은 2026~2027년을 기점으로 주력 AI 서비스를 본격 확산시킬 계획입니다(출처: A.T. Kearney). 여기서 CSP란 클라우드 서비스를 제공하는 기업으로, 마이크로소프트 애저나 아마존 AWS 같은 회사를 말합니다. 문제는 이를 위해 수십에서 수백 MW 단위의 AI 연산용 데이터센터 용량이 추가로 필요하다는 겁니다. 그런데 이걸 전부 자체 구축으로 해결하기란 사실상 불가능합니다.
대규모 수전 확보와 인허가, 지자체 협의 등 구조적 제약이 너무 많거든요. 그래서 글로벌 CSP 3사는 코로케이션 활용 비중을 점진적으로 높이고 있습니다. 코로케이션이란 데이터센터 공간과 전력, 냉각 시스템을 임대하는 방식입니다. 쉽게 말해 건물주가 인프라를 제공하면 기업이 자기 서버만 갖다 놓는 구조입니다. 2030년 전후 미국 시장에서는 이들 연산 인프라 중 절반이 코로케이션 방식으로 운영될 것으로 보입니다. 단순히 빠르게 짓기 위한 선택이 아니라 물리적 한계를 우회하기 위한 전략인 셈이죠.
글로벌 빅테크 기업들이 수십조 원을 데이터센터에 쏟아붓는 이유는 AI 서비스의 성공을 확신해서가 아닙니다. 경쟁에 참여하기 위해서는 기존과 다른 수준의 연산 인프라가 필수적이기 때문입니다. GPU와 HBM(High Bandwidth Memory) 메모리 같은 핵심 부품을 대량으로 확보하고 최적화된 환경에서 운영할 수 있는 능력이 기업 간 격차를 벌립니다. 여기서 HBM이란 초고속 데이터 처리를 위한 메모리 기술로 GPU에 데이터를 빠르게 공급하는 핵심 부품입니다. 공급망 확보 경쟁은 이미 국가 간 전략 자산 싸움으로 번졌습니다.
전력 수요 폭증과 한국의 구조적 문제
제 경험상 이 부분이 가장 현실적인 병목입니다. AI 데이터센터는 기존 서버보다 훨씬 많은 전력을 소비합니다. 1GW(기가와트)급 대형 AI 데이터센터 하나를 운영하는 데 필요한 연간 전기요금만 약 1조 원에 달합니다. 전체 운영 비용의 40~60%가 전기요금이라는 뜻입니다. 솔직히 이 수치를 처음 봤을 때 저는 충격을 받았습니다. 데이터센터 하나에 원자력 발전소 하나를 매치해야 할 정도라는 말이 과장이 아니었습니다.
문제는 한국의 전력 구조입니다. 비수도권 발전소에서 생산한 전기를 수도권으로 송전하는 중앙집중형 시스템인데 장거리 송전망 건설이 주민 반대로 지연되면서 병목 현상이 심각합니다. 실제로 수도권 데이터센터 승인율이 2%에 그친 핵심 원인이 바로 전력 공급 한계입니다. 고성능 서버가 집약된 환경에서는 발전 설비, 변압기, 전력망 확충이 동시에 필요한데 일부 지역에서는 전력 부족으로 신규 데이터센터 건설이 지연되는 사례도 나타나고 있습니다.
더 큰 문제는 전기요금입니다. 한국전력의 산업용 전기요금은 2021년 1 kWh당 105.5원에서 2024년 182.7원으로 약 70% 급등했습니다(출처: 한국전력공사). 게다가 현행 전기사업법상 전력 수요자는 한전을 통해서만 전기를 구매할 수 있습니다. 발전소와 직접 거래하는 PPA(Power Purchase Agreement)가 불가능한 구조입니다. 여기서 PPA란 전력 구매 계약을 뜻하며 기업이 발전소와 직접 장기 계약을 맺어 안정적이고 저렴한 전력을 확보하는 방식입니다.
분산에너지 특구 제도가 있긴 하지만 40~500MW 범위로 제한돼 있어 GW급 대형 AI 데이터센터에는 적용조차 할 수 없습니다. 반면 미국, 일본, 싱가포르는 이미 PPA를 전면 허용했습니다. 오픈 AI는 텍사스에 360MW급 LNG 발전 설비를 자체 구축 중이고, 메타는 오하이오 데이터센터에 400MW급 자가발전 설비를 갖췄습니다. 이들은 20년 이상 장기 PPA를 맺어 안정적이고 저렴한 전력을 확보하고 있습니다. 한국과의 격차가 제도 단계에서부터 벌어지고 있는 겁니다.
솔직히 이건 예상 밖이었습니다. AI는 소프트웨어 기술이니까 전력 문제는 부차적일 거라고 생각했거든요. 그런데 실제로는 전력이 AI 인프라 구축의 가장 큰 제약 조건이더군요. 고성능 서버는 막대한 열을 발생시키기 때문에 액침 냉각과 고효율 공조 시스템 도입이 필수적입니다. 액침 냉각이란 서버를 특수 액체에 담가 직접 열을 식히는 방식으로 기존 공랭식보다 효율이 훨씬 높습니다. 동시에 탄소 배출 문제도 무시할 수 없어서 재생에너지 연계 데이터센터 구축이 확대되는 추세입니다.
투자 방향과 산업 생태계 변화
AIDC(AI Data Center)는 기존 IDC와 수급 구조 자체가 다릅니다. 기존 IDC 시장이 단기적으로 초과 공급 구간을 겪는 반면, AIDC는 중장기적으로 명확한 초과 수요 국면에 진입할 가능성이 높습니다. 시장 초기 단계에서 AIDC 수요를 실질적으로 이끄는 주체는 글로벌 CSP와 대규모 AI 서비스 운영 기업들입니다. 이들은 데이터센터를 선택할 때 지리적 접근성보다 장기 안정성과 확장 가능성을 우선합니다.
결국 저는 'AIDC에 진짜 수요가 있는가'가 아니라 '이 새로운 수요를 감당할 수 있는 데이터센터는 어떤 조건을 갖춰야 하는가'로 관점을 바꿨습니다. AIDC는 AI가 대중화된 이후 자연스럽게 늘어나는 인프라가 아니라 AI 경쟁이 시작되는 순간부터 선제적으로 구축돼야 하는 기반시설에 가깝습니다. 데이터센터 하나에 약 500억 달러(약 72조 원)가 듭니다. 미국이 목표로 하는 100GW 규모를 달성하려면 에너지 비용을 제외하고도 데이터센터 인프라에만 5조 달러가 필요하다는 계산이 나옵니다.
투자 관점에서 보면 GPU와 HBM 메모리 같은 핵심 부품 기업은 당연히 주목받지만 실제로는 더 넓은 생태계를 봐야 합니다. 데이터센터 구축과 운영 과정에서 수혜를 받을 수 있는 산업 분야는 다음과 같습니다.
- 반도체: GPU, HBM 메모리 등 AI 연산 핵심 부품
- 전력 설비: 발전소, 변압기, 송배전 시스템
- 건설: 데이터센터 건축, 전기·기계 설비 시공
- 냉각 장비: 액침 냉각, 고효율 공조 시스템
- 네트워크 장비: 초고속 네트워크 인프라, 보안 솔루션
제가 보기에는 한국도 비수도권 지역에 데이터센터와 신재생 에너지 발전소를 함께 짓는 방안을 적극 검토해야 합니다. 수도권 집중형 전력 구조를 완화하고 전력 여유가 있는 지역에 인프라를 분산 배치하는 겁니다. 친환경적이면서도 안정적인 에너지 공급 체계를 장기적으로 설계해야 합니다.
현재 국회에는 PPA 허용을 핵심으로 하는 전기사업법 개정안이 여러 건 계류돼 있습니다. 하지만 제대로 된 심사조차 이뤄지지 않고 있습니다. 솔직히 이 상황이 답답합니다. AI 인프라 경쟁은 이미 시작됐는데 법과 제도는 과거에 멈춰 있습니다. 저는 AI 인프라를 만들려면 에너지 없이는 불가능하다는 사실을 명확히 인식해야 한다고 봅니다. 신재생 에너지원을 확보하고 그걸 만들어내는 장기 계획을 지금 당장 세워야 합니다.
물론 리스크도 분명합니다. 막대한 투자 규모는 부담이 될 수 있고, AI 수요가 예상보다 둔화될 경우 과잉 설비 문제가 발생할 수 있습니다. 전력 인프라 확충 지연과 지역 주민 반발도 프로젝트 리스크로 작용할 가능성이 있습니다. 규제 환경 변화 역시 변수입니다. 데이터센터의 전력 소비와 환경 영향에 대한 규제가 강화되면 비용 부담이 증가할 수밖에 없거든요. 하지만 그보다 더 큰 리스크는 적기에 인프라를 확보하지 못해 경쟁에서 완전히 뒤처지는 것입니다.
AI 시대의 데이터센터는 더 이상 과거의 기준으로 설명할 수 없는 산업으로 진입하고 있습니다. 기술 혁신은 코드에서 시작되지만 승부는 인프라에서 갈립니다. 얼마나 빠르게 데이터센터를 구축하고, 안정적인 전력을 확보하며 효율적인 냉각 시스템을 갖추느냐가 국가와 기업의 경쟁력을 결정합니다. 투자자라면 AI 테마 접근을 넘어 인프라 기업을 장기적 성장 축으로 바라볼 필요가 있습니다. 반도체만 보지 말고 전력, 냉각, 네트워크까지 시야를 넓혀야 AI 전쟁의 진짜 승부처가 보일 것입니다. 한국이 이 경쟁에서 살아남으려면 법과 제도부터 바꿔야 합니다. 지금이 마지막 기회일지도 모릅니다.