AI 대전환 시대, 주목해야 할 것은 결국 ‘인프라’

SK에코플랜트의 생성형 AI를 활용해 요약·편집한 내용입니다
AI 확산으로 반도체 산업의 경쟁이 GPU와 HBM 등 핵심 반도체를 넘어 전력·용수·냉각·데이터센터 등 AI 인프라로 확대되고 있다. 이에 따라 AI 산업의 새로운 병목을 해결하고 안정적인 생산과 서비스 구현을 뒷받침하는 인프라 구축 역량이 중요해지는 추세다. 이번 칼럼에서는 AI 산업의 병목이 인프라로 이동하는 배경과 함께, AI 인프라 생태계를 뒷받침하는 SK에코플랜트의 역할을 조명해본다.


(출처: 어도비 스톡)

 

산업이 일정 단계에 도달하면서 중시되는 것이 바로 ‘인프라’다. 이를 단적으로 보여주는 사례가 우주개발 업체인 스페이스X(SpaceX)다. 스페이스X는 급속한 성장과 기술적 진보를 바탕으로 2026년 6월 미국의 대표적인 증권거래소 중 하나인 나스닥(NASDAQ)에 상장했으며, 기업공개(IPO) 첫날 시가총액이 2조1000억 달러(약 2900조원)를 돌파했다. 이후 주가는 등락을 거듭하고 있지만, 스페이스X가 단순한 우주개발 기업을 넘어 거대한 산업 생태계를 만들어가고 있다는 점은 주목할 만하다.

스페이스X의 경쟁력은 로켓을 더 빠르고 저렴하게 만드는 데 그치지 않는다. 우주를 활용해 위성통신 서비스 ‘스타링크’를 구축하고, 이를 기반으로 통신과 데이터 인프라를 확장하면서 우주산업의 사업 영역 자체를 넓혀가고 있다. 기술이 발전하고 시장이 커질수록 핵심 기술 자체만큼이나 그 기술을 실제 서비스로 구현할 수 있도록 뒷받침하는 인프라의 가치가 커진다는 의미다.

이 같은 변화는 인공지능(AI) 산업에서도 나타나고 있다. 생성형 AI 열풍 초기에는 AI를 구동하는 데 필요한 그래픽처리장치(GPU)가 시장의 중심이었다. AI 연산에 필요한 데이터를 빠르게 처리할 수 있는 GPU 수요가 폭증하면서 엔비디아(NVIDIA)가 세계적인 기업으로 성장했고, 이후에는 GPU의 연산 성능을 뒷받침할 고대역폭메모리(HBM)의 중요성이 부각되면서 SK하이닉스 등 메모리 반도체 기업들이 주목받았다.


(출처: 어도비 스톡)

하지만 AI 산업이 빠르게 성장하면서 시장의 관심은 다시 다음 단계로 이동하고 있다. GPU와 HBM을 충분히 확보하는 것만으로는 AI 성능을 극대화하기 어려워졌고, 여러 반도체를 하나의 시스템처럼 연결하는 첨단 패키징과 이를 안정적으로 생산할 수 있는 반도체 제조 인프라의 중요성이 커지고 있다. 더 나아가 완성된 AI 반도체를 실제 서비스로 구현하기 위해서는 막대한 전력과 냉각, 데이터센터 등 물리적 인프라까지 필요하다.

이처럼 AI 산업의 성장 과정에서는 시장의 관심이 한곳에 오래 머물지 않는다. 처음에는 AI 연산을 가능하게 하는 GPU가 주목받았고, 이어 데이터를 빠르게 주고받기 위한 HBM과 첨단 패키징 기술이 중요해졌다. 그리고 이제는 이 모든 기술이 실제 생산과 서비스로 이어지기 위해 무엇이 더 필요한지를 고민해야 하는 단계에 접어들고 있다. AI 산업의 다음 경쟁력을 이해하기 위해서는 기술 자체뿐 아니라 그 기술을 둘러싼 환경까지 함께 살펴봐야 하는 시점이다.

 

시장을 만드는 것은 ‘병목’

자본은 언제나 현재 산업 생태계에서 가장 극심한 병목 현상을 겪고 있는 지점으로 몰린다. 산업에서 새로운 시장을 만들어내는 것은 반드시 가장 혁신적인 기술만은 아니다. 오히려 전체 시스템의 성장을 가로막고 있는 ‘병목’을 해결하는 기술이 시장의 판도를 바꾸는 경우가 많다. 특정 부품의 공급이 부족하거나 생산능력이 수요를 따라가지 못하면, 해당 지점을 해결할 수 있는 기술과 생산능력을 확보한 기업의 가치가 높아지고 자연스럽게 투자도 그곳으로 이동한다.

AI 산업 역시 이러한 흐름을 보여준다. AI 모델의 성능이 높아질수록 더 많은 연산능력과 메모리, 더 빠른 데이터 전송이 필요해지고, 그 과정에서 산업의 병목도 새로운 영역으로 이동해 왔다. 생성형 AI 확산 초기에는 AI 연산을 담당하는 GPU를 얼마나 확보할 수 있는지가 중요한 경쟁력이었다. 이후에는 GPU의 연산 성능을 뒷받침하는 고대역폭메모리(HBM)가 새로운 병목으로 떠올랐고, 최근에는 GPU와 HBM을 하나의 시스템으로 연결해 데이터 처리 효율을 높이는 첨단 패키징 기술이 주목받고 있다. 자본 역시 이러한 병목의 이동을 따라 움직이고 있는 셈이다.

대표적인 사례가 대만의 반도체 기업 TSMC가 생산하는 CoWoS(Chip-on-Wafer-on-Substrate)다. CoWoS는 여러 개의 AI 연산 반도체와 HBM을 하나의 패키지 안에 고밀도로 연결해 마치 하나의 시스템처럼 작동하도록 하는 2.5D 패키징 기술이다. 인텔 역시 여러 반도체 칩을 하나의 패키지 안에서 연결하는 EMIB(Embedded Multi-die Interconnect Bridge) 기술을 개발하며 첨단 패키징 경쟁에 대응하고 있다. 삼성전자 역시 차세대 패키징 기술을 개발하며 경쟁에 뛰어들고 있으며, 최근에는 AI 가속기 위에 HBM을 수직으로 쌓아 데이터 이동 거리를 줄이는 3D 메모리 기술인 ‘zHBM’을 공개했다.


(출처: 어도비 스톡)

이처럼 AI 산업에서는 GPU와 HBM이라는 핵심 부품을 확보하는 것에서 출발해, 이들을 효율적으로 연결하는 패키징 기술로 경쟁의 초점이 이동하고 있다. 중요한 것은 앞선 병목이 완화된다고 해서 이전 단계의 중요성이 사라지는 것은 아니라는 점이다. GPU와 HBM에 대한 수요가 줄어든 것이 아니라 AI 산업 전체가 성장하면서 새로운 제약조건이 함께 등장하고 있는 것이다. 결국 AI 산업의 경쟁은 하나의 핵심 기술을 확보하는 데서 끝나는 것이 아니라, 성장 과정에서 새롭게 나타나는 병목을 얼마나 빠르게 찾아내고 해결하느냐의 경쟁으로 이어지고 있다.

그리고 이러한 병목은 반도체 칩 내부에만 머물지 않는다. 첨단 패키징 기술이 고도화되고 AI 반도체의 집적도가 높아질수록 이를 안정적으로 생산할 수 있는 제조시설과 주변 인프라의 중요성도 함께 커진다. AI 산업의 성장 속도가 빨라질수록 반도체 자체를 넘어 이를 생산하고 실제 서비스로 구현하기 위한 물리적 기반이 새로운 제약조건으로 부상하고 있는 것이다.

 

반도체 공정의 중요 인프라: 물, 전기, 열

그렇다면 전체적인 공정 설계 과정에서는 어떤 병목이 생겨나고 있으며, 이를 해결하기 위해 어떤 인프라가 필요할까. 현대의 첨단 반도체 공장에 필요한 기본 인프라의 핵심은 ‘물’과 ‘전기’다. 공짜라 생각될 수 있는 이 두 가지 조건이 차세대 AI 시장의 판도를 가르고 있다.


용인 반도체 클러스터 수처리시스템(WWT) 조성 현장

생산 과정에서 웨이퍼를 세정하기 위해서는 막대한 양의 초순수(Ultra Pure Water) 공급이 필요하며, 사용한 물도 별도로 처리해야 한다. 이런 과정에서 모두 고도의 전용 처리 시스템을 설치할 필요가 있다. 안정적인 전력 공급망은 당연히 필수 요소다. 이 두 시스템 중 하나만 부족해도 해당 반도체 시스템은 즉시 생산에 병목이 걸리게 된다.

특히 전력 시스템은 AI 인프라 시장의 최대 걸림돌로 인식된다. 완성된 AI 반도체가 최종적으로 이식되어 서비스로 구현되는 하이퍼스케일 데이터센터에서 심각한 전력난이 예상되기 때문이다. 국제에너지기구(IEA)의 글로벌 전력 전망은 이러한 전력난의 구조적 심각성을 적나라하게 보여준다. 데이터센터의 전력 소비량은 2025년 485TWh(테라와트시)에서 2030년 950TWh로 약 두 배 증가할 것으로 보고 있다.

문제는 기존의 전통적 전력 수급 방식으로는 이러한 수요 폭발을 감당하기 어렵다는 점이다. 원자력이나 화력을 이용한 대규모 발전시설은 건설에 10~15년 가량이 소요되므로 직접적인 대응이 어렵고, 태양광이나 풍력 등 이른바 재생에너지는 발전용량이 수시로 변동되므로 데이터센터 운영에 적합하지 않다. 배터리 방식의 ‘에너지 저장장치(ESS)’로 단점을 보완할 수는 있지만, 이렇게 하면 경제성을 확보하기 어렵게 된다. 최근 여러 기업이 국소 지역에서 전력을 안정적으로 공급할 수 있는 ‘소형모듈원전(SMR)’에 관심을 돌리고 있으나, 2026년 현재로선 이 기술이 실용화됐다고 보기 어렵다. 안전성 인증 과정을 포함하면 십수 년 이상의 적잖은 시간이 필요할 것으로 보인다. 

따라서 중단기적으로는 데이터센터 인근에서 안정적으로 전력을 공급할 수 있는 분산형 전원에 대한 관심이 커지고 있다. 수소연료전지는 그중 하나의 현실적인 대안으로 주목받는다. 비교적 빠른 구축이 가능하고 안정적인 전력 공급이 가능하다는 점에서 AI 인프라 확대 과정에서 활용 가능성이 거론되고 있는 것이다.

일례로 우리나라에서는 주요 반도체 제조사 주도로 대규모 ‘용인 반도체 메가클러스터’가 조성되고 있는데, 그 성패는 기술적 난제 못지않게 ‘물리적 인프라의 확보’에 달려있다는 분석이 많다. 2050년경까지 이 클러스터 단일 지역에만 10기가와트(GW) 이상의 막대한 전력과 많은 양의 공업용수가 필요하다. 당장 액화천연가스(LNG) 발전소 3기를 선제적으로 건설하고, 대량의 전기를 끌고 오기 위한 초고압 직류송전(HVDC)망 구축도 계획하고 있다. 물 공급의 병목을 해결하기 위해 소양강과 충주댐 등에서 용수를 조기 확보하는 한편, 수처리 전문 기업을 입주시켜 하루 수만 톤 규모의 용수 처리 및 초순수 인프라 EPC(설계·조달·시공)를 전담토록 할 계획이다.


SK에코플랜트가 시공한 연료전지 발전소, 연료전지를 통해 고효율의 전력을 24시간 안정적으로 공급할 수 있다.

물과 전력을 확보했다면 최후의 물리적 병목인 ‘열’을 해결해야 한다. AI 설비는 열 관리가 성능 유지의 중요 관건이다. 뜨거워지면 뜨거워진 대로 그냥 쓰면 되지 않느냐고 생각할 수 있는데, 열 관리에 실패하면 고가의 반도체는 스스로 연산 속도를 강제로 낮추는 ‘스로틀링(Throttling)’ 현상을 일으킨다. 이는 천문학적인 비용을 들여 구축한 AI 인프라의 심각한 성능 저하로 이어진다.

문제는 이런 열관리가 결코 쉽지 않다는데 있다. AI 가속기의 칩 집적도가 기하급수적으로 상승하면서, 일반적인 조건에서 서버 랙의 열부하가 약 41.3kW에 이르면 공랭식 냉각은 실용적인 한계에 가까워진다. 이 수준을 넘어가면 필요한 공기 유량이 급격히 증가해 팬 전력과 소음, 열관리의 어려움이 커지기 때문이다. 따라서 ‘액체냉각’ 시스템이 AI 데이터센터의 병목을 해결할 수 있는 중요 요건 중 하나로 꼽히고 있다.

서버 내부에 냉각수가 흐르는 배관을 직접 연결해 칩의 발열을 즉각적으로 흡수하는 직접수냉식(DTC, Direct-to-Chip)이나, 비전도성 특수 액체에 서버 전체를 담그는 액침 냉각(Immersion Cooling) 기술이 빠르게 발전하고 있다. 글로벌 데이터센터 액체 냉각 시장은 2025년 48억 달러 수준에서 폭발적으로 성장하여 2035년에는 271억 달러 규모에 이를 것으로 전망되고 있다.

이런 흐름을 가장 먼저 알아보고 대비하고 있는 것은 다름 아닌 투자자들이다. 세계 최대 벤처캐피털 중 하나인 ‘앤드리슨 호로위츠(a16z)’는 지난 1월 총 150억 달러 이상 규모의 신규 펀드 5개를 조성했다. 그 중 ‘AI 인프라 분야’에 집중 투자하기 위해 전용 펀드 규모만 17억 달러에 달했다. 거대언어모델(LLM)이나 소프트웨어 애플리케이션 스타트업에 집중되던 대규모 자본이 전력, 냉각, 네트워크, 데이터센터 설비 등 이른바 ‘AI 인프라’ 기업들로 쏟아져 들어오기 시작한 것이다. 이 흐름은 앞으로도 한층 가속할 것으로 여겨진다.

 

인프라를 연결하는 기업의 가치

AI 산업이 요구하는 인프라는 이제 하나의 설비나 기술로 설명하기 어려운 단계에 이르렀다. SK에코플랜트는 이러한 흐름 속에서 반도체 제조시설부터 데이터센터 인프라까지 아우르는 ‘AI 인프라 설루션 프로바이더(AI Infra Solution Provider)’로 사업을 확장하고 있다. 반도체 생산시설 구축을 위한 EPC(설계·조달·시공) 역량을 기반으로 산업용 가스와 소재 밸류체인, 수처리 인프라 사업을 추진하고 있으며, AI 데이터센터(AIDC) 통합 인프라 설루션 및 EPC 사업도 확대하고 있다.

 
SK에코플랜트가 세계 최초 3복층 멀티팹으로 조성중인 용인 반도체 클러스터 조감도

전력 인프라 측면에서는 연료전지 사업을 통해 분산형 전원 역량을 확보하고 있다. 결국 반도체 생산, 데이터센터 운영, 전력 공급, 수처리, 자원순환까지 이어지는 여러 인프라를 하나의 흐름으로 연결하려는 점이 SK에코플랜트가 강조하는 차별화 포인트라고 할 수 있다.

AI 시대의 경쟁력은 더 이상 가장 뛰어난 반도체 하나를 확보하는 데서 끝나지 않는다. 반도체를 안정적으로 생산하고, 데이터센터에서 지속적으로 구동하며 사용 후 자원까지 다시 순환시킬 수 있는 인프라 체계를 얼마나 빠르고 안정적으로 구축하느냐가 새로운 경쟁력이 되고 있다.

기술이 발전할수록 병목은 사라지는 것이 아니라 새로운 위치로 이동한다. GPU에서 HBM으로, HBM에서 첨단 패키징으로, 그리고 이제는 물리적 인프라로 그 무게중심이 옮겨가고 있다. AI 산업의 다음 성장 국면에서 주목받는 기업 역시 단일 기술의 승자라기 보다, 이러한 새로운 병목을 연결하고 해결할 수 있는 인프라 역량을 갖춘 기업일 가능성이 크다.


 

전승민 기자는 한국과학기술원(KAIST)에서 과학 저널리즘을 전공하고 공학석사 학위를 받았다. 과학동아 기자, 동아일보 과학팀장, 동아사이언스 수석기자를 역임했다. 인공지능, 로봇, 생명과학 등 다양한 분야의 과학기술 대중서를 15권 이상 발간했다. 현재 과학기술 분야 전문 저술가로서도 다양한 분야에 칼럼을 기고하고 있다.

연관 콘텐츠