AI가 장애 예측, 로봇이 실시간 점검…달라지는 AI 데이터센터

지난달 30일 서울 양천구 ‘KT 클라우드 AI 이노베이션 센터’에서 취재진이 인공지능(AI) 데이터센터 액체냉각 기술에 대한 설명을 듣고 있다. KT 클라우드 제공

“로봇이 지나갑니다. 비켜주세요.” 사람 키 정도 되는 자율주행 로봇이 이렇게 말하며 인공지능(AI) 모델을 구동하는 그래픽처리장치(GPU) 서버 주변을 순찰하듯 돌아다녔다. 로봇은 카메라를 높이 들어 곳곳을 살펴보면서 서버가 문제없이 가동되고 있는지 확인했다. 서버실의 온도·습도·조도·소음은 자동으로 기록됐고, 열화상 카메라가 열을 감지했다. 지난달 30일 찾은 서울 양천구 KT클라우드 목동2 데이터센터(DC) ‘AI 이노베이션 센터’의 ‘AI 인프라 랩스’에서 본 장면이다.

고성능 AI 사용이 확산하면서 AI 구동을 위한 데이터센터 수요도 늘고 있다. 기존 데이터센터와 달리 AI 데이터센터(AIDC)에는 GPU 발열에 대응한 냉각·전력 설비 구축, AI를 활용한 장애 예측, 자율주행 로봇의 시설 점검 등 새로운 기술이 적용되고 있다.

대표적인 게 GPU 칩 표면에 냉각판을 직접 붙이고 그 안으로 냉각수를 흘려 열을 식히는 ‘D2C(Direct-to-Chip)’ 액체냉각 시스템이다. 일반 데이터센터는 랙(서버용 수납장)당 소비전력이 4~8㎾(킬로와트) 수준이지만 AI 데이터센터는 30~150㎾에 이른다. 향후 600㎾까지 커질 것으로 전망된다. 그만큼 열이 많이 발생하기 때문에 KT는 기존의 공기냉각 방식에서 나아가 액체냉각 기술을 적용했다. 값비싼 GPU로 직접 실험하는 대신 ‘부하기’를 자체 개발해 랙당 140㎾급 GPU 서버의 발열 조건을 재현하고 냉각수의 유량·압력·온도를 검증한다.

데이터센터 운영에도 AI가 쓰인다. 전력 설비 상태를 실시간으로 모니터링하다가 장애가 나면 최적의 복구 경로를 찾는 ‘패스파인더’, 운영 데이터를 분석해 이상징후 탐지와 장애 예측, 예지 정비를 돕는 ‘DIMS 인사이트’가 대표적이다. KT클라우드는 올해 보스턴다이내믹스의 4족 보행 로봇 ‘스팟’을 활용해 실증을 했고, 앞으로 로봇이 현장에서 수집한 데이터를 AI 플랫폼과 연계해 분석하는 시스템을 확대할 예정이다.

AI 데이터센터는 기존 데이터센터보다 많은 전력과 냉각 수요가 커 설계부터 달라야 한다. KT클라우드는 LS일렉트릭과 모듈형 데이터센터에 필요한 전력 인프라를 공동 연구하고, 미국 데이터센터 인프라 기업 버티브와는 전력·액체냉각·모듈형 인프라 설계를 최적화하고 있다.

KT클라우드는 2031년까지 1GW(기가와트) 규모의 AI 데이터센터를 공급할 계획이다. 현재 약 200MW(메가와트) 규모의 신규 데이터센터 구축을 진행하고 있고, 내년 경기 부천을 시작으로 용인, 안산, 전북 군산 등에서 차례로 문을 연다. 여러 데이터센터를 하나로 묶는 ‘원DC’ 네트워크를 강점으로 내세운다.

방재원 KT클라우드 AIDC사업개발팀장은 “1GW 공급 목표는 단순히 용량을 늘리는 게 아니라 25년 이상의 운영 경험을 데이터화하고 고객들의 필요에 맞춰 데이터센터를 공급하려는 것”이라며 “3~4년의 데이터센터 구축 기간을 줄이고 더 빠르게 시장에 제공하기 위해 자체적인 데이터센터 역량에 더해 협업하며 노력하고 있다”고 말했다.

서울 양천구 ‘KT 클라우드 AI 이노베이션 센터’ 안에 위치한 ‘AI 인프라 랩스’에서 자율주행 로봇이 서버를 점검하고 있다. KT 클라우드 제공