광주광역시, GPU 품귀현상에 광주AI데이터센터 뜬다

특히 인공지능제품 개발에 최적화된 것으로 알려진 엔비디아의 그래픽처리장치(GPU) ‘H100’이 탑재된 서버를 갖춘 국가AI데이터센터에 수요가 몰리면서 ‘인공지능 중심도시 광주’의 존재감이 부각되고 있다.

광주광역시는 북구 첨단3지구에 국가AI데이터센터를 건립, 지난해 11월15일부터 서비스에 들어갔다. 국가AI데이터센터는 총 연산량 88.5페타플롭스(PF)와 저장용량 107페타바이트(PB) 규모로 구축됐다. 센터에서는 현재 국내 인공지능기업, 공공기관, 대학 등 총 742건의 과제를 무상 지원하고 있다.

국가AI데이터센터는 고성능 인공지능(AI) 가속기를 통해 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 지원하는 등 인공지능(AI) 연구개발에 최적화된 기반시설을 제공한다.

특히 전체 가속기의 3분의 2를 엔비디아의 최신 그래픽처리장치(GPU)인 ‘H100’으로 구성했다. H100을 이용해 서비스를 제공하는 것은 아시아 최초이다.

생성형 인공지능(AI)이 등장하며 그래픽처리장치(GPU) 기반시설(인프라)을 이용하려는 수요가 폭발적으로 늘고 있다. 인공지능 모델 개발을 위한 학습과 추론에 필수적인 컴퓨팅 자원을 지원받기 위한 경쟁률은 2대 1 수준이다.

광주시는 국내 인공지능산업 수요와 성장 속도에 비춰 볼 때 앞으로 컴퓨팅 자원을 할당받기 위한 경쟁률은 지속적으로 상승할 것으로 내다봤다. 최근 전 세계적으로 인공지능 관련 기업들의 수요가 폭증하고 있는 데 반해, 기업과 연구기관들은 그래픽처리장치(GPU) 자원 수급에 어려움을 겪고 있기 때문이다.

국가AI데이터센터는 오는 7월부터 대형 인공지능 모델과 생성형 인공지능 개발 등을 본격적으로 지원하기 위해 ‘H100’으로만 구성된 20페타플롭스(PF) 규모의 초고성능 컴퓨팅 지원(HPC) 서비스를 갖춰 초거대 AI 맞춤형 대형 과제도 지원할 예정이다.

광주시는 과학기술정보통신부와 함께 지난 2021년부터 인공지능 기업들에게 컴퓨팅 자원을 지원하고 있다. 지금까지 약 1500여건의 과제를 지원하며 지속적으로 성과를 창출하고 있다.