엔비디아 독주 속 존재감 키우는 SKT…리벨리온과 ‘한국형 AI 인프라’ 구축

SKT 데이터센터. /SKT

전 세계 국가들이 자체 거대언어모델(LLM)을 확보하는 '소버린 AI' 경쟁에 나선 가운데 인공지능(AI) 인프라 시장에서는 여전히 엔비디아의 영향력이 절대적인 것으로 나타났다. 다만 국내에서는 SK텔레콤과 리벨리온이 국산 AI 반도체를 활용한 추론 인프라 구축에 나서며 엔비디아 중심 구조를 다변화하려는 움직임이 주목받고 있다.

7일 시장조사업체 카운터포인트리서치에 따르면 지난달 기준 전 세계 소버린 AI LLM의 92%가 엔비디아 AI 칩을 기반으로 학습된 것으로 조사됐다. 80개 이상의 국가에서 개발된 170여 개 소버린 LLM을 분석한 결과, 대부분의 국가가 AI 모델 학습 과정에서 엔비디아의 GPU와 CUDA 생태계에 의존하고 있다는 분석이다.

엔비디아가 AI 학습 시장에서 독보적인 위치를 차지하는 이유는 대규모 연산 성능뿐 아니라 AI 소프트웨어 플랫폼 쿠다(CUDA)를 기반으로 한 생태계 및 개발 환경을 확보하고 있기 때문이다. 이에 국내를 비롯한 글로벌 AI 기업들도 초거대 AI 모델을 개발하는 과정에서는 엔비디아 GPU 활용 비중이 높은 상황이다.

다만 AI 산업의 무게 중심이 모델 개발에서 서비스 운영으로 이동하면서 추론(Inferencing) 인프라 경쟁은 새로운 국면을 맞고 있다. 추론은 완성된 AI 모델이 실제 이용자에게 답변을 제공하는 과정으로, 대규모 서비스 환경에서는 비용과 전력 효율이 중요한 요소로 꼽힌다.

소버린 AI 활용 현황./카운터포인트리서치

카운터포인트는 이 같은 추론 시장의 대표 사례로 SK텔레콤과 리벨리온의 협력을 소개했다. 엔비디아 중심의 AI 인프라 구조 속에서 국산 AI 칩 기반 추론 생태계를 확대하려는 시도로 평가한 것이다.

SK텔레콤은 리벨리온과 협력을 통해 AI 반도체 활용 범위를 넓혀왔다. 리벨리온의 신경망처리장치(NPU)를 에이닷 기반 시스템에 적용했으며, 초거대 AI 모델 A.X K1을 SK텔레콤 데이터센터에서 구동하는 데 성공하며 AI 추론 인프라 경쟁력을 확보하고 있다.

이는 'AI 팩토리' 구축 전략과도 맞닿아 있다. AI 팩토리는 AI 모델을 개발하고 서비스하는 데 필요한 데이터센터, AI 반도체, 네트워크, 소프트웨어 등 전반적인 인프라를 통합한 개념이다. SK텔레콤은 AI 팩토리 경쟁력을 확보하기 위해 엔비디아 GPU뿐 아니라 국산 NPU 등 다양한 AI 반도체를 활용해 AI 인프라 구축을 추진하고 있다.

AI 사업은 실적에서도 성과를 내고 있다. SK텔레콤은 최근 실적 발표에서 AI 사업이 실제 매출과 수익으로 연결되고 있다고 강조했으며, AI 데이터센터(AIDC) 사업 매출은 1362억원을 기록했다. 회사는 AI 데이터센터 사업 확대를 위해 SK하이퍼를 중심으로 2029년까지 5GW 규모의 AI 데이터센터를 단계적으로 구축한다는 계획이다.

업계에서는 향후 AI 인프라 경쟁이 '엔비디아 대 국산 AI칩'의 단순 구도가 아니라 학습과 추론 영역별 최적의 반도체를 조합하는 방향으로 전개될 것으로 보고 있다. 국내 AI 기업들이 초거대 AI 모델 학습 단계에서는 엔비디아 GPU 의존도가 높은 상황에서도, 서비스 단계인 추론 영역에서는 SK텔레콤과 리벨리온처럼 국산 AI칩 활용을 확대하는 사례가 늘어날 것이란 전망이다.