AI(인공지능) 모델을 학습시키고 서비스를 만드는 데 필요한 반도체, 네트워크, 전력, 냉각 시스템, 운영 소프트웨어를 하나의 생산 설비처럼 통합한 차세대 데이터센터. 전력과 데이터를 원료로 AI의 핵심 단위인 ‘토큰’을 지속적으로 생산하는 ‘지능 공장’이다. 

기존 데이터센터가 인공지능용 반도체(GPU) 등 컴퓨터 자원을 한곳에 모아둔 물류창고에 가까웠다면, AI 팩토리는 한 단계 더 진화해 데이터 입력부터 학습, 추론, 서비스 제공까지 전 과정을 최적화한 생산 시스템이다. 제조공장이 원료를 넣어 제품을 만들듯, AI 팩토리는 데이터를 넣어 추론 결과와 AI 에이전트 서비스, 로봇 제어, 자율주행 모델 등 다양한 AI 서비스를 대량 생산해 수익을 낸다. 

최근 젠슨 황 엔비디아 최고경영자(CEO)가 방한 기간 중 국내 주요 대기업과 ‘AI 팩토리’에 대해 논의하면서 관심이 집중되고 있다.