9.온디바이스 AI와 데이터센터 AI의 차이

온디바이스 AI와 데이터센터 AI의 차이

같은 "AI 반도체"인데 왜 투자 포인트가 다른가

"AI 반도체"라고 뭉뚱그려 이야기하지만, 실제로는 완전히 다른 두 개의 시장이 존재한다. 데이터센터에서 거대한 AI 모델을 학습·서비스하는 영역과, 스마트폰·PC 등 개인 기기에서 AI 기능을 처리하는 영역이다. 이 둘의 요구 조건과 밸류체인이 다르기 때문에, 수혜주도 완전히 다르게 갈린다.

 

데이터센터 AI란 무엇인가

정의: 대규모 GPU 클러스터를 갖춘 데이터센터에서, 초거대 AI 모델을 학습(트레이닝)하거나 다수의 사용자 요청을 동시에 처리(추론, 인퍼런스)하는 영역.

핵심 요구 조건:

• 압도적인 연산 성능: 수천~수만 개의 GPU를 연결해 병렬 연산
• 고대역폭 메모리: HBM처럼 GPU와 초고속으로 데이터를 주고받는 메모리 필수
• 전력·발열 관리: 랙 하나에서 수십 킬로와트에 달하는 전력을 소비하므로 액침냉각 등 특수 냉각 기술 필요
• 네트워킹: 수많은 GPU를 하나의 슈퍼컴퓨터처럼 연결하는 초고속 인터커넥트 기술

대표 기업: 엔비디아(GPU), AMD(GPU), 브로드컴(커스텀 ASIC 설계 지원), 마이크로소프트·아마존·구글(자체 데이터센터 운영)

온디바이스 AI란 무엇인가

정의: 클라우드 서버에 데이터를 보내지 않고, 스마트폰·PC·자동차 등 개인 기기 자체에 내장된 칩에서 AI 연산을 직접 처리하는 영역.

핵심 요구 조건:

• 저전력: 배터리로 구동되는 기기이므로 전력 소모를 최소화해야 함
• 소형화: 기기 내부 공간 제약상 칩 크기가 작아야 함
• 온디바이스 특화 NPU: 범용 GPU보다 전력 효율이 훨씬 높은 신경망 처리 전용 유닛(NPU) 활용
• 저지연: 클라우드로 데이터를 보내고 받는 과정 없이 즉시 처리 가능해야 함

대표 기업: 퀄컴(모바일 AP), 애플(자체 설계 칩), 삼성전자(엑시노스 등)

왜 온디바이스 AI가 부상하는가

① 개인정보 보호

민감한 개인 데이터를 클라우드로 전송하지 않고 기기 내에서 처리하면 프라이버시 리스크가 줄어든다.

② 응답 속도

클라우드 왕복 시간이 없어 실시간성이 중요한 서비스(카메라 보정, 음성비서 등)에 유리하다.

③ 클라우드 비용 절감

모든 연산을 클라우드에서 처리하면 서버 운영 비용이 기하급수적으로 늘어난다. 일부 연산을 기기 자체에서 처리하면 이 비용 부담을 분산할 수 있다.

두 시장의 밸류체인이 왜 다른가

데이터센터 AI는 **"연산 성능 극대화"**가 목표이므로, 전력 소모나 크기는 어느 정도 감수하고서라도 최고 성능을 뽑아내는 방향으로 설계된다. HBM, 고급 패키징(CoWoS), 대규모 전력 인프라가 핵심 투자 테마로 연결된다.

반면 온디바이스 AI는 **"제한된 전력·공간 안에서 최적의 효율"**을 뽑아내는 것이 목표다. 저전력 설계 기술, 경량화된 AI 모델(경량화·양자화 기술), 모바일 파운드리 공정 경쟁력이 핵심 변수가 된다.

 

투자자가 헷갈리기 쉬운 지점

① 같은 "AI 수혜주"라도 실적 사이클이 다르다

데이터센터 AI향 기업은 하이퍼스케일러(빅테크)의 캐펙스 사이클에 실적이 좌우되고, 온디바이스 AI향 기업은 스마트폰·PC 신제품 출시 사이클과 소비자 수요에 실적이 좌우된다.

② 밸류에이션 배수가 다르게 적용된다

데이터센터 AI 밸류체인은 초고성장 기대감이 반영돼 높은 밸류에이션을 받는 경우가 많고, 온디바이스 AI 밸류체인은 상대적으로 전통 IT 제조업의 밸류에이션 프레임에 가깝게 평가되는 경향이 있다.

③ 두 시장이 결국 수렴하는 지점도 있다

최근에는 온디바이스에서도 일부 경량 AI 모델을 자체 학습·미세조정하려는 시도가 늘면서, 두 영역의 기술적 경계가 조금씩 좁혀지는 흐름도 나타나고 있다.

그래서 투자자는 어떻게 대응해야 하는가

"AI 수혜주"라는 뉴스를 접했을 때, 먼저 이 기업이 데이터센터향인지 온디바이스향인지 구분하는 습관을 들여야 한다. 이 구분에 따라 실적 사이클을 좌우하는 변수(빅테크 캐펙스 vs 스마트폰 판매량)가 완전히 다르고, 적용해야 할 밸류에이션 프레임도 달라지기 때문이다.