최근 마이크로소프트(Microsoft), 인텔(Intel), AMD, 퀄컴(Qualcomm)은 공통적으로 'AI PC'를 새로운 PC 시장의 기준으로 제시하고 있다. 삼성전자와 LG전자 역시 AI 기능을 강화한 노트북을 잇달아 선보이며 이 흐름에 합류했다.
몇 년 전까지만 해도 PC 시장은 성장 정체 산업으로 평가받았다. 대부분의 사용자는 스마트폰으로 충분했고, 노트북 역시 성능이 크게 부족하지 않아 교체 주기가 길어졌다. 실제로 글로벌 PC 출하량은 팬데믹 이후 감소세를 보이며 시장의 성숙기를 맞았다.
그런데 생성형 AI가 등장하면서 분위기가 달라졌다. AI를 활용한 업무와 콘텐츠 제작이 일상으로 들어오면서 다시 PC가 주목받기 시작했다. 하지만 이번 변화는 단순히 더 빠른 CPU나 더 높은 그래픽 성능 때문이 아니다.
핵심은 AI를 인터넷 서버가 아닌 사용자의 PC 안에서 직접 실행하는 '온디바이스 AI(On-device AI)' 시대가 시작됐다는 점이다.
1. AI PC는 기존 노트북과 무엇이 다를까?
많은 사람들이 AI PC를 'AI 기능이 조금 더 들어간 노트북' 정도로 생각한다. 그러나 업계가 말하는 AI PC는 개념부터 다르다.
기존 생성형 AI는 대부분 클라우드 기반으로 동작했다. 사용자가 ChatGPT나 Claude에 질문을 입력하면 데이터는 인터넷을 통해 서버로 전송되고, 대규모 GPU가 계산한 결과가 다시 사용자에게 전달되는 구조다.
반면 AI PC는 상당수 AI 연산을 기기 내부에서 직접 수행한다. 이를 가능하게 하는 핵심 하드웨어가 바로 NPU(Neural Processing Unit) 다.
NPU는 CPU와 GPU 사이에서 AI 추론(Inference)을 전담하는 프로세서다. 음성 인식, 이미지 분석, 실시간 번역, 배경 제거, 문서 요약과 같은 반복적인 AI 작업을 낮은 전력으로 빠르게 처리할 수 있도록 설계됐다.
최근 출시되는 Intel Core Ultra, AMD Ryzen AI, Qualcomm Snapdragon X 시리즈는 모두 NPU를 기본 탑재하며 AI PC 시장을 본격적으로 이끌고 있다.
2. 왜 클라우드 AI에서 온디바이스 AI로 이동할까?
AI 모델은 계속 커지고 있지만 모든 작업을 클라우드에서 처리하는 방식에는 분명한 한계가 있다.
첫 번째는 속도다.
클라우드를 이용하려면 네트워크를 거쳐 서버와 계속 데이터를 주고받아야 한다. 인터넷 환경에 따라 응답 속도가 달라질 수밖에 없다.
두 번째는 개인정보 보호다.
회사 문서나 회의록, 계약서와 같은 민감한 데이터를 외부 서버로 전송하는 것은 기업 입장에서 부담이 크다. 특히 금융, 의료, 공공기관에서는 이러한 문제가 더욱 중요하다.
세 번째는 비용이다.
AI 서비스를 제공하는 기업은 GPU 서버를 운영하기 위해 막대한 비용을 지출한다. 대규모 언어모델은 한 번의 추론에도 상당한 컴퓨팅 자원을 사용하며, 사용자가 늘어날수록 운영 비용 역시 증가한다.
이 때문에 업계는 가능한 작업은 사용자 기기에서 처리하고, 복잡한 연산만 클라우드가 담당하는 하이브리드 AI 구조를 새로운 표준으로 보고 있다.
AI PC는 바로 이 구조를 구현하기 위한 핵심 기기다.
3. Microsoft가 AI PC를 강하게 밀어붙이는 이유
2024년 Microsoft는 Copilot+ PC를 발표하며 AI PC 시대를 선언했다.
여기서 중요한 것은 새로운 노트북이 아니라 Windows 자체가 AI 운영체제로 변하기 시작했다는 점이다.
Microsoft는
- Recall
- Live Captions
- Cocreator
- Windows Studio Effects
등 다양한 기능을 대부분 온디바이스 AI 기반으로 설계하고 있다.
이는 인터넷 연결이 없어도 일부 AI 기능을 사용할 수 있고, 개인정보도 기기 내부에서 처리할 수 있도록 하기 위한 전략이다.
AI는 이제 하나의 프로그램이 아니라 운영체제 전체에 녹아들기 시작했다.
4. PC 제조사들의 경쟁도 달라지고 있다
예전 노트북 경쟁은 CPU, RAM, 저장공간 중심이었다.
하지만 최근 발표되는 신제품을 보면 경쟁 포인트가 달라졌다.
Intel은 NPU 성능을 강조하고,
AMD는 Ryzen AI를,
Qualcomm은 Snapdragon X Elite를,
삼성전자와 LG전자는 AI 기능과 배터리 효율을 전면에 내세우고 있다.
시장조사업체 IDC와 Canalys 역시 향후 PC 시장의 교체 수요를 이끄는 핵심 요인으로 AI PC를 꼽고 있으며, Microsoft 역시 앞으로 출시되는 Windows 생태계의 중심을 AI PC에 맞추고 있다.
즉, 앞으로 PC를 선택하는 기준은 CPU 클럭보다 AI 처리 능력이 될 가능성이 높다.
5. AI PC가 바꾸는 것은 '성능'보단 사용 방식이다
AI PC의 진짜 변화는 벤치마크 점수에 있지 않다.
문서를 작성하면 AI가 자동으로 요약하고,
회의가 끝나면 음성을 텍스트로 정리하며,
여러 언어를 실시간으로 번역하고,
사진과 영상을 즉시 편집하는 작업이 자연스럽게 운영체제 안에서 이루어진다.
사용자는 더 이상 별도의 AI 서비스를 찾아가는 것이 아니라, PC 자체가 AI 비서 역할을 수행하게 된다.
이는 스마트폰이 앱 중심에서 AI 에이전트 중심으로 변화하는 흐름과도 맞닿아 있다.
HDOT Insight
생성형 AI가 대중화된 지금, 업계는 더 큰 AI 모델을 만드는 경쟁에서 AI를 어디에서 실행할 것인가라는 경쟁으로 이동하고 있다.
클라우드는 여전히 거대한 AI를 학습시키는 중심 역할을 맡겠지만, 개인의 일상적인 AI 경험은 점점 사용자의 기기 안으로 들어올 가능성이 높다.
이런 관점에서 AI PC는 과거 PC 시장의 부활이라기보다 온디바이스 AI 시대를 여는 새로운 컴퓨팅 플랫폼이라고 보는 편이 더 적절하다.
앞으로 PC의 성능을 이야기할 때 CPU나 메모리만큼 중요한 기준은 '얼마나 자연스럽게 AI를 일상에 녹여내는가'가 될 것이다.