AI 노트북 NPU, 지금 살 이유 있을까

노트북 광고에서 “AI PC”라는 말이 빠진 걸 보기가 더 어려워졌습니다. 그런데 정작 사고 나서는 “내가 NPU를 언제 쓰고 있는 거지” 하는 반응이 그만큼 많습니다. 당연한 일입니다. NPU는 사용자가 켜고 끄는 부품이 아니라, 특정 기능이 실행될 때만 조용히 끼어드는 부품이니까요.

아래 내용은 특정 제품을 고르는 기준이 아니라, 스펙표에 적힌 말이 실제로 무슨 뜻인지 그리고 내 쓰임새에서 값을 하는지를 혼자 판단하는 데 필요한 것들입니다.

빠른 칩이 아니라 오래 버티는 칩

NPU를 “더 빠른 CPU” 비슷하게 소개하는 설명이 흔한데, 성격이 다릅니다. CPU는 종류를 가리지 않고 이것저것 순서대로 처리하고, GPU는 같은 연산을 한꺼번에 몰아쳐 속도를 냅니다. NPU는 AI에 쓰이는 행렬 연산만 골라 전력을 적게 쓰면서 처리하도록 따로 붙인 전용 회로입니다.

그래서 값어치가 최고 속도가 아니라 지속성 쪽에 있습니다. 한 시간짜리 화상회의 내내 배경을 흐리게 유지하는 일을 GPU에 맡기면 팬이 돌고 배터리가 눈에 띄게 줄지만, NPU는 같은 일을 훨씬 조용히 끌고 갑니다. 콘센트에서 떨어져 쓰는 시간이 길어질수록 충전 쪽 준비도 같이 따라오는데, 충전기 몇 W가 맞는지는 따로 정리해 뒀습니다.

지금 NPU로 도는 기능은 생각보다 좁습니다

체감되는 쪽은 짧고 자주 반복되는 기능에 몰려 있습니다. 화상회의 배경 처리와 시선 보정, 실시간 자막과 번역, 음성 받아쓰기, 사진·영상 편집의 자동 보정과 배경 지우기, 소음 제거 정도.

긴 글을 뽑아내거나 고해상도 이미지를 만드는 작업은 아직 대부분 클라우드 서버나 GPU 몫입니다. “AI 노트북을 샀으니 무거운 AI 작업이 빨라지겠지”라는 기대가 어긋나는 지점이 여기입니다.

더 중요한 건 하드웨어가 아니라 소프트웨어 쪽입니다. 앱과 운영체제가 NPU 경로를 지원해야 그 기능이 열립니다. 같은 노트북에서도 어떤 편집 프로그램은 NPU로 돌고, 어떤 프로그램은 CPU만 씁니다. 그러니 구매 전에 확인할 것은 칩 이름이 아니라 “내가 매일 쓰는 그 앱이 NPU 가속을 지원하는가”입니다. 자막이나 받아쓰기처럼 언어별로 지원 시점이 갈리는 기능도 있어서, 기능 목록에 한국어가 들어 있는지까지 봐야 헛걸음이 없습니다. 제품 페이지의 “AI 기능 지원”이라는 표기는 하드웨어가 그 기능을 돌릴 수 있다는 뜻이지, 그 기능이 지금 내 언어와 내 프로그램에서 열린다는 보장까지는 아닙니다. 개인적으로는 NPU를 따질 때 칩 등급보다 매일 쓰는 앱의 지원 목록을 먼저 확인하는 순서가 맞다고 봅니다.

기기 안에서 처리된다는 점은 덤으로 따라오는 이점입니다. 회의 음성이나 사진이 외부 서버를 거치지 않고, 인터넷이 흔들리는 자리에서도 일부 기능은 그대로 동작합니다.

TOPS 숫자는 왜 그대로 믿으면 안 되나

TOPS는 초당 연산 횟수를 조 단위로 적은 값입니다. 문제는 재는 기준이 제조사마다 다르다는 점. 정밀도를 낮춰 재면 숫자가 올라가고, 희소성 기법을 포함시키면 또 올라갑니다. NPU 단독 수치 대신 CPU와 GPU를 더한 시스템 합산치를 크게 박아 두는 경우도 있습니다.

운영체제 쪽 사정도 하나 붙습니다. 특정 AI 기능을 쓰려면 일정 TOPS 이상을 요구하는 조건이 걸려 있는 경우가 있는데, 그 기준 수치와 대상 기능 목록이 업데이트마다 바뀝니다. 돌아다니는 작년 기준표 말고 구매 직전에 제조사와 운영체제 공식 안내에서 그 시점의 요건을 직접 확인하는 편이 안전합니다.

바꿀 때가 됐는지가 사실상의 기준

기다리면 더 좋은 게 나온다는 말은 반도체에서 늘 참이라 판단에 별 도움이 안 됩니다. 기준을 NPU 세대가 아니라 본인의 교체 주기에 두면 간단해집니다. 쓰던 노트북이 느려 어차피 바꿔야 하는 상황이면 요즘 신형에는 NPU가 사실상 기본으로 들어 있으니 따로 고민할 거리가 아닙니다. 멀쩡히 돌아가는 노트북을 NPU 하나 때문에 바꾸는 쪽은 아직 명분이 약하고요.

2년 안에 또 바꿀 생각이라면 NPU 등급에 돈을 더 쓸 이유가 적습니다. 그 사이 요구 사양이 한 번 더 올라갈 가능성이 높아서, 지금 상위 등급을 사둬도 그때 가면 또 애매해지니까요. 반대로 5년 이상 끌고 갈 계획이면 나중에 기능 제한이 걸릴 여지를 줄여 두는 쪽이 낫습니다.

스펙표에서 TOPS보다 먼저 볼 것

체감 차이는 대부분 NPU 숫자가 아니라 기본기에서 납니다.

• 메모리는 16GB를 하한으로 봅니다. AI 기능이 메모리를 추가로 먹는 데다, 요즘 얇은 제품은 메모리가 기판에 붙어 있어 나중에 늘릴 수 없는 경우가 많습니다.
• 저장 공간은 512GB 이상이 편합니다. 기기 안에서 돌리는 모델 파일 하나가 수 GB씩 차지합니다.
• 매일 쓰는 앱이 NPU 가속을 지원하는지 그 앱의 공식 안내에서 확인합니다.
• 업무용이라면 보안 정책 때문에 일부 AI 기능이 꺼져 있을 수 있으니 미리 물어보는 게 좋습니다.
• 무게와 배터리를 봅니다. NPU의 장점은 콘센트에서 떨어져 있을 때 드러나니까요.

기기 안에서 언어모델을 직접 돌려보는 게 목적이라면 순서가 또 달라집니다. 모델이 돌아가느냐 마느냐는 TOPS보다 메모리 용량이 먼저 결정합니다. 같은 예산이면 NPU 등급을 올리기보다 램을 키우는 쪽이 할 수 있는 일이 늘어납니다. 램과 저장 공간을 어디까지 맞출지는 노트북 최소 사양을 정리한 글에서 더 자세히 다뤘습니다.