AI CPU 우리가 지금까지 사용하던 CPU에 신경 처리 장치로 불리는 NPU를 통합하여 만든 프로세서를 말합니다. 클라우드가 아닌 온디바이스에서 AI 작업 처리를 할 수 있게 설계된 AI CPU는 이제 많은 제조사에서 출시하고 있습니다.
이미 시작된 윈도우 진영의 코파일럿+과 이제 등장할 애플 인텔리전스를 실행하기 위해서는 선택이 아닌 필수입니다.
AI CPU 추천
인텔, AMD, 애플, 퀄컴은 최신 프로세서를 발표하면서 새로운 개념의 SoC(System On Chip) 설계를 발표했는데요.
CPU, GPU, NPU를 하나의 칩에 통합하고 이를 통해 AI 컴퓨팅 기능을 사용할 수 있게 하였습니다.
현재가 아닌 앞으로 구매하게 될 제조사를 선택하는 데 도움이 될만한 AI CPU 비교 추천 가이드 소개합니다.
- 애플 M4 – 맥OS 사용자에게는 선택지가 없음.
- AMD – 게이밍 및 엔터테인먼트 작업 스펙상 성능은 최고 높음.
- 인텔 – 균형 잡힌 성능과 배터리 효율을 원하는 사용자, AI 기능을 생산성 작업에 이용할 경우
- 퀄컴 – 가장 높은 배터리 효율을 자랑하는 지금 바로 구매할 수 있는 제품.
인텔 루나레이크 – 코어 울트라 200V
인텔은 2024년에 루나레이크 프로세서를 발표했고, 이전 프로세서 대비 발열과 전력 효율, 더 나은 GPU 및 AI 컴퓨팅 기능을 중점에 뒀습니다.
그러나 아직 x86 아키텍처를 계속 사용합니다. 인텔 루나레이크 특징은 아래와 같습니다.
- 통합 메모리 – CPU 설계에 LPDDR5 메모리를 통합하여 메모리와 CPU간의 데이터 전송에 더 높은 대역폭과 낮은 전력 소비가 가능해졌습니다.
- 3나노 공정 – 3나노 공정에서 양산되는 루나레이크 CPU는 더 많은 트랜지스터를 탑재하여 성능과 전력 효율성을 높였습니다.
- 통합NPU – 메모리와 마찬가지로 6개의 NPU 칩이 통합되어 40TOPS(1초당 TERA급 연산)의 AI 컴퓨팅 기능을 제공합니다.
- 하이퍼스레딩 – 성능보다 배터리 수명을 우선시하여 하이퍼스레딩이 비활성화되었습니다.
인텔 루나레이크 CPU는 기존 메테오레이크 대비 AI 컴퓨팅 성능은 3배, GPU 성능은 최대 1.5배, 전력 효율성은 약 40%가 개선되었습니다.
AMD 라이젠 AI 300 – 스트릭스 포인트
인텔이 성능 대비 전력 효율성을 중요시하는 반면 AMD 제품은 더 높은 전력을 소모하더라도 성능을 우선시하고 있습니다.
- Zen5 마이크로아키텍처 – IPC(1클럭당 명령어 수)와 전반적인 성능 개선
- 통합 RDNA(라데온 DNA) 3.5 그래픽 – GPU의 AI 처리 및 그래픽 성능이 크게 향상됨.
- XDNA2 NPU – 1초당 TERA급 연산 단위인 TOPS 수치가 최대 50TOPS로 인텔보다 높다.
- BF16(블록 FP16) – 성능 저하를 최소화하여 더욱 디테일한 AI 작업을 지원
AMD 라이젠 AI 300 시리즈 AI CPU 프로세서는 고급 그래픽 및 AI 처리 기능을 사용하여 까다로운 AI 작업 및 일반 컴퓨팅 작업에서도 탁월한 성능을 자랑합니다.
퀄컴 스냅드래곤 X 엘리트
스마트폰 AP 제조사에서 인텔과 AMD가 양분하고 있는 윈도우 기반 PC CPU 자리도 넘보고 있습니다.
ARM 기반 프로세서를 생산하고 있으며, 모델명은 스냅드래곤 X 엘리트 CPU입니다.
퀄컴은 45TOPS를 처리하는 12코어 ARM v8 오리온 CPU, Adreno X1 GPU, 헥사곤 NPU를 사용하여 윈도우 코파일러+을 잘 실행할 수 있는 AI CPU 프로세서를 만들었습니다.
특이한 점은 일반적인 윈도우 기반 CPU가 CISC를 사용하는 반면 퀄컴 스냅드래곤 X 엘리트 제품은 RISC를 사용하며 이는 애플 실리콘 M시리즈와 같은 방식입니다.
애플 M4
인텔, AMD, 퀄컴은 윈도우 진영으로 AI CPU 선택의 폭을 가지고 있습니다.
그러나 애플은 선택할 수 있는 영역이 아닌데요. 그래도 AI CPU 영역에서 어느 정도 성능을 내고 있는지 애플 실리콘 M시리즈 중 최신 M4 모델 성능을 확인해 볼 필요가 있어 보입니다.
M4 CPU는 3나노 공정에서 제작되고 CPU 내 메모리가 있는 통합 메모리 엔비디아 GPU에도 사용되는 칩렛(작은 집적 회로) 설계와 하이브리드 아키텍처를 사용하고 있습니다.
M4는 이미 출시된 아이패드 라인업에서 사용되고 있습니다.
- CPU 코어 – 최대 10개(성능 코어 4개, 6개 효율성 코어)
- NPU 코어- 16코어 35TOPS
- GPU코어 – 10코어
애플 실리콘은 전력 효율이 일반적인 ARM 기반 CPU보다 좋으며 M4 일반적인 스펙만 보면 대단할 것 같아 보이지는 않을 수 있습니다.
M4가 기본 모바일 기기 프로세서인 점을 감안하면 우리가 눈여겨봐야 할 점은 M4외에 맥북 및 맥에 사용될 M4 프로 칩과 M4 맥스칩에서의 성능을 기대해야 될 것으로 보입니다.
AI CPU 비교
| 항목 | 인텔 코어 울트라 7 268V | AMD 라이젠 AI 9 HX 370 | 퀄컴 스냅드래곤 X 엘리트 X1E-84-100 | 애플 M4(10 코어) |
| CPU | – 최대 5.0GHz – 8코어 / 8스레드 | – 최대 5.1GHz – 12코어 / 24스레드 | – 최대 3.8GHz – 12코어 / 12스레드 | – 최대 4.4GHz – 10코어 / 10스레드 |
| GPU | 최대 2.0GHz(8코어) | 최대 2.9GHz(16코어) | 최대 1.5GHz | 최대 1.4GHz(10코어) |
| NPU | 48TOPS | 50TOPS | 45TOPS | 38TOPS |
| 설계 전력(TDP) | 17 ~ 30W | 28W | 23W | 22W |
| 설계 공정 | 3나노 | 4나노 | 4나노 | 3나노 |
| 아키텍처 | x86 | x86 | ARM | ARM |
| 지원 AI 플랫폼 | 코파일럿+ | 코파일럿+ | 코파일럿+ | 애플 인텔리전스 |
현재 출시된 AI CPU를 보면 x86 진영과 ARM 진영으로 각각 나뉘는 게 보입니다.
ARM 기반 제품은 더 나은 전력 효율을 제공하고 x86 기반 AI CPU 제품은 더 높은 성능을 가지고 있습니다.
인텔, AMD AI CPU를 비교해 보면 성능만을 따졌을 경우에는 조금 더 높은 CPU 클럭 속도와 24개의 스레드 모든 스펙면에서 AMD AI CPU 제품의 승리입니다.
아직 AI CPU 장착한 PC 및 노트북을 구매하기에는 이른 감이 있을 수도 있습니다.
그러나 AI 소프트웨어를 개발하는 개발자 및 관련 직군의 경우에는 당장 AI CPU 제품이 필요할 수 있습니다. 그러기에는 스냅드래곤 X 엘리트가 탑재된 제품을 구매하거나 올해 말에 출시될 인텔, AMD 기반의 AI CPU 모델이 탑재된 제품을 기다려야 할 것으로 보입니다.