심완보 교수

2024년 부터 노트북을 중심으로 AI기능을 융합하는 AI PC 제품이 나오기 시작했다. 일반 PC와 AI PC의 가장 큰 차이점은 AI 작업 수행에 필요한 이미지 인식, 자연어 처리, 예측 분석 등에서 뛰어난 성능을 발휘하는 NPU가 CPU내에 포함 되어 있는지의 여부이다.

인텔의 Core Ultra 프로세서에는 기존의 CPU, GPU와 함께 NPU가 통합되어 있어 AI 연산을 빠르게 처리할 수 있다. AMD도 Ryzen 8000 시리즈 부터 NPU를 CPU내부에 내장시켜 출시하기 시작했다. NPU의 성능은 1초에 1조번 AI 연산을 하는 TOPS라는 단위를 사용하는데, 데이터센터의 서버에 장착된 엔비디아의 H100의 성능이 3,000 TOPS 정도이다.

일반적으로 AI PC 라고 부르는 PC는 40 TOPS 이상은 되어야 하는데 퀄컴의 스냅드래곤 X 엘리트는 45 TOPS, 인텔 코어 울트라는 34 TOPS 수준이어서 아직은 본격적인 AI PC를 출시하기는 어려움이 있다.

물론 기존의 CPU와 GPU를 이용해서 AI PC 기능을 할 수는 있지만 기존의 방법은 전력을 너무 많이 소모하기 때문에 노트북과 같은 휴대용 PC 등에서는 작업의 지속성을 유지하기 힘들다. 현재 MS윈도우 PC에서의 주된 AI지원 기능은 AI 비서 기능인 코파일럿 정도이다.

하지만 향후에는 AI 관련된 다양한 앱이나 서비스들이 출시될 것이고 그러한 앱이나 서비스들이 AI기능을 쓸 때 CPU와 GPU를 사용하게 되면 AI 기능 처리에 자원이 과대하게 소모되어 전체 PC성능이 떨어지게 된다. NPU가 만들어진 목적은 저전력으로 지속적인 AI 기능을 수행하기 위함인데, AI 기능 처리로 전력소모가 많아지는 노트북 등에서는 NPU의 역할은 커질 수 밖에 없다. NPU는 CPU보다는 생성형 AI 관련 작업을 더 빨리 실행하며, GPU보다 저렴하고 전력 효율이 높기 때문이다.

그래서 특히 휴대성이 필요한 노트북 PC 등에서는 NPU를 활용하는 AI PC가 대세가 될 수 밖에 없다. AI PC의 목적은 현재 AI 작업이 네트워크를 통해 클라우드로 왕복해야 하는 과정을 제거하여 성능을 향상시키고 데이터를 이동 중이 아닌 디바이스에 저장하여 개인정보 보호 및 보안을 강화하며 비용이 많이 드는 클라우드 리소스를 제한적으로 액세스하여 비용을 절감하는 것이다.

또한 사용자가 PC를 사용하는 중에 PC의 성능을 지속적으로 모니터링 하고 잠재적인 위협들을 식별하여 조치함으로써 최상의 성능과 보안을 유지할 수 있도록 해주는 것이다. 그리고 현재 챗GPT 및 코파일럿, 제미나이를 비롯한 다양한 AI 서비스는 데이터센터에서 운영되는 클라우드 서버를 통해 이용하고 있는데 클라우드 서버에는 동시에 엄청난 사용자가 접속해 사용하고 있기 때문에 항상 부하가 많이 걸려 있다.

예를 들어 Open AI의 달리를 통해 그림을 그리는 요청을 했을 경우 현재 20~30초 이상의 시간이 소요되고 있다. 그러나 이러한 작업을 AI PC에 요청할 경우 2초 내로 끝낼 수 있다. 또 다른 예로 Open AI의 소라와 같은 AI 동영상 제작 서비스에서는 더욱 속도차가 날 것인데 이러한 고부하 작업도 AI PC를 이용할 경우 훨씬 빠른 시간 내로 끝낼 수 있을 것이다.

그렇게 되면 동영상 콘텐츠 제작을 처음 해보는 일반인도 자신만의 독창적인 스토리만 있다면 멋진 동영상 콘텐츠를 어렵지 않게 제작할 수 있게 될 것이다. 지난 2월 7일, IDC의 예측에 따르면, 생성형 AI 작업을 로컬에서 실행할 수 있는 AI PC의 출하량이 2024년 거의 5천만 대에서 2027년에는 1억6천7백만 대를 초과할 것으로 예상되며, AI PC가 전 세계 PC 출하량의 거의 60%를 차지할 것으로 예상하고 있다.

차세대 AI PC는 40~60 TOPS 성능을 제공하는 NPU와 지속적이고 광범위한 AI 기능을 OS 및 앱에서 사용할 수 있게 하는 AI 중심 운영체제를 사용할 것이다. 퀄컴, AMD, 인텔은 모두 2024년부터 이 범주에 해당하는 칩을 출시하고 있으며, 마이크로소프트는 이러한 고성능 NPU를 활용하기 위해 윈도우 11의 주요 업데이트 및 시스템 사양을 발표할 예정이다.

대규모 윈도우 업그레이드는 ‘윈도우 11’의 새로운 버전이 될 수도 있고 ‘윈도우 12’가 될 수도 있지만 2024년 후반 대규모로 업데이트될 윈도우 버전에는 NPU를 사용하는 AI 기능이 내장될 것으로 알려져 있다.

현실적으로 2024년 말까지는 AI PC로 할 수 있는 일이 많지 않을 것이나 PC 시장 회복에는 긍정적인 신호로 작용하고 있다. 지난 2년이상 매 분기 마이너스 성장을 거듭해오던 PC 시장은 AI PC의 출현으로 서서히 상승세로 돌아서며 불황의 끝을 기대하고 있다.