AMD AI PC로 챗GPT나 제미나이를 오프라인 무과금으로 쓸 수 있을까

목차

최근 AMD에서 라이젠 AI라는 이름으로 CPU, GPU, NPU를 한데 묶은 신형 프로세서를 내놓았다. 도대체 이 AI PC가 우리가 아는 챗GPT나 제미나이를 진짜 공짜로, 그것도 오프라인으로 쓰게 해주는 건지 궁금한 사람들이 많다.

결론부터 말하면 우리가 웹 브라우저로 접속해서 쓰는 챗GPT 유료 버전이나 클로드 같은 거대 모델을 PC에 그대로 넣어서 오프라인으로 돌리는 것은 불가능하다.

그 무거운 모델들은 저 멀리 데이터센터의 수천 대짜리 고성능 슈퍼컴퓨터가 24시간 매달려 돌리는 영역이기 때문이다.

대신 메타의 라마나 마이크로소프트의 파이 같은 오픈소스 기반의 경량화된 소형 언어 모델을 내 PC에 다운로드 받아서 구동하는 것은 가능하다.

이 경우에는 인터넷선이 완전히 뽑혀 있어도 오프라인으로 완벽하게 돌아가며, 내 컴퓨터 자원을 직접 쓰는 것이라 매달 내는 구독료 같은 과금도 전혀 없다.

결국 AI PC의 진짜 무기는 내 PC 내부의 기밀 데이터를 외부 서버로 유출하지 않고 완벽한 보안 속에서 나만의 AI 비서를 만들 수 있다는 점에 있다.

예를 들어 외부 유출이 절대 안 되는 반도체 회로 설계 데이터나 시뮬레이션 로그, 혹은 기업 내부 기밀 문서를 내 로컬 PC에만 밀어 넣고 AI를 학습시키거나 실시간으로 참조하게 만드는 방식이다.

새로 들어간 NPU는 이 추론 과정을 기존 GPU보다 훨씬 적은 전력으로 조용하고 빠르게 처리해 주는 핵심 역할을 담당한다.

초기 오픈소스 모델은 회로 지식 같은 전문 분야 데이터가 없어서 무용지물 같아 보이지만, 기본 논리력이 뛰어난 신입사원에게 사내 규정집을 가르치듯 내 데이터를 주입하면 완벽한 로컬 전문 AI가 탄생하는 원리다.