전 세계 1위 차지했던 초거대 AI 모델, 일반 워크스테이션 PC급에서도 구동 가능
‘압축 기술’과 ‘전문가 분업 구조’의 결합… “내 데이터 지키는 ‘개인 소유 AI’ 시대 본격화”
인터넷 연결 없이 내 방 컴퓨터 안에서 작동하는 ‘나만의 초고성능 인공지능(AI)’이 현실로 다가왔다.
최근 글로벌 AI 랭킹 1위를 차지하며 화제를 모았던 차세대 AI 모델 ‘GLM-5.3-Flash’가 전격 무료 오픈소스로 공개된 데 이어, 이를 고사양 개인용 PC(메모리 128GB 수준)에서도 실행할 수 있는 초압축 기술이 단 하루 만에 등장했다.
과거에는 수천만 원에서 수억 원에 달하는 데이터센터용 슈퍼컴퓨터가 있어야만 다룰 수 있던 크기의 초대형 AI가 일반 개인의 영역으로 내려오게 된 것이다.
무엇이 바뀌었길래 가능해졌을까?
초거대 AI를 개인 PC에 얹을 수 있게 된 비결은 크게 두 가지 혁신 덕분이다.
- ‘필요한 전문가만 부르는’ 영리한 구조 (MoE 기술)기존 AI는 질문 하나를 받을 때마다 수천억 개의 두뇌 세포(파라미터)를 전부 풀가동해야 해 엄청난 컴퓨터 성능이 필요했다.하지만 이번 모델은 전체 규모는 거대하지만, 수학 질문에는 ‘수학 전문가’, 그림 질문에는 ‘미술 전문가’ 세포만 콕 집어 깨워 일하게 만든다. 덕분에 컴퓨터가 짊어지는 연산 부담이 10분의 1 이하로 대폭 줄었다.
- 화질 손실 없이 파일 용량만 줄이는 ‘초고효율 압축 기술’ (양자화)대형 AI 모델은 원래 수백 기가바이트(GB)에 달해 보통 PC의 메모리(RAM) 용량을 훌쩍 넘어선다.하지만 최신 압축 기술을 적용해 지능과 답변 퀄리티는 거의 그대로 유지하면서 데이터 용량만 70~80% 이상 다이어트시키는 데 성공했다. 그 결과, 개인이 맞출 수 있는 128GB 메모리 수준의 PC에서도 실행할 수 있게 된 것이다.
책 한 권 분량 문맥 기억하고 사진·영상까지 이해
이번에 공개된 모델은 단순히 크기만 줄인 것이 아니다.
- 책 수십 권 분량(약 100만 단어)의 긴 문맥을 한 번에 읽고 이해할 수 있다.
- 글자뿐만 아니라 사진과 영상까지 분석하는 ‘멀티모달’ 능력을 갖췄다.
- 오픈소스 라이선스(MIT)로 무료 배포되어, 개발자나 기업 누구나 자유롭게 활용 및 개작이 가능하다.
“월 구독료 끝, 개인정보 유출 걱정 끝”… 나만의 AI 소유 시대
지금까지 챗GPT나 클로드 같은 최고 수준의 AI를 쓰려면 매달 구독료를 내고 클라우드 서버에 접속해야 했다. 이 과정에서 회사의 기밀 문서나 개인정보가 외부 서버로 넘어갈 수 있다는 불안감이 늘 뒤따랐다.
하지만 이번 성과처럼 “성능 좋은 거대 AI를 내 컴퓨터에 직접 설치하는 기술”이 빠르게 대중화되면서, 인터넷 연결이 끊겨도 내 컴퓨터 안에서 안전하게 돌아가는 ‘완전 독립형 개인 AI’ 시대가 성큼 다가오고 있다.
전문가들은 “초대형 AI의 로컬 구동은 이제 일부 괴짜 개발자들의 실험실을 벗어났다”며 “스마트폰이나 개인용 컴퓨터가 보급되던 순간처럼, ‘인공지능의 개인 소유화’가 기술 시장의 판도를 바꿀 것”이라고 전망했다.
