Strata 정리: 내 게이밍 PC로 1,250억 AI 돌리기, 필요한 그래픽카드·램은

Strata 화면 위에 '게이밍 PC 한 대로 큰 AI를 돌린다' 제목

“챗GPT 같은 AI를 인터넷 없이 내 컴퓨터에서 돌릴 수 없을까?” 로컬 AI 이야기가 나오면 꼭 따라붙는 질문이에요. 작은 모델은 이미 많이 돌리지만, 똑똑한 큰 모델은 보통 서버가 있어야 했죠. Strata는 그 큰 모델을 평범한 게이밍 PC에서 돌리겠다는 무료 프로그램이에요. 깃허브 README·문서·릴리스 정보를 2026년 10월 17일에 직접 확인해서, 특히 “내 PC로 되나?”에 초점을 맞춰 정리했어요.

Strata Strata 실행 화면
Strata 실행 화면 · 출처: Strata 공식

한 줄 요약

Strata는 알리바바 Qwen 팀의 Qwen3.8-Flash-Next(README 기준 1,250억 파라미터)를 그래픽카드 메모리 12GB 이상인 PC에서 돌려 주는 프로그램이에요. 윈도우는 START-HERE.bat 더블클릭, 리눅스는 ./setup.sh 한 줄이면 설치 프로그램이 그래픽카드를 알아보고 알맞은 엔진과 모델 크기를 골라 줘요. 대화·코드 작성·사진 읽기가 되고, 모든 처리가 내 PC 안에서 끝나요. Qwen 팀이 아니라 개인 개발자가 만든 오픈소스라는 점은 알아 두세요.

Strata 기본 정보
기본 정보 · 출처: Strata 공식

내 PC로 될까: 필요한 사양

README의 ‘필요한 것’ 표를 그대로 옮기면 이래요. 그래픽카드는 엔비디아 지포스 RTX 20·30·40·50 시리즈 또는 AMD 라데온 RX 7900 XT/XTX, 7800 XT/7700 XT, 9060 XT, 9070/9070 XT, 라데온 AI PRO R9700, RX 6800/6900 시리즈이고, 그래픽 메모리(VRAM) 12GB 이상이 조건이에요. 램은 32GB 이상, 64GB면 모든 크기를 돌릴 수 있어요. 저장공간은 약 80GB가 비어 있어야 하고, 첫 실행이 훨씬 빨라서 SSD를 권해요. 운영체제는 윈도우 10·11 또는 리눅스예요.

Strata 필요한 사양
필요한 사양 · 출처: Strata 공식
Strata 공식 사양표 원문
공식 사양표 원문 · 출처: Strata 공식

여기서 눈여겨볼 건 램이에요. 보통 로컬 AI는 그래픽카드 메모리만 따지는데, Strata는 모델 전체를 램에 올려 두고 자주 쓰는 부분만 그래픽카드에 올리는 방식이라 램 용량이 어떤 모델을 쓸 수 있는지를 정해요. 시작할 때 35~55GB를 램에 올린다고 하니, 16GB 램 PC는 아예 대상이 아니고, 32GB도 코딩 전용 모델만 맞아요. 맥(M1~M5)·인텔 아크·옛 그래픽카드는 커뮤니티가 시험 중인 ‘실험’ 단계로 따로 분류돼 있어요.

얼마나 빠른가 (공식 측정)

개발자가 두 대의 게이밍 PC로 잰 값이에요. RTX 5070(12GB) + 라이젠5 7600 + 램 64GB에서 가장 작은 Q2_0 크기는 답을 초당 94토큰, 가장 큰 IQ3_S는 초당 53토큰으로 써요. RX 9070 XT(16GB) + 라이젠9 3900X + 램 47GB에서는 Q2_0이 초당 60토큰이에요. README는 초당 60토큰이면 사람이 읽는 속도보다 빠르다고 설명해요. 긴 문서를 처음 읽힐 때는 약 3만 토큰에 1분 정도 걸린다고 해요. 어디까지나 개발자 측정이라, 같은 그래픽카드라도 CPU·램 속도에 따라 달라질 수 있어요.

Strata 공식 속도 측정
공식 속도 측정 · 출처: Strata 공식
Strata 속도 측정 원문
속도 측정 원문 · 출처: Strata 공식

램 크기별로 고르는 모델

같은 모델을 얼마나 압축했느냐에 따라 크기가 여러 개예요. 작을수록 빠르고, 클수록 조금 더 똑똑해요. 램 32GB면 코딩용 ‘Coder'(전문가 절반을 뺀 버전, 코드 외 한국어·중국어 같은 글에는 약하다고 README가 밝혀요), 48GB면 IQ2_XS나 Q2_0, 64GB면 IQ2_XS 추천에 IQ3 계열까지, 96GB 이상이면 IQ3_S나 4비트급 큰 파일이 맞아요. 설치 프로그램이 램을 보고 알아서 추천해 줘요. 모델 내려받기만 약 70GB라 인터넷 속도도 미리 생각해 두세요.

Strata 램 크기별 추천 모델
램 크기별 추천 모델 · 출처: Strata 공식
Strata Strata 모델이 만든 결과물
Strata 모델이 만든 결과물 · 출처: Strata 공식

어떻게 작은 PC에 큰 모델이 들어가나

이 모델은 2만 4,576개의 작은 ‘전문가’로 이뤄져 있고, 단어 하나를 만들 때 그중 10개만 써요. Strata는 가장 자주 불리는 전문가 수천 개를 그래픽카드에, 전체를 램에, 큰 참조표는 SSD에 두고 CPU가 나머지를 동시에 계산하게 나눠요. 여기에 작은 보조 모델이 다음 단어 몇 개를 먼저 추측하고 큰 모델이 한꺼번에 검사하는 방식을 더해, 같은 답을 1.6~1.8배 빨리 낸다고 설명해요.

Strata 작동 방식 ① 일 나누기
작동 방식 ① 일 나누기 · 출처: Strata 공식
Strata 작동 방식 ② 추측 후 확인
작동 방식 ② 추측 후 확인 · 출처: Strata 공식

써 보기 전에 알아 둘 점

첫 실행 때 모델을 램에 올리면서 PC가 1~3분 멈춘 것처럼 보일 수 있다고 README가 미리 경고해요. 창을 닫지 말고 기다리면 되고, 10분이 넘어도 그대로면 다른 프로그램을 닫거나 작은 크기를 고르라고 해요. 브라우저 앱은 http://127.0.0.1:8080에서 열리고, OpenAI·Anthropic 방식 API도 같은 주소로 열려 다른 앱이나 클로드 코드를 연결할 수 있어요. 휴대폰 등 다른 기기에서 접속하게 열 때는 반드시 API 키를 걸라고 안내해요. 배포 파일에는 SHA256 확인값이 함께 올라오니, 공식 깃허브 릴리스에서만 받고 확인값을 대조하는 습관을 들이면 좋아요.

Strata 최신 배포 v0.1.45
최신 배포 v0.1.45 · 출처: Strata 공식
Strata 문제 해결 안내
문제 해결 안내 · 출처: Strata 공식

누구에게 맞을까

그래픽카드 12GB 이상에 램 64GB 정도를 갖춘 게이밍 PC가 있고, 회사 자료를 밖으로 보내지 않고 AI를 쓰고 싶은 분께 맞아요. 지금 PC가 램 16GB라면 그래픽카드보다 램 증설이 먼저예요. 다만 아직 0.1 버전대라 업데이트가 잦고, 실험 단계 기능은 동작이 불안정할 수 있어요. 오픈소스 프로젝트라 설치·사용 책임은 사용자에게 있고, 업데이트가 빨라 설치 전 공식 README를 한 번 더 확인하는 걸 추천해요.

출처
· Strata 공식 깃허브 저장소 (README·문서·라이선스)
· Qwen3.8-Flash-Next 모델 카드 (Hugging Face)
· GitHub API 별·포크·라이선스·릴리스 (2026-10-17 확인)

컴퓨터가 고장 났다면 부산 컴퓨터수리 · 출장수리 부컴에 맡겨 주세요. 부산·울산·김해·양산 어디든 직접 방문합니다.

함께 보면 좋은 글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다