클라우드 종속 탈피: PrismML, 스마트폰 구동 가능한 27B AI 모델 '본사이' 공개

2026년 7월 14일, 인공지능 스타트업 PrismML은 스마트폰에서 네이티브로 구동 가능한 최초의 270억 매개변수 AI 모델인 '본사이(Bonsai) 27B'를 공식 발표했다. 이번 발표는 클라우드 기반의 거대 언어 모델을 모바일 기기 내부로 옮겨온 획기적인 사건으로, 온디바이스 AI의 성능 한계를 다시 한번 경신했다.

본사이 27B는 기존 54GB에 달하던 모델 크기를 3.9GB 수준으로 압축하면서도 강력한 추론 능력을 유지한다. 업계 전문가들은 이를 에지 컴퓨팅 분야의 '딥시크 모멘트(DeepSeek moment)'라 칭하며, 데이터 센터 연결 없이도 고성능 AI 서비스를 이용할 수 있는 시대가 열렸음을 시사했다.

PrismML의 이번 성과는 모델 압축 기술의 비약적인 발전을 보여준다. 270억 개의 매개변수를 가진 모델이 아이폰 17 프로와 같은 소비자용 하드웨어에서 원활하게 작동할 수 있게 된 것은, 기존의 클라우드 우선 패러다임에서 로컬 지능 중심으로의 전환을 가속화할 전망이다.

본사이 27B는 클라우드에 종속되었던 거대 모델급 지능을 사용자의 주머니 속으로 직접 전달하며, 이는 온디바이스 AI 역사상 가장 중요한 이정표 중 하나다.

기술적 핵심은 PrismML이 독자적으로 개발한 1비트 및 삼진(Ternary) 양자화 아키텍처에 있다. 이 기술은 모델의 가중치를 극단적으로 단순화하여 메모리 사용량을 14배 이상 절감하면서도, 복잡한 추론 작업에 필요한 지능적 구조를 보존하는 데 성공했다.

기술 아키텍처: 1비트 및 삼진 양자화

본사이 27B는 가중치를 {-1, +1}로 표현하는 1비트 변체와 {-1, 0, +1}로 표현하는 삼진 변체로 나뉜다. 특히 'Binary g128' 포맷을 도입하여 128개의 가중치 그룹마다 하나의 FP16 스케일 팩터를 할당함으로써, 가중치당 실질 비트 수를 1.125비트까지 낮추는 효율성을 달성했다.

• ['1비트 변체: 3.9GB 메모리 점유, 아이폰 17 프로 등 모바일 기기 최적화.', '삼진 변체: 5.9GB 메모리 점유, 노트북 및 고사양 모바일 기기용.', '기반 모델: Qwen3.6-27B의 아키텍처를 유지하면서 저비트 표현으로 변환.']

성능 측면에서 본사이 27B는 놀라운 효율성을 보여준다. 1비트 변체는 15개의 주요 벤치마크 테스트에서 풀 프레시전(Full Precision) 모델 성능의 약 90%를 유지하는 것으로 나타났으며, 이는 단순한 압축을 넘어 실용적인 수준의 지능을 로컬 환경에서 제공함을 의미한다.

이러한 고성능 로컬 모델의 등장은 사용자 프라이버시 보호에도 기여한다. 모든 데이터 처리가 기기 내부에서 이루어지기 때문에 민감한 정보가 외부 서버로 전송될 필요가 없으며, 네트워크 연결이 불안정한 환경에서도 일관된 AI 성능을 보장받을 수 있다.

하드웨어 요구 사항 및 개발자 생태계

PrismML은 본사이 27B를 아파치 2.0 라이선스로 공개하여 오픈 소스 커뮤니티의 참여를 유도하고 있다. 레딧의 'LocalLLaMA'와 같은 커뮤니티에서는 이미 본사이 27B의 로컬 구동 테스트 결과가 공유되고 있으며, 기존 8비트 양자화 모델보다 훨씬 적은 메모리로 유사한 품질의 답변을 생성한다는 호평이 이어지고 있다.

하드웨어 측면에서는 아이폰 17 프로와 같은 최신 모바일 기기의 NPU 및 GPU 자원을 적극 활용한다. 3.9GB의 메모리 풋프린트는 현재 프리미엄 스마트폰의 가용 RAM 범위 내에 충분히 포함되며, 이는 별도의 하드웨어 업그레이드 없이도 거대 모델급 AI를 경험할 수 있게 한다.

마지막으로, 이번 기술적 돌파구는 글로벌 빅테크 기업들의 전략에도 영향을 미칠 것으로 보인다. CNBC 등 외신에 따르면 애플이 PrismML의 기술 도입을 검토 중이라는 소식이 전해졌으며, 이는 향후 스마트폰의 기본 기능으로 고성능 AI가 통합되는 흐름을 더욱 강화할 것으로 예상된다.