왜 만들었나
API 키 없이, 서버 비용 없이 쓸 수 있는 AI 어시스턴트가 가능할까? 오픈모델을 브라우저에서 직접 돌려보고 싶었습니다.
어떻게 만들었나
Gemma 3 모델을 브라우저에 직접 로드해 실행합니다. 고성능 4B와 경량 2B 중 사용자가 기기 사양에 맞게 선택하는 구조입니다.
결과
서버리스를 넘어 서버 제로. 온디바이스 AI의 가능성과 한계를 직접 확인한 실험입니다.
기술 스택
Gemma 3 (4B/2B)WebLLMNext.js
브라우저에서 도는 로컬 Gemma 3 디자이너 챗봇

API 키 없이, 서버 비용 없이 쓸 수 있는 AI 어시스턴트가 가능할까? 오픈모델을 브라우저에서 직접 돌려보고 싶었습니다.
Gemma 3 모델을 브라우저에 직접 로드해 실행합니다. 고성능 4B와 경량 2B 중 사용자가 기기 사양에 맞게 선택하는 구조입니다.
서버리스를 넘어 서버 제로. 온디바이스 AI의 가능성과 한계를 직접 확인한 실험입니다.
다음 프로젝트
에이전엘 (agenL) →