

소개
Llama.cpp는 단순한 오픈소스 프로젝트가 아니다. 이는 “누구나 자신의 장비에서 대형 언어 모델(LLM)을 자유롭게 실행할 수 있는 시대”를 연 핵심 엔진이다. GPU가 없어도, 저사양 노트북에서도, 라즈베리 파이 같은 엣지 디바이스에서도 AI를 실행하는 그 가능성을 현실로 만든 것이 바로 Llama.cpp이다. 이 책은 Llama.cpp를 깊이 있게 이해하고 실전 환경에서 활용하고자 하는 개발자를 위한 완벽한 로드맵이다. 단순 사용법을 넘어, GGUF 구조 분석 → 양자화 전략 → API 활용 → RAG 시스템 → 엣지 배포 → 서버 운영까지, 개발·아키텍처 관점에서 전 과정을 단계적으로 안내한다. 이 책은 이런 사람에게 추천합니다 GPU 없이도 로컬에서 AI 애플리케이션을 만들고 싶은 개발자 RAG, 오프라인 챗봇, 전용 AI 비서 등 실전 서비스 구축이 목표인 사람 LLM 최적화의 기술적 원리를 깊게 알고 싶어 하는 아키텍트·엔지니어 라즈베리 파이, 엣지 AI, 임베디드 환경에 관심 있는 메이커



