프로젝트 설명
오픈소스 소형 언어모델(SLM)을 활용하여 인터넷 연결 없이 완전히 로컬 환경에서 동작하는
AI 채팅 데스크톱 애플리케이션입니다.
■ 주요 기능
- GGUF 형식 다중 모델 지원 (Llama, Mistral, Qwen 등)
- 유저가 원하는 모델 동적 로딩 및 파라미터 조정 등 설정
- Electron 기반 Windows 데스크톱 앱
- FastAPI 비동기 RESTful API 서버
- 세션별 독립 대화 관리 및 히스토리 저장
- 단축키 및 명령어(/) 입력 제어
- 파일 첨부 및 대화
- 실시간 Markdown 렌더링 및 스트리밍 응답
- 시스템 프롬프트 커스터마이징
- Windows 단일 실행파일 배포 (백엔드 내장)