LLM을 로컬 환경에서 사용하자

인공지능학과 석사과정 재학생입니다.

소규모로 운영할 아주 간단한 챗봇 모델을 준비해드립니다.

RAG를 활용하기 때문에 데이터는 꾸준히 업데이트 할 수 있도록 도와드립니다.

로컬 환경에서 본인이 가진 텍스트 문서들을 바탕으로 LLM에게 질문할 수 있는 채팅봇입니다.

@@연구 및 프로젝트 경험@@

Real-Time Locating System - with UWB(STM32 board 활용)

가상화폐 유동성 예측

코로나19 체온 스티커 탐지 모델 개발

MuseGan을 활용한 작곡 프로젝트

CycleGAN 을 활용해 셀카를 애니메이션화 하는 프로젝트

얼굴 인식을 통해 자동으로 화장(메이크업)해주는 프로젝트

KoBERT를 사용한 문장에서 감정을 분류하는 프로젝트

자동차 주행을 보조하는 모델을 개발(with YOLO)

컴퓨터 비전을 활용한 Lane Detection 프로젝트 - OpenCV(Bird Eye Veiw활용)

스타트업 비즈니스 모델 개발을 위한 AWS SIEM을 위한 Graph-머신러닝 프로젝트 참여

현대오토에버에서 주관하는 Hyundai H-Mobility Class (2023) 교육 참여

Google Machine Learning Bootcamp (2023) 교육 참여

삼성연구소에서 주관하는 LLM모델 경량화 대회에 참여 2024 (Jetson Orin AVX활용)

LangChain의 RAG와 GraphRAG를 비교하는 프로젝트

마이크로소프트의 GraphRAG를 한국어로 Fine-Tuning하여 재배포

간단한 LLM 챗봇을 제작해드립니다.

활용하시려는 범위를 정확히 지정해주셔야 합니다.

병원 홈페이지 사용 예시.

병원 홈페이지에서 사용할 챗봇입니다.

병원에서 판매하고 있는 건강 기능 제품에 대한 설명을 자세하게 할 수 있도록 해주세요.

비타민 주사의 효능에 대해 자세한 설명을 해주는 챗봇이 필요해요.

각종 성형술의 장단점을 비교해 사용자의 니즈에 맞는 시술을 추천하는 챗봇이 필요합니다.

기업 홈페이지 예시.

우리 기업을 소개하는 챗봇이 필요합니다. (홈페이지 홈 화면 배치를 위한 용도)

예를 들어 '회사의 업력에 대해 소개해줘', '다른 비슷한 회사들과 비교해줘' 등등이 필요합니다.

LLM 파인튜닝은 제가 진행해서 모델 파일을 고객에게 전송해드립니다.

간단한 LLM이 실행될 수 있는 GPU만 있으면 됩니다. (VRAM이 16GB이상이어야 합니다.)