[AI CHAT BOT] 사용자 경험을 위한 RAG 답변 생성 최적화 개발 (병렬 처리, k값 수정 등)
[SANGMYUNG AI] 사용자 경험을 위한 RAG 답변 생성 최적화 개발 (병렬 처리, k값 수정 등)
[AI CHAT BOT] 응답 속도 개선을 위한 스트리밍 설계, Next -> Nest -> Python 실시간 렌더링 Nest -> Python 실시간 렌더링" data-og-description="[Python] 멀티프로세싱으로 처리 속도 올리기 (multiprocessing)이전 글 읽
blog.juyear.dev
이전 글 읽으러 가기!
👋 소개
안녕하세요! 대학생 개발자 주이어입니다.
오랜만에 블로그 글을 적는 것 같은데... 최근에 프로젝트 2개를 진행하다 보니 적을 시간이 없었던 것 같습니다.
쨋든 오늘은 드디어 SANGMYUNG AI가 베타 출시를 하게되어서 간단하게 서비스를 소개하고,
사소했던 이슈 하나와 일주일 동안의 유저 이용 기록을 정리해보려고 합니다.
먼저 시작하기 전에 SANGMYUNG AI를 이용해주시고 관심가져 주신 모든 분들께 감사드립니다.
🛠️ 기술 스택
- Frontend : Next, JS, TS, CSS
- Backend : Nest, Node, Python
- DataBase : PostgreSQL
- ORM : Prisma
- Server : vercel, fly.io, railway, supabase(db)
- Library : Lottie, TextWriter, TextArea, ReactCalendar, etc.
- API : GPT API
- Design : S8(갤탭), pinterest
- Others : Docker
🧩 주요 기능 소개
1. 🤖 AI 챗 봇
서비스의 가장 핵심인 AI 챗 봇 기능입니다.
RAG방식으로 학교 공지사항과 에브리타임 글들을 참고하여 답변을 생성합니다.
정보성 이외의 질문에 대해서는 데이터 여부에 따라 답변의 정확도가 많이 달라질 수 있지만,
졸업요건이나 학사일정과 같은 확실한 정보에 대해서는 굉장히 높은 정확도를 보여줍니다.
2. 🍜 오늘의 학식
두 번째 기능은 "오늘의 학식" 입니다. (사이드 탭에서 이용하실 수 있습니다.)
참고 사진과 함께 오늘의 학식을 볼 수 있는 페이지입니다.
교직원 식당과 학생 식당 모두 지원하며, 월요일부터 금요일까지 일주일의 학식을 모두 확인할 수 있습니다.
3. 📅 학사일정
세 번째 기능은 "학사일정" 입니다. (사이드 탭에서 이용하실 수 있습니다.)
달력 형태로 된 화면에서 학사일정을 확인할 수 있으며, 1년치의 일정을 모두 확인할 수 있습니다.
날짜를 클릭할 경우 세부 일정을 밑에서 확인할 수 있으며, 학교 사이트로 접속해 확인할 수도 있습니다.
4. 🚌 버스시간
네 번째 기능은 "버스시간" 입니다. (사이드 탭에서 이용하실 수 있습니다.)
통학버스와 셔틀버스 시간표를 모두 제공하며, 등교시간과 하교시간에 맞춰 자동으로 변환됩니다.
또한 버스 아이콘이 시간에 맞춰 실제로 움직이는 듯한 애니메이션 연출도 보실 수 있습니다.
5. ➕ 기타
- 서비스
서비스에 대해서 소개하는 페이지 - 공지사항
서비스 관련 공지사항을 올리는 페이지 - 문의하기
서비스에 대해서 문의할 수 있는 페이지 - TEAM
팀원 모집에 대해서 소개하는 페이지
위와 같은 기타 페이지들이 존재합니다.
📢 베타 홍보 진행
서비스가 저희 학교 학생들을 위한 서비스이다 보니, 자연스럽게 에브리타임(학교 커뮤니티)에 홍보를 하게 되었습니다.
위와 같이 익명으로 홍보를 진행하였으며,
페인 포인트 마케팅이라고 불리는 방식으로 홍보글을 작성해주었습니다.(크게 강조하진 않았지만...)
페인 포인트 마케팅이란, 불편했던 점과 같은 문제를 제시하고, 이 문제를 이 서비스로 해결할 수 있다고 강조하는 방식의 마케팅입니다.
제 글에선 평소에 에브리타임에 질문하고, 다른 사람이 답변을 달아줄 때 까지 기다려야하는 점을 페인 포인트로 제시했습니다.
그 후 서비스의 AI 챗 봇을 이용하면 해결할 수 있다고 솔루션을 제시했습니다.
📝 베타 리포트
이용량 정리
홍보글을 올린 이후에 생각보다 많은 학생들이 이용해주셨습니다.
홍보글을 올린 당일에만 86분이 이용해주셨으며,
일주일동안 323분이 이용해주셨습니다.
또한 이렇게 많은 분들이 제 홍보글에 반응을 해주셨습니다.
AI 답변 생성은 14분이 평가를 해주셨고, 13분이 답변 생성이 만족스러웠다고 평가해주셨습니다.
사소한 이슈
배포 이후에 아주 사소한 문제가 있었는데...
바로 생각 의외로 많은 분들이 이용해주시면서 GPT API 사용량을 다 사용한 것입니다.
(사실 비용 충전을 고려 못한 제 잘못이지만...)
그래서 약 4번 정도의 답변 생성에 문제가 있었지만, 서버 로그를 확인한 이후에 바르게 비용을 충전하여
이후에는 문제없이 잘 작동하였습니다.
위 사진은 문제 해결 이후에 이용을 못 했던 유저들을 위해 올렸던 글 사진입니다.
🙏 마무리
공개용으로 만든 프로젝트는 이번이 3번째인데,
특히 더 많은 분들이 관심을 가져주시고 이용해주셔서 보람찬 것 같습니다.
앞으로 지속적으로 업데이트를 진행할 예정이며, 확실히 이용해주시는 유저들이 있으니
더 힘이나고, 프로젝트에 정도 가는 것 같습니다.
지금까지 읽어주셔서 감사드리고, 다음에는 더 좋은 글로 찾아오도록 하겠습니다.
SANGMYUNG AI
sangmyung-ai.kyter.net
위 링크를 통해 사용해보실 수 있습니다.
KYT CODING COMMUNITY Discord 서버에 가입하세요!
Discord에서 KYT CODING COMMUNITY 커뮤니티를 확인하세요. 23명과 어울리며 무료 음성 및 텍스트 채팅을 즐기세요.
discord.com
KYT CODING COMMUNITY 가입하기!
'[Projects] > [SANGMYUNG AI]' 카테고리의 다른 글
| [SANGMYUNG AI] 사용자 경험을 위한 RAG 답변 생성 최적화 개발 (병렬 처리, k값 수정 등) (14) | 2025.07.24 |
|---|---|
| [SANGMYUNG AI] 응답 속도 개선을 위한 스트리밍 설계, Next -> Nest -> Python 실시간 렌더링 (6) | 2025.07.21 |
