머핀봇에 AI 추가
개요
- 머핀봇(출시 초기 머핀봇 (Not) AI 아류작)은 출시때부터 단순히 DB에서 값을 핸덤으로 뽑아서 답변했음
- 하지만 이로 인한 한게예 부딪히게 되어 ChatGPT를 파인튜닝하여 머핀봇에 적용 하고자 함
설명
- 4o-mini 같은 가벼우면서 파인 튜닝이 되는 모델을 사용하여 머핀봇의 데이터(머핀이 친 데이터만 해당)를 학습함
- 이를 API로 끌고와서 사용
- 프롬프트를 작성하는 것 보다, 파인 튜닝을 하여 사용 하는것이 더 효과적이라 판단
- 머핀봇의 대답은 최대한 짧으면서 정확하지 않도록 할것임(전문적인 질문에 대답을 안하고 당황하는 식)
예상되는 문제점
- 데이터의 질이 우려됨
- 데이터의 질을 약간이라도 향상하기 위해 노가다가 요구될 것으로 보임
- 비용 문제
- AI의 답변 이슈
No due date
75% Completed