딥러닝/LLM
-
[RAG] 임베딩 모델 선택딥러닝/LLM 2024. 4. 11. 14:53
임베딩 모델의 종류 1. Domain-Specific Model 특정 도메인에 대한 문서들로 이루어진 자료들을 사용해 학습한 모델 의료 처방전, 논문, 법 판례, 기술문서와 같은 문서로 학습 가능 분야별로 달라지는 언어적 표현과 언어의 특징을 학습하는 모델 2. General Model 주제와 상관없이 최대한 다양하고 대량의 문서들을 사용해 학습한 모델 글로벌 대기업들이 천문학적인 돈을 들여 만들어 놓음 여러 도메인에 범용적으로 사용 가능하다 ex) Text-embedding-3, Mistral 등등 3. Fine-Tuned Model 사전학습이 완료된 General Model에 특정 도메인에 특화된 문서들을 사용하여 그 도메인에 걸맞게 미세조정한 모델 -> Domain-Specific Model과 Ge..
-
[RAG] 챗봇 - 이전 대화 기억하여 답변하기딥러닝/LLM 2024. 4. 11. 13:22
도입 배경 기존의 chat gpt api를 사용할 시, 단발성의 질문요청과 답변을 주고 받았다 -> 이전의 대화에서 나왔던 답변에 대해 추가적인 질문을 할 수가 없는 문제가 발생 사용 코드 system_instruction = "농업 분야의 질문에 대해 상세히 설명해주세요" # Define your template with the system instruction template = ( f"{system_instruction} " "이전 대화 내용과 후속 질문을 참고하여 독립적인 질문을 만들어주세요." "대화 내역: {chat_history}" "후속 질문: {question}" ) # Create the prompt template condense_question_prompt = PromptTempla..