목록self-reflection (1)

왕구아니다

[논문 리뷰] SELF-RAG : LEARNING TO RETRIEVE, GENERATE, ANDCRITIQUE THROUGH SELF-REFLECTION

본 논문 리뷰는 저의 개인적인 해석과 의견을 바탕으로 작성된 글입니다.내용 중 해석의 오류나 개념적인 착오가 있다면, 망설이지 마시고 댓글로 혼내주시면 감사하겠습니다~Preview- SELF-RAG는 기존 RAG에 자기 평가(self-critique) 기능을 더해, 모델이 스스로 “지금 검색이 필요한지” 판단하고, “검색 결과가 답변에 실제로 도움이 되었는지”까지 평가하는 새로운 프레임워크- SELF-RAG는 LLM이 답변을 생성하는 중간에 특정 '평가 토큰(Reflection Tokens)'을 예측하도록 학습시킴- 학습 방법 : GPT-4로 token 생성 → Critic 모델 학습 → Critic 모델로 Generator 모델 학습 데이터 구성 → Generator 모델 학습- 추론 과정 (Infer..
Paper Review/RAG 2025. 8. 31. 14:47
이전 Prev 1 Next 다음