| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
- Algorithm
- RAG
- Statistics
- reranking
- Document Augmentation
- lora
- Parametric RAG
- Embedding
- odds
- Noise
- moe
- DPO
- retrieval
- qwen
- Python
- fine-tuning
- NLP
- Retriever
- COT
- Do it
- Hallucination
- DyPRAG
- 파인튜닝
- Baekjoon
- Noise Robustness
- LLM
- coding test
- Transformer
- GPT
- SFT
- Today
- Total
목록reranking (2)
왕구아니다
본 논문 리뷰는 저의 개인적인 해석과 의견을 바탕으로 작성된 글입니다.내용 중 해석의 오류나 개념적인 착오가 있다면, 망설이지 마시고 댓글로 혼내주시면 감사하겠습니다~Preview- NAVER LABS에서 발표한 논문- Provence는 context pruning을 token-level binary classification으로 정의하고, LLM이 만든 silver label을 이용해 학습한 lightweight cross-encoder 모델- Reranking과 pruning을 하나의 모델로 통합(unified)하여, 추가 연산 없이(pruning 거의 공짜) 높은 compression에서도 QA 성능을 유지하거나 오히려 향상- Compression ratio를 고정하는 대신 threshold 기반 ..
본 논문 리뷰는 저의 개인적인 해석과 의견을 바탕으로 작성된 글입니다.내용 중 해석의 오류나 개념적인 착오가 있다면, 망설이지 마시고 댓글로 혼내주시면 감사하겠습니다~Preview- RAG 파이프라인 안에서 LLM이 불필요한 문서로부터 혼란을 겪는 문제를 해결하기 위해 제안된 지식 정제 기법- RAG 파이프라인 안에서 질문과 검색된 문서를 RankCoT 모델을 이용해 답변 생성에 필요한 CoT를 생성(self-refined or reranked CoT 생성)- 최종 답변은 질문과 앞서 생성된 CoT를 바탕으로 LLM이 생성Link- 논문 : https://arxiv.org/abs/2502.17888- 코드 : https://github.com/NEUIR/RankCoT 논문 읽기 전...RAG 파이프라..
