| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 8 | 9 | 10 | 11 | 12 | 13 | 14 |
| 15 | 16 | 17 | 18 | 19 | 20 | 21 |
| 22 | 23 | 24 | 25 | 26 | 27 | 28 |
Tags
- lora
- RAG
- GPT
- SFT
- 파인튜닝
- DPO
- odds
- Statistics
- qwen
- Algorithm
- Baekjoon
- Transformer
- Python
- Retriever
- Embedding
- COT
- Document Augmentation
- Do it
- fine-tuning
- LLM
- coding test
- Noise
- retrieval
- moe
- reranking
- Hallucination
- Noise Robustness
- DyPRAG
- NLP
- Parametric RAG
Archives
- Today
- Total
목록linear (1)
왕구아니다
[논문 리뷰] LoRA Soups : Merging LoRAs for Practical Skill Composition Tasks
본 논문 리뷰는 저의 개인적인 해석과 의견을 바탕으로 작성된 글입니다.내용 중 해석의 오류나 개념적인 착오가 있다면, 망설이지 마시고 댓글로 혼내주시면 감사하겠습니다~Preview- 2가지의 서로 다른 Task Skill를 결합해 새로운 Task를 해결할 수 있는지 실험한 논문- Task Skill를 결합하는 방법에는 Data-Mix, LoRA concat, LoRA linear merge 등등- 추가적으로 LoRA concat 방법론에서 각각의 LoRA를 병합할 때 사용하는 계수(가중치)를 학습 파라미터로 두는 Learnable Concat 방법 제안- 결론적으로 LoRA를 Concat하는 방법이 성능이 가장 좋았고, 이를 해석해보면 다른 방법들에 비해 서로 다른 Task Skill를 응용하는 능력까지..
Paper Review/NLP
2026. 2. 1. 23:57