반응형 PEFT1 [Day4] LLM 스터디 1기 - 파인튜닝 개념 한 권으로 끝내는 실전 LLM 파인튜닝 - 강다솔 지음/위키북스3일 차가 고비였는데 4일 차는 쉬어가는 느낌이다. 파인튜닝이 무엇인지, 왜 쓰는지, 어떤 종류들이 있는지에 대해 조금은 가벼운 마음으로 공부했다.03. 전체 파인튜닝파인튜닝 개념 및 데이터 준비 과정 이해파인튜닝은(Fine-Tuning) 이미 학습되어 공개된 언어 모델(Pre-trained Language Model, 사전 훈련된 언어 모델)을 특정 작업에 맞게 추가로 학습하는 것을 말한다. 새로운 언어 모델을 개발하지 않고 굳이 파인튜닝을 하는 이유는 훨씬 더 경제적이고 편리하기 때문이다. 참고로 Llama 3 모델을 개발하는 데에는 약 7,700만 시간과 7억2천만 달러 이상의 비용이 들었다고 한다. 또한 우리가 가진 특정 분야의 (상대.. 2025. 1. 11. 이전 1 다음 반응형
