11/13 실험 결과 & 11/14 진행 실험 계획

[yeseoLee]

11/13 결과

• [EXP] 베이스라인 코드를 여러가지 LLM을 통해 실험해보기 #27

11/14 계획

내일 실험은 아래 내용 이어서 진행하면 될 것 같아요.

• 성재형이 돌린 KISTI Llama3 모델
• 목록 중에 제일 잘 나온 모델로 Quantization (fp8, fp4, ...) 성능 감소 정도 테스트
• 8B 이하에서 추가적으로 더 시도해볼만한 모델 실험
• 8B 이상 모델 돌리는 실험 (Gradient Checkpoint & Quantization 등등 사용)