llm 모델 압축

오픈소스 LLM 양자화, 들어는 봤는데 정확히 뭘까요? 최근 인공지능, 특히 대형 언어 모델(LLM)의 발전 속도는 정말 놀랍습니다. 하지만 Llama, GPT 등 강력한 성능의 LLM들은 대부분 엄청난 덩치를 자랑하죠. 수백억, 수천억…