GeekNews
llmfit - 내 하드웨어에 맞는 LLM 모델을 찾아 자동 최적화하는 터미널 도구 | GeekNews
하드웨어 사양(RAM·CPU·GPU)에 맞는 LLM 모델을 자동으로 찾아 최적화해주는 터미널 도구입니다. - **모델 가용성 평가**: RAM·CPU·GPU 정보로 실행 가능 여부를 판정 - **점수화/정렬**: **품질·속도·적합도·컨텍스트** 기준으로 모델을 점수화 - **로컬 런타임 통합**: **Ollama**, **llama.cpp**, **MLX**와 연결해 설치·감지·다운로드 - **동적 양자화/속도 추정**: **Q8_0~Q2_K** 양자화 순회 및 GPU 대역폭 기반 속도 계산 - **Plan 모드**: 목표에 필요한 **최소/권장 하드웨어**를 역산하고 조합을 제안
