
whichllm
Andyyyy64
Find the local LLM that actually runs and performs best on your hardware. Ranked by real, recency-aware benchmarks, not parameter count. One command, run it instantly.
AI 简介
whichllm 是一款用于在本地硬件上自动筛选并推荐最优大语言模型(LLM)的命令行工具。它基于实时、时效性加权的综合基准测试(如LiveBench、Chatbot Arena ELO等)对Hugging Face上适配用户GPU/CPU/RAM的GGUF格式模型进行排序,而非依赖参数量或静态榜单;支持Apple Silicon、NVIDIA GPU及纯CPU环境,并输出推理速度与质量得分。适用于个人开发者、AI爱好者及边缘部署场景,帮助用户快速确定当前硬件下实际可运行且性能最优的开源LLM。
Python
5.6k
Stars
297
Forks
21
Watchers
13
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分60.42
默认分支main