Talos

Talos worker 是一个用于将本地 GPU 资源接入 Talos 分布式 AI 推理网络的客户端工具。它通过 WebSocket 与 Talos 服务端通信，接收并执行开源大模型（LLM）推理任务，依赖本地运行的 Ollama 提供模型服务，并按实际服务时长和任务量向用户结算收益。项目采用 Python 编写，支持 NVIDIA GPU 自动检测与资源配额调节（0–1 连续分配），具备轻量部署、低侵入性及实时状态看板等特性。适用于个人开发者或边缘设备拥有者，希望利用闲置 GPU 算力参与去中心化 AI 推理网络并获取收益的场景。