SparkEngineAI

QuantClaw-plugin

SparkEngineAI

QuantClaw is a plug-and-play task-type routing quantization plugin for OpenClaw.

AI 简介

QuantClaw 是一个即插即用的任务类型路由量化插件,专为 OpenClaw 设计。它能够自动分类每个传入请求,并将其映射到适当的精度级别(4位、8位或16位),然后将请求路由到正确的模型目标,从而在不需用户手动选择精度的情况下平衡质量、延迟和成本。该项目基于对OpenClaw工作负载的量化研究开发而成,通过评估不同任务类型下的量化与高精度模型表现来优化性能。适用于需要高效处理多样化任务且对计算资源敏感的场景,如代码生成、安全性检查及复杂工作流程管理等。

TypeScript
MIT License
116
Stars
1
Forks
1
Watchers
0
Issues

Star 增长

今日0
近 7 天+1
近 30 天+11
综合评分42.5
默认分支main