SantanderAI

llm_bridge

SantanderAI

A tiny, vendor-neutral LLM client library — one interface (LLMClient) with pluggable adapters for OpenAI, AWS Bedrock and Google Gemini, or bring your own backend.

AI 简介

llm_bridge 是一个轻量级、厂商中立的大语言模型(LLM)客户端库,提供统一接口 LLMClient,通过可插拔适配器支持 OpenAI、AWS Bedrock 和 Google Gemini 等主流后端,也允许用户接入自定义或本地 AI 服务。其核心特点是零强制依赖、纯标准库核心、按需安装厂商 SDK,并抽象出标准化的 chat/completion 调用与 LLMResponse 结构(含内容、Token 统计与延迟)。适用于需要在多云或混合 AI 基础设施间灵活切换、保障代码可移植性与测试友好性的工程场景,如企业级 AI 应用开发、MLOps 流水线集成及原型快速验证。

Python
Apache License 2.0
75
Stars
27
Forks
3
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分44.34
默认分支main