Layr-Labs

d-inference

Layr-Labs

Private Inference Network on Idle Macs

AI 简介

Darkbloom 是一个基于闲置 Apple Silicon Mac 构建的去中心化私有推理网络,支持 OpenAI/Anthropic 兼容 API。其核心通过 MLX 框架在进程内执行模型推理,结合内核级防护(PT_DENY_ATTACH、Hardened Runtime)、端到端加密(NaCl Box)与四层硬件可信链(Secure Enclave、MDM、Apple Managed Attestation、APNs)实现强隐私保障,确保提供方无法访问用户提示词或响应内容。适用于对数据主权敏感的场景,如企业本地化 AI 服务、合规性要求高的金融/医疗推理任务,以及希望利用自有设备资源降低云成本的开发者。

Go
226
Stars
43
Forks
5
Watchers
83
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分41.93
默认分支main