needle
needle 是 cactus 团队打造的端侧自动化基础模型，体积压缩至 2-bit、8-29MB，可直接在手机、可穿戴设备、微控制器上执行工具调用和结构化信息提取。适合需要在边缘端运行 LLM 能力、且对功耗和存储敏感的物联网与嵌入式开发者。
信号分 96 · 开发者工具 · 12,767 stars
查看来源分类归档
开发者工具 推荐工具
ToolPulse AI 持续追踪 开发者工具 方向的开源 AI 工具，整理每日推荐、来源证据和采用建议。
近期高信号项目
opencodex
opencodex 是统一 LLM Provider 代理层，支持 OpenAI Codex、Claude Code、Gemini、DeepSeek、Ollama 等多模型接入，通过统一接口解决多 Agent 工具链的模型切换问题。
信号分 96 · 开发者工具 · 6,458 stars
查看来源openmed
openmed 提供纯本地运行的医疗 AI 能力，内置 2200+ 医疗专用模型，支持临床命名实体识别和 HIPAA PII 去标识化。基于 Apple MLX 框架和 Python，可部署在 iOS/Android 边缘设备，Apache-2.0 许可允许商业使用，面向医疗信息化厂商和隐私合规团队。
信号分 96 · 开发者工具 · 5,302 stars
查看来源Rapid-MLX
Apple Silicon 本地 LLM 推理引擎，宣称比 Ollama 快 4.2 倍，支持 0.08 秒缓存 TTFT，内置 17 个 tool parsers，提供 OpenAI API 兼容层，可直接替代云端服务。
信号分 96 · 开发者工具 · 3,479 stars
查看来源