标签主题词 (Topic)

# llama-cpp

探索包含 llama-cpp 主题特性的所有开源仓库、扩展插件与智能体组件。

支持本地Llama模型通过OpenAI Responses协议调用,内置子代理调度委托能力,适配OpenAI接口工具链,无需修改现有调用逻辑即可运行本地多步代理任务

modelspoke
americanjeff

支持自动发现本地OpenAI兼容模型服务器,提供分层推理元数据解析能力,适配DeepSeek Harness工具链,无需手动配置地址即可快速调用本地模型资源,使用门槛低。

支持在「设置→插件」页一键启停 llama.cpp 本地大模型,覆盖35B/9B参数规格,兼容视觉、文本、快速推理及长上下文模式,卡片内可配置参数,一条命令安装并自动注册,装完即用。

dsh-model-manager
Ansonfishing

支持DSH环境本地大模型推理服务统一管控,提供GPU资源注册、推理参数配置、显存占用校验、框架速率测试能力,兼容llama.cpp、SGLang、vLLM等主流推理框架。

NixKits
Kihara777

汇集软件工具、补丁、NixOS 模块与AI编码助手技能,支持在NixOS环境快速复用各类模块与工具,也可直接为AI编码助手调用现成技能,省去手动配置的繁琐步骤。

dsh-compat-probe
jwilson411

DeepSeek Harness plugin: OpenAI-compat server protocol card (loopback probe, no GGUF)

dsh-llamacpp
jwilson411

提供轻量适配层,让本地llama.cpp服务直接兼容OpenAI接口规范,无需修改原有服务配置即可对接各类支持OpenAI接口的应用,降低本地大模型服务接入成本。