探索包含 gpu 主题特性的所有开源仓库、扩展插件与智能体组件。
提供gpu_status、gpu_exec、gpu_run_bg三类GPU工具,支持自动匹配最优GPU卡、按步骤分配GPU上下文,轻量集成无需额外配置,可快速完成大模型任务的GPU调度执行。
支持远程开发场景的安全门控SSH插件,兼容GPU服务器及离线实验室服务器环境,可保障连接的安全性与合规性,部署轻量易操作。
支持DSH环境本地大模型推理服务统一管控,提供GPU资源注册、推理参数配置、显存占用校验、框架速率测试能力,兼容llama.cpp、SGLang、vLLM等主流推理框架。