dsh-hafnium
文件与数据 活跃维护

dsh-hafnium

uckkk/dsh-hafnium

轻量级大模型推理加速框架,依托算子融合、内存复用等优化技术,支持英伟达及主流国产GPU部署,可降低大模型推理延迟与显存占用,开箱即用适配主流深度学习模型。

0
Stars 标星
0
Forks 分支
0
Watchers 关注
0
Open Issues
JavaScript
主要语言
MIT
开源协议
2 KB
仓库大小
1 个月前
最后推送
一键安装扩展 / 插件指令
dsh plugin --profile web add github:uckkk/dsh-hafnium
git clone https://github.com/uckkk/dsh-hafnium.git
git clone git@github.com:uckkk/dsh-hafnium.git
README.md main

dsh-hafnium · 铪元素

纯 Node 实现,无网络依赖。

dsh plugin add github:uckkk/dsh-hafnium