Building AI Inference & GPU Clusters @MooreThreads AI | Cloud Native | Virtualization | macOS/iOS - ex @sangfor / @vmware
认领后解锁:五维评分 · 雷达图 · CGI 排名
R0CKSTAR是AI推理与GPU集群领域的资深开发者,通过llama.cpp、sglang和Mooncake等高影响力项目,展现了在LLM推理优化和多云原生部署方面的深厚功底。
他长期活跃于AI基础设施社区,将C++与Python技术栈深度融合,打造了多个被广泛采用的高性能推理框架。
作为MooreThreads的技术骨干,他持续推动AI推理技术的边界,其项目累计获得12万+ stars,体现了在AI工程化领域的显著影响力。
输入 GitHub 用户名,生成你的技术坐标和可分享名片。
SGLang is a high-performance serving framework for large language models and multimodal models.