大模型推理工程师 — 快手 | CodeTrace大模型推理工程师
偏AI / 机器学习 · 北京 · 常见要求 3+ 年 · 技能线索 深度学习 / 机器学习 / C++
岗位描述
职位描述
- C/C++Java机器学习深度学习大模型算法广告算法强化学习推荐算法Python
职位描述
- 【关于我们】我们全面打造 AI Infra：大模型训练、推理引擎，为公司核心大模型(基模+MaaS)场景提供⾼速、稳定、可扩展、低成本的⼤模型训练与推理服务；在这⾥，你将参与推动分布式训练、强化学习（RL）、微调（SFT）、算子优化、混合精度与量化加速、KV Cache 管理、推理调度与 Pipeline 优化等前沿技
职位描述
- 负责推理核⼼模块建设，包括 KV Cache 管理、Batching/Scheduling、Prefill/Decode Pipeline、PD 分离等；
- 负责推理性能优化，面向 TTFT/TPOT/TPS/RPM 等指标进行系统级优化（算子、显存、通信、调度）；
- 负责推理侧算子研发与优化，包括算子融合、Kernel 优化、图优化、推理编译优化，以及 INT8/FP8/FP4 等量化推理加速方案落地；
- 负责推理稳定性与高可用建设，包括故障恢复、限流降级、容量评估、自动化诊断与 SLA 保障；
- 推动推理平台化能力建设，包括模型发布流程、灰度、监控、日志、Tracing 与自动化运维工具链。
想讨论这类机会？
扫码进群，和我们交流方向与市场信号（不是投递表单）。
熟练掌握 C++/Python，具备高性能系统研发能力；
熟悉 Transformer 推理原理，理解 Attention、KV Cache、采样策略等机制；熟悉主流推理框架或推理引擎（TensorRT/Sglang/vLLM 等）；熟悉 GPU/NPU 性能调优与 profiling，能定位性能瓶颈并推动优化落地；为保护隐私与来源边界，仅展示经过脱敏与结构化整理的公开摘录。