招聘信息分享 招聘信息分享 ← 返回岗位列表

广告大模型训练/推理优化研发工程师-Data

字节跳动📍上海研发研发/机器学习正式
发布时间:

岗位职责

1、深度学习引擎优化,参与训练和推理引擎的深度优化,包括编译优化、图融合技术、并行计算策略、低精度计算等; 2、高性能算子与框架研发,负责自研高性能算子库建设,进行异构硬件适配,利用SIMD、CUDA等技术实现算子的并行加速; 3、长序列的大规模分布式训练(DDP、FSDP、TP、SP、PP)和推理支持(RPC框架、vLLM、SGLang、TRT); 4、前沿技术调研与落地,探索下一代硬件架构、异构计算方案,将前沿技术转化为生产力。

任职要求

1、至少精通一门编程语言(如C、C++、Python),具备优秀的编码习惯并注重代码质量; 2、扎实的计算机科学基础,深入理解数据结构与算法、操作系统、计算机体系结构、高性能编程等核心知识; 3、了解PyTorch等深度学习框架,有FSDP,DeepSpeed等分布式训练经验; 4、熟悉vLLM、SGLang等推理框架; 5、具备高性能编程经验,熟悉Triton、CUDA、AscendC、BangC、DCU等编程。
前往官网申请 →