大模型系统性能/成本优化专家

1、负责跟踪大模型训练与推理的前沿技术，结合昇腾算力平台特性进行技术迁移与创新，并制定相应的技术演进路线图。 2、主导大模型训练场景的端到端性能与成本优化，重点构建低精度训练技术体系（包括混合精度训练、8BIT及以下量化训练等），从算子到分布式框架实现全栈优化。 3、面向昇腾平台优化大模型推理性能，构建端云协同的推理架构，整合端侧与云侧算力，实现高效、低成本的推理服务。 4、推动算法与系统的深度协同，面向典型业务场景设计并落地高性价比的端到端AI系统解决方案。

1、计算机、人工智能等相关专业，5年以上AI系统研发或优化经验，熟悉Transformer等大模型架构。 2、精通PyTorch/TensorFlow等框架，掌握分布式训练、量化压缩、算子优化等关键技术，具备昇腾/GPU硬件优化经验。 3、具备系统级性能优化思维，能够进行端云协同架构设计，熟悉动态调度与异构资源管理。 4、具备良好的跨团队沟通与协作能力，对AI系统性能与成本平衡有深入理解。