阿里云推出面向自动驾驶范畴模型的练习、推理加快结构PAI-TurboX,该结构可提高感知、规划操控甚至国际模型的训推功率,在多个职业模型的练习使命中,PAI-TurboX均可缩短50%的时刻。

阿里云推出的PAI-TurboX,在多模态数据预处理、离线大规模模型练习以及实时智驾推理等环节供给了全面解决方案。在体系侧,PAI-TurboX经过优化CPU亲和性、动态编译、流水线并行等战略,明显提高模型的练习推理功率;在数据侧,PAI-TurboX提出了高性能的DataLoader引擎,而且优化了数据预处理流程和完成了智能练习样本分组,有用提高数据处理功率。
此外,PAI-TurboX还供给了算子优化和量化等才能,可进一步削减练习阶段的访存推迟,提高吞吐功率,一起在推理使命中,能在保证精度的一起下降核算开支与内存带宽需求,可完成异构平台下的高性能推理布置。