另外,在针对大模型的推理加速技术上,PPIO基于算法、系统和硬件的协同创新实践,以自研推理加速引擎,在PD分离、FlashMLA、DeepEP、DeepGEMM、EPLB、MicroBatchOverlap等核心技术上做了深度优化,实现推理效率与资源使用的动态平衡。Netflix第二季度运营利润为37.75亿美
他还提到AI产品的尺度是人,产品的设计要先让人用得爽,然后用得好、用得上。摩尔线程创新
比亚迪亚太汽