推理优化
-
腾讯云DeepSeek如何实现算法革命到推理涌现的突破?
腾讯云DeepSeek通过强化学习算法革新与分层架构设计,突破传统AI模型的推理瓶颈。其GRPO算法实现86.7%的数学解题准确率,动态参数激活技术降低70%推理成本,开源战略推动专业级AI能力普惠化,重塑医疗、金融等行业的智能化进程。
-
天翼云息壤数据库管理平台:异构算力融合与模型训推性能优化
天翼云「息壤」平台通过异构算力融合架构与全栈优化技术,实现模型训练效率提升2倍、推理成本降低40%以上。该方案在智慧政务、智能制造等领域完成规模化部署,验证了国产AI基础设施的技术可行性。
-
DeepSeek R1-V3推理服务如何比肩高端GPU?
DeepSeek R1/V3推理服务通过混合专家架构与强化学习技术突破,结合华为昇腾算力优化,在性能上比肩高端GPU。其动态批处理、算子融合等技术实现低延迟高吞吐,国产化适配与成本优势推动AI推理服务生态重构。