ODCC大会焦点!新华三冯良磊:大模型时代下的AI算力平台
2024-09-24
9月4日,2024 开放数据中心大会服务器分论坛在北京国际会议中心成功召开。来自新华三集团智慧计算产品线的高级产品经理冯良磊发表了题为《大模型时代下的AI算力平台》的演讲。
冯良磊指出,AI技术的不断创新推动了生成式大模型的崛起,这一变革引发了算力的爆发式增长,对算力平台提出了前所未有的挑战。AI算力需求从万级参数时代到万亿级参数时代,增长了数千倍,对计算资源、存储能力和网络带宽的需求急剧上升。
冯良磊表示,新华三积极应对AI算力需求挑战,提出了多元化的算力基础设施解决方案。该方案涵盖智算资源服务、通算资源服务、高算资源服务,以及丰富的云服务和安全服务,通过多元异构算力实现计算效率最大化。同时,新华三还致力于算力调度、加速服务的研发,提供模型训练、调优、推理等一站式平台,助力AI应用快速落地。
冯良磊提到,新华三算力方案已全面支撑多个智算中心的落地,如上海智算中心、萧山智算中心等,为政府、企业等客户提供了强有力的算力支撑。他表示,随着AI技术的不断发展,新华三将继续优化算力平台,推动AI算力平台的智能化、高效化、绿色化发展。
ODCC联系人:
刘老师 13488889649(微信同号)
邮箱:liupengyun@caict.ac.cn