[2023ODCC大会]中国移动刘振:解读《人工智能加速卡性能测试规范》
9月14日,2023开放数据中心大会—新技术与测试分论坛在北京国际会议中心顺利召开。中国移动研究院项目经理刘振详细解读了本次峰会正式发布的《人工智能加速卡性能测试规范》,此项目被评为“2023ODCC优秀项目”。
刘振表示,近年来,以神经网络和深度学习为代表的人工智能技术飞速发展,人类社会从信息时代加速迈入智能时代。从2022开始,随着以ChatGPT大型语言模型为标志的生成式人工智能的迅猛发展,人工智能迎来大模型时代。人工智能大模型被认为是革命性的技术进展,未来人工智能技术必将更深入地融入社会众多垂直行业,为数字化转型和智能化升级提供坚实的支撑。人工智能加速卡是人工智能时代重要的算力基础,随着人工智能技术及国内外人工智能加速卡厂商的迅速发展,目前已涌现出众多GPGPU、ASIC等架构的人工智能加速卡产品,同时,人工智能加速卡的应用范围和场景从特定专用向广泛通用快速发展。
《人工智能加速卡性能测试规范》旨在为人工智能加速卡提供科学的性能测试评估方法,促进人工加速卡技术的发展,推动相关产品在行业的落地应用和规模部署。测试规范以人工智能主要应用场景(如图像、语音、自然语言处理、推荐、大模型等)为基础,对人工智能业务进行研究,提取、分析、建模各类业务对人工智能加速卡的需求,覆盖基础性能测试、互联带宽测试、基础模型性能测试、大模型性能测试、虚拟化性能测试等内容。
最后,刘振表示,构建人工智能加速卡性能测试体系,适用于对不同厂商、架构及形态的人工智能加速卡产品的性能进行全面客观准确的评估。
联系人:温老师 电话:13683598363
邮 箱:wenxiaozhen@caict.ac.cn