登陆
蚂蚁集团何征宇呼吁行业加强软硬协同与生态建设
发布时间：2023-11-09 15:33:38
11月9日消息，在2023世界互联网大会乌镇峰会“数字化绿色化协同转型发展”分论坛上，蚂蚁集团首席技术官何征宇表示，AI和大模型的爆发推高了智能算力需求，数字化、绿色化协同发展的使命，要求行业亟需构建绿色、高质量的计算基础设施。
他呼吁行业加强软硬协同与生态建设，共同提升计算基础设施算力规模、可用性与宽容度。
何征宇认为，AI大模型时代，行业智能化的深度和广度在扩展，双化协同也迎来提速。“大语言模型与生成式AI让计算机开始具备语言与内容生产能力，将我们带入了通用人工智能时代，承载这种能力的智能计算资源需求也随之井喷，算力基础设施的效率提升和绿色化是必经之路。”
据何征宇介绍，上周蚂蚁百灵大模型正式通过了备案，蚂蚁集团搭建的绿色计算体系，也正在为百灵大模型提供绿色化的计算能力。蚂蚁建设了万卡异构集群，其中硬件算力效率（HFU）超过60%，集群有效训练时长占比90%以上，RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍，推理性能相较于业界方案提升约2倍，处于业界先进水平。
蚂蚁集团首席技术官何征宇
图源新浪科技
值得一提的是，11月7日，由上海人工智能实验室与商汤科技联合主办的IEEE“人工智能大模型”标准大会在深圳市工业和信息化局、IEEE标准协会指导下和深圳市市场监督管理局支持下顺利召开，近300位产业专家参加大会。会上，中国电子技术标准化研究院、上海人工智能实验室、华为云、百度、腾讯、蚂蚁、商汤科技、360、中兴通讯、美的、海信集团等国内首批11家单位发起成立了IEEE大模型工作组。
据介绍，此次大会上发起成立的IEEE大模型标准工作组，将协同国内外大模型产业力量，制定大模型技术规范、测评方法、安全可信、可靠决策等领域国际先进标准，为全球大模型产业技术创新和发展提供更好支撑。IEEE国际标准体系也将首次新增人工智能大模型领域国际标准。会后，由首批成员单位代表组成的编写组，连同国际专家，正式立项IEEE大模型标准工作组的首个标准《大规模深度学习模型评估框架及流程》。
IEEE大模型标准工作组正式成立
图源商汤科技SenseTime公众号