中国工程院院士郑纬民:随着ChatGPT的发展,算力将迎来高速扩张时代

2023-04-21 23:12:04 来源:21世纪经济报道


(资料图片仅供参考)

21世纪经济报道记者白杨 北京报道

在4月21日召开的“首届超互联新算力产业暨第三届中国IDC行业DISCOVERY大会”上,中国工程院院士郑纬民谈及人工智能产业发展时表示,人工智能(AI)算力是当前人工智能领域发展的关键,也是算力基础设施的重要组成部分,是新基建和国家“东数西算”工程的关键任务抓手。

郑纬民称,AI计算是近30年才有的,在海量数据、实时响应、极端条件等场景下,AI计算较通用计算优势愈发明显,尤其是随着ChatGPT的发展,算力需求大幅提升,算力也将迎来高速扩张时代。预计到2025年,我国AI算力总量将超过1800EFlops,AI算力占总算力比重超过85%。

在谈及AI计算与HPC(高性能计算)的区别时,郑纬民指出,HPC通常应用在天气预报、核聚变模拟、飞行器设计等领域,而AI计算是做分类、回归、自然语言处理等,二者应用场合不同,运算精度也不一样。

“传统的高性能计算机的测试结果与人工智能需要的性能不完全一致。高性能计算算力测试程序主要使用双精度浮点数运算,即64位浮点运算,人工智能训练以单精度浮点数,即32位浮点数为主。”在郑纬民看来,现在要做符合语言模型的训练,就要考虑半精度平衡性,即设计中主要考虑半精度运营性能,又要注意双精度运算能力不能过低,所以双精度与半精度运算性能之比为1:100较好。

除此之外,郑纬民认为AI计算还需要做到网络平衡设计和IO子系统平衡设计。“现在很多厂家都已经在考虑这三个平衡设计,国内也有差不多30个城市在建或者建好了AI超算中心。”据其预测,HPC+AI+大数据中心在未来不超过5年的时间内将会融合到一台计算机中,“既可以做HPC,又可以做AI,也能处理大数据”。

另外针对AI大模型,郑纬民提出,ChatGPT出来以后,大家对大模型训练都比较关心。在其看来,参数越多、训练的数据越多、计算机越多、效果就越好,越接近于人脑,这里面是正相关关系,所以探索更大参数模型的效果具有重要科学意义。

标签:

唐山加快验收时间 为建筑工地开复工保驾护航

唐山市住建局坚持两手抓、两手硬,统筹疫情防控和经济发展,想尽一切办法,简化一切手续,实现一路绿灯...

2022-03-19 15:15:42

消费者“身材焦虑” 减肥市场疯狂吸金

三月不减肥,四月徒伤悲。冬去春来之际,为了能穿上各种漂亮轻薄的服装,变得更瘦成为了许多人的追求,...

2022-03-19 15:14:49

2月份秦皇岛新建商品住宅销售价格环比下降0.2% 同比下降4%

3月16日,国家统计局公布2月份70个大中城市商品住宅销售价格变动情况,河北省入统的石家庄、唐山、秦皇...

2022-03-19 15:13:01

深圳技术进出口全年合同数量共1347项 同比增长2.51%

科技部火炬中心近日公布了2021年度全国技术合同交易数据。截至2021年12月31日,全国共登记技术合同67050...

2022-03-19 15:10:37

邢台柏乡:打造羊肚菌产业示范带 引领村级集体经济发展

我们通过打造食用菌产业高标准试验示范园,不仅盘活了闲置土地,还进一步增加了群众和村集体经济收入。...

2022-03-19 15:09:40

胡金秋32分17板 浙江广厦男篮“双杀”稠州金租

CBA浙江德比二番战昨晚开打,再度狭路相逢的浙江广厦男篮与浙江稠州金租男篮表现难分伯仲,比赛直到最后...

2022-03-19 15:07:37

黑龙江新增本土核酸检测初筛阳性人员5例 均在讷河市

  中新网12月13日电 据黑龙江省卫生健康委员会网站消息,2021年12月12日0-24时,黑龙江省无新增确诊...

2021-12-13 08:35:21

“恋爱盲盒”抽的不是爱情,是急功近利的心

  越是急功近利,越是焦虑,对恋爱关系的处理就越可能出现问题。  “玩法”简单,最低只需花费0 99...

2021-12-13 08:35:20

北京12月12日新增2例境外输入确诊病例

  中新网12月13日电 据北京市卫生健康委员会官方微博消息,北京12月12日新增2例境外输入确诊病例。 ...

2021-12-13 08:35:20

满洲里本轮疫情社会面“清零”,迎来拐点!

  满洲里本轮疫情社会面“清零”,迎来拐点!   ——访自治区卫生健康委员会党组书记、主任许宏智...

2021-12-13 08:35:19
x 广告
x 广告

Copyright ©  2015-2022 北方经营网版权所有  备案号:京ICP备2021034106号-50   联系邮箱: 55 16 53 8@qq.com