吉网

华为云CTO张宇昕:大模型时代需要全新的网络互联技术

导读 【华为云CTO张宇昕:大模型时代需要全新的网络互联技术】!!!今天受到全网的关注度非常高,那么具体的是什么情况呢,下面大家可以一起来看看...

【华为云CTO张宇昕:大模型时代需要全新的网络互联技术】!!!今天受到全网的关注度非常高,那么具体的是什么情况呢,下面大家可以一起来看看具体都是怎么回事吧!

【华为云CTO张宇昕:大模型时代需要全新的网络互联技术】华为云CTO张宇昕在巴塞罗那华为云峰会表示,大模型时代对算力有着全新的要求:联算比。

未来需要全新的网络互联技术来解决运算量和GPU算力之间的巨大差距。

2、容算比。

当前在模型训练过程中为获取足够显存容量,存在不必要的GPU算力闲置。

3、存算比。

当前在模型训练过程中,大量的时间消耗在GPU数据加载,造成算力的进一步浪费。

基于此,云的系统架构将从“以CPU为中心的主从架构”向“多元算力对等架构” 跃迁,突破算力、存储和网络的边界,实现多元算力的对等全互联。

以上就是关于【华为云CTO张宇昕:大模型时代需要全新的网络互联技术】的相关消息了,希望对大家有所帮助!