咨询热线
HASHKFK
BETHASH官方网站(访问: hash.cyou 领取999USDT)
和AI PC概念,张献涛也直言,云电脑或许相较而言更适合部署大模型。“要在终端上面部署非常大的模型很难实现。可能你部署一个8B的模型就需要十几G的内存了,这是为什么现在的AI PC都要32G内存,至少也要16G内存才可以运行。跑个200B的模型,需要几百G的内存。你不可能为了跑一个模型,把一个电脑变成超级服务器,这种情况连散热可能解决不了。但云电脑可以,你通过API的调用就可以用上200B的模型”。