PANews 8月19日消息,据界面新闻报道,Cerebras发布新一代AI加速器CS-4,称其推理速度最高可达基于GPU方案的30倍。CS-4采用三颗新型WSE-3Turbo晶圆级引擎,AI算力达750PFLOPS,内存带宽达129.6PB/s。Cerebras表示,在GPT-OSS-120B测试中,CS-4每用户每秒生成超过4400个Token,最高达到GPU方案的30倍;其每瓦吞吐量最高为CS-3的10倍,并可支持超过50万亿参数的模型。CS-4预计将于今年第三季度开始出货。

作者 Reporter

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注