网络走的我自己部署的VPS,没用sub2api、或者cpa之类的代理,相当于直连,ccs统计的这个TPS正常吗,首字我觉得挺快的,体感上0.5秒就开始输出了,推理强度用的high,没开fast。或者有推荐不代理情况下有插件或者软件统计TPS和首字之类的吗

网络走的我自己部署的VPS,没用sub2api、或者cpa之类的代理,相当于直连,ccs统计的这个TPS正常吗,首字我觉得挺快的,体感上0.5秒就开始输出了,推理强度用的high,没开fast。或者有推荐不代理情况下有插件或者软件统计TPS和首字之类的吗

看起来你这个部署环境挺不错的,首字0.5秒确实算快的了
首字快就行了,其他参数看着也还行吧
首字0.5秒确实挺快的,我这边部署的要1秒左右,看来你的配置不错
请先 登录 后回复