“大模型Token服务性能监测平台(石景山)”发布
《科创板日报》16日讯,今日,在高质量词元(Token)服务研讨会上,中国信通院正式发布“大模型Token服务性能监测平台(石景山)”。据介绍,该平台实时对国内外30多个平台上百余款大模型Token服务的调用成功率、输出速度(TPS)、首词时延(TTFT)等几十项核心指标,开展每日多时、多地持续性监测,可为行业应用提供选型指引、为词元(Token)服务商能力提升提供标尺、为政府机构提供平台部署及词元(Token)监测服务。
22,944*特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。