AI导读:

广州市发布全国首个基于“词元”级调度的城市综合算力运行服务平台,旨在优化算力资源配置,推动人工智能应用场景赋能千行百业,共筑算力生态圈。

当前,大模型逐渐从大规模训练转向推理应用,词元(Token)成本成为制约AI应用大规模落地的核心瓶颈,企业面临用算难、用算贵的问题。4月3日,广州市算力新基建开工暨算力供需会上,广州市政务服务和数据管理局联合广州数科集团正式发布全国首个基于“词元”级调度的城市综合算力运行服务平台——广州市一体化算力网监测调度平台。该平台搭建了全市算力资源与应用需求的桥梁,优化算力资源配置,推动更多人工智能应用场景赋能千行百业,共筑算力生态圈。