全国首个！广州词元级算力服务平台让算力成“日用品”
当前，人工智能大模型的发展离不开算力的支撑。但由于用算成本高、供需对接不畅等问题，企业的技术落地面临一定瓶颈。
为解决这一问题，4月3日，广州正式发布全国首个基于词元（Token）级调度的城市综合算力运行服务平台——广州市一体化算力网监测调度平台。该平台旨在搭建全市算力资源与应用需求之间的桥梁，优化算力资源配置。通过这一平台，算力将从“奢侈品”变成“日用品”，供需双方的对接将更便利，算力价格也更透明。
广州市政务和数据管理局基础设施处处长陈耿介绍，以一家在广州落地的新兴无人机企业为例，该企业如需在广州本地寻找算力资源进行无人机数据的处理和分析，企业负责人就可以在上述平台发布需求信息，据此匹配至就近的、具有相应算力能力的供算单位。
在这一模式下，企业不仅寻找算力更便捷，用算成本也将大幅降低。陈耿介绍，平台以词元（Token）为统一计量基准，代替过去以机器数量或租用时间计量的粗略化管理，让算力的使用更精细、更高效。“对企业来讲，算力可以真正按需购买，大幅降低生产成本；在全市层面，算力可以像水和电一样，进行流动调配和错峰应用，且透明可溯源。”
深圳云天励飞技术股份有限公司高级总监陈漱玉表示，作为算力使用方，公司的大模型研发正从数据训练转向推理应用，词元成本是研发落地的关键。因为“每问一个问题都要烧钱”，所以词元成本决定了应用能否真正普及。如果算力调用成本大幅降低，中小企业、初创公司可以更大胆尝试，人工智能将真正走进千家万户。
据悉，该平台未来纳管算力将达7万P，成为集算力交易、供需撮合与政府监管于一体的算力资产流通枢纽。
与此配套的，广州移动、广州联通、云下科技、连云大数据4个获批算力项目在平台上线同日集体开工建设，总投资额48.39亿元，建成后将新增智算规模4万P，实现广州单体万卡万P智算中心建设零的突破。
启建仪式上，广州市政务和数据局黄津局长强调，平台将为企业提供便捷高效的“一站式”算力服务，切实破解企业用算难、用算贵等问题，让企业轻装上阵搞研发、拓市场。