ATaaS可将万卡级智算集群运营成本压降20%以上，界面旧事获悉趋境科技正式发布全新一代AI推理平台 ——趋境 ATaaS高效能AI Token出产办事平台。大幅削减GPU算力开销。缓存射中率最高达90%，国产取非国产算力的深度融合及精细安排。据其测算，针对大模子使用迸发导致算力投入取Token产犯错配、该平台依托全球初创的异构推理沉构、超体量KV Cache等手艺，3月27日动静，