30日，南边+记者从高效率 AI Token 坐蓐办事商趋境科技获悉，该公司端庄发布全新一代 AI 推理平台——趋境 ATaaS 高效率 AI Token 坐蓐办事平台，破解大额硬件参加难以改造为优质 Token 产能、资源忽地与资本空耗隆起的行业逆境。

硬件高参加并不等同于高效Token产出，如行业濒临硬件负载分化，过度依赖GPU，CPU、内存等资源闲置空耗；软硬件迭代失衡，芯片硬件快速更新，配套软件生态适配滞后；算力树立失准，脱离业务SLO细腻化调遣，随意盲配激发资源冗余损耗；架构演进失衡，开源模块丰富，但拼接式集成难以支捏鸿沟化坐蓐等。

趋境 ATaaS平台依托四大自研中枢时候模块，构建袒护异构整合、智能调遣、弹性扩容的全链路能力，并将算力与动力封装为分层、面向具体应用场景定制的高效率Token办事，为国产算力提质增效、破解异构算力孤岛、结束鸿沟化降本增效。

趋境科技重构算力、电力与 Token 产量之间的效率弧线。如，深度会通 CPU+GPU、国产与非国产算力异构PD永别等时候，重构模子筹划逻辑，并基于算子与任务特征进行智能分流：CPU承载低筹划密度任务，国产算力卡处置高密度Prefill，大显存显卡承载高访存 Decode。万卡级智算集群举座运营资本压降20%以上。

通过架构重构，将正本依赖文雅显存承载的KV Cache存储空间扩张百倍至千倍，造成近乎无尽的缓存池资源，缓存掷中率最高可达90%，奏凯削减90%  GPU算力支拨。

基于算子级细腻仿真，推演大模子Token生周至链路的笼统、时延与访存发扬，结束算力资源的智能预指标与动态调优；围绕业务SLO分级需求，精确切分异构算力配额并壅塞资源优先级，可将万卡级智算集群硬件详细股源诓骗率最高升迁数倍。

依托系统化工程能力，结束万亿参数大模子7秒快速拉起与动态树立变更、数百节点超大鸿沟EP弹性调遣，以及智能容灾重构和负载平衡，造成平台原生支捏万卡级高性能横向扩张的重要能力。在落地初期，便鼓励某在线公司的AI业求结束千卡集群笼统结束翻倍升迁。

南边+记者 郜小平