实现支持模型路由、负载均衡和 KV Cache 感知的大模型 HTTP 网关。